Нередко ИИ находит то, чего на самом деле нет

ТехИнсайдерHi-Tech

Как ИИ делает ошибки и обманывает исследователей

Владимир Губайловский

bf2f09f215599e14ae8aa4dba9890fd5_ce_1800x1198x0x73.jpg
DeepMind @deepmind. Unsplash

Специалисты по Computer Science из Принстонского университета опубликовали исследование, в котором они показали, что использование ИИ часто приводит к ошибкам, которые крайне трудно отыскать. Очень многие работы в самых разных областях науки используют некорректные данные для обучения сетей. Это приводит к ложным предсказаниям. Особенно опасны такие ошибки в медицинских приложениях.

Сегодня методы ИИ и особенно нейросети используются в самых разных областях науки - от исследований генома до регистрации быстрых всплесков в астрономии. Нейросети очень популярны. Они где-то на самой вершине хайпа среди всех научных методов. Ученый, который их не использует, кажется ретроградом, а тот кто активно использует - современным продвинутым специалистом.

Но нейросети были разработаны для решения довольно ограниченного круга задач (в первую очередь задач распознавания образов). Отцы-основатели этого метода были серьезными людьми, и хорошо знали как нейросетями правильно пользоваться.

А когда нейросети стали использовать ученые очень далекие по своей специализации от Computer Science, возникли невоспроизводимые результаты, которые невозможно повторить, и невероятные предсказания, которые попросту ложны.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Екатерина Климова и Елизавета Хорошилова: Екатерина Климова и Елизавета Хорошилова:

Екатерина Климова — о своих отношениях с детьми

Караван историй
10 способов приготовить привычные блюда по-новому: кулинарные лайфхаки на каждый день 10 способов приготовить привычные блюда по-новому: кулинарные лайфхаки на каждый день

Оригинальные способы приготовления хорошо знакомых блюд

ТехИнсайдер
Управляет ядерным реактором и читает Достоевского. Интервью со студенткой Томского Политеха Алиной Горбуновой Управляет ядерным реактором и читает Достоевского. Интервью со студенткой Томского Политеха Алиной Горбуновой

Интервью с первой в России женщиной, управляющей ядерным реактором

СНОБ
Эти галактические явления пугают даже опытных астрономов: чего мы не знаем о Вселенной Эти галактические явления пугают даже опытных астрономов: чего мы не знаем о Вселенной

Галактические явления, которые нарушают прогнозы и ставят в тупик

ТехИнсайдер
Покажи своему парню: чего ждать от тещи по знаку зодиака Покажи своему парню: чего ждать от тещи по знаку зодиака

У твоего мужчины нет причин для страха перед будущей (или уже настоящей) тещей!

VOICE
«Она символизировала мудрость»: что писатели и художники думали о Гертруде Стайн «Она символизировала мудрость»: что писатели и художники думали о Гертруде Стайн

О влиянии Гертруды Стайн на мир искусства во всех его проявлениях

Правила жизни
Первая леди Первая леди

Как революционная феминистка стала лицом советской дипломатии

Дилетант
Почему раздельный купальник назвали бикини и как это оскорбило ученых (спойлер - да, всё дело в женской наготе!) Почему раздельный купальник назвали бикини и как это оскорбило ученых (спойлер - да, всё дело в женской наготе!)

Появление раздельного купального костюма произвело поистине взрывной эффект

VOICE
Это слишком: из-за какой черты Ленин требовал сместить Сталина с поста генсека Это слишком: из-за какой черты Ленин требовал сместить Сталина с поста генсека

О чем написал Владимир Ленин в своих последних заметках?

VOICE
Что делать, если жвачка прилипла к волосам и одежде: 9 простых советов Что делать, если жвачка прилипла к волосам и одежде: 9 простых советов

Мы надеемся, что вы никогда не найдете жвачку в своих волосах или на одежде

ТехИнсайдер
Просто добавь воды: собираем и завариваем по науке Просто добавь воды: собираем и завариваем по науке

Как собрать душистый букет разнотравья для чая?

ТехИнсайдер
Сад для ленивых Сад для ленивых

Как облегчить работу на даче? Посадить многолетники!

Лиза
7 самых переоцененных фильмов 2020-х годов 7 самых переоцененных фильмов 2020-х годов

«Платформа», «Довод» и другие хорошие, но переоцененные кинокартины

Maxim
Чистая работа Чистая работа

12 способов сделать стирку проще

Лиза
«Пусть они заткнутся»: история медсестры Марии Фикачковой, убивавшей младенцев «Пусть они заткнутся»: история медсестры Марии Фикачковой, убивавшей младенцев

Как Мария Фикачкова три года убивала младенцев и думала, что ее не поймают

VOICE
Соль земли: как технологии позволяют анализировать почву и повышать урожайность Соль земли: как технологии позволяют анализировать почву и повышать урожайность

Какие технологии сегодня позволяют анализировать почву?

ТехИнсайдер
О феномене женского лидерства О феномене женского лидерства

Есть ли отличия между «мужским» и «женским» лидерством?

СНОБ
Долой рутину: как технологии экономят время современного учителя Долой рутину: как технологии экономят время современного учителя

Как сервисы автоматизируют повседневные дела учителей

ТехИнсайдер
Как сериал «Этим летом я стала красивой» продвигает патриархальные стереотипы о любви Как сериал «Этим летом я стала красивой» продвигает патриархальные стереотипы о любви

«Этим летом я стала красивой» — сериал, снятый по сценарным ходам из 1990-х

Forbes
Так сошлись звезды: зачем предприниматели и политики ищут ответы в астрологии Так сошлись звезды: зачем предприниматели и политики ищут ответы в астрологии

Как обращение к предсказательным практикам определяло историю

Forbes
Больше знаешь — меньше спишь: 50 фактов о сексе Больше знаешь — меньше спишь: 50 фактов о сексе

Если ты думаешь, что давно уже гуру в сексе, то эта статья точно для тебя

VOICE
Рэйнор Винн: «Дикая тишина». Продолжение международного бестселлера «Соленая тропа» Рэйнор Винн: «Дикая тишина». Продолжение международного бестселлера «Соленая тропа»

Отрывок из романа-путешествия пожилой пары — в этот раз в Исландии

СНОБ
Краткая история БПЛА: для чего были созданы первые дроны и как они стали непревзойденными разведчиками Краткая история БПЛА: для чего были созданы первые дроны и как они стали непревзойденными разведчиками

Чтобы летало и чтобы управлялось дистанционно — в истории БПЛА это было важно

ТехИнсайдер
Тариф молодежный. Как получить субсидию за сотрудников до 30 лет Тариф молодежный. Как получить субсидию за сотрудников до 30 лет

Работодатели могут получить субсидии за трудоустройство сотрудников моложе 30

Inc.
Программисты поменяли интересы как ученые Программисты поменяли интересы как ученые

Стратегии выбора исследований делятся на группы консервативных и радикальных

N+1
Китайская компания SMIC разработала чипы по современной 7-нм технологии Китайская компания SMIC разработала чипы по современной 7-нм технологии

Казалось, что Китаю не удастся "опуститься" ниже 10-нанометровой технологии

ТехИнсайдер
«Джеймс Уэбб» отыскал еще одного кандидата в самую далекую галактику «Джеймс Уэбб» отыскал еще одного кандидата в самую далекую галактику

Астрономы обнаружили нового кандидата в рекордно далекую галактику

N+1
Дамоклов меч: что такое прокрастинация и как она разрушает жизнь Дамоклов меч: что такое прокрастинация и как она разрушает жизнь

Причины прокрастинации и способы борьбы с ней

Forbes
Как в 50 выглядеть на 35: в чем главный секрет невероятной молодости королевы Рании Как в 50 выглядеть на 35: в чем главный секрет невероятной молодости королевы Рании

Как супруга короля Иордании Рания в 51 год умудряется выглядеть на 35 лет

VOICE
Как и что говорить, чтобы покорить его на первом свидании? Советы, которые работают Как и что говорить, чтобы покорить его на первом свидании? Советы, которые работают

Как сделать так, чтобы он точно перезвонил? Рассказываем

VOICE
Открыть в приложении