Нередко ИИ находит то, чего на самом деле нет

ТехИнсайдерHi-Tech

Как ИИ делает ошибки и обманывает исследователей

Владимир Губайловский

bf2f09f215599e14ae8aa4dba9890fd5_ce_1800x1198x0x73.jpg
DeepMind @deepmind. Unsplash

Специалисты по Computer Science из Принстонского университета опубликовали исследование, в котором они показали, что использование ИИ часто приводит к ошибкам, которые крайне трудно отыскать. Очень многие работы в самых разных областях науки используют некорректные данные для обучения сетей. Это приводит к ложным предсказаниям. Особенно опасны такие ошибки в медицинских приложениях.

Сегодня методы ИИ и особенно нейросети используются в самых разных областях науки - от исследований генома до регистрации быстрых всплесков в астрономии. Нейросети очень популярны. Они где-то на самой вершине хайпа среди всех научных методов. Ученый, который их не использует, кажется ретроградом, а тот кто активно использует - современным продвинутым специалистом.

Но нейросети были разработаны для решения довольно ограниченного круга задач (в первую очередь задач распознавания образов). Отцы-основатели этого метода были серьезными людьми, и хорошо знали как нейросетями правильно пользоваться.

А когда нейросети стали использовать ученые очень далекие по своей специализации от Computer Science, возникли невоспроизводимые результаты, которые невозможно повторить, и невероятные предсказания, которые попросту ложны.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Алена Хмельницкая: «Английскую няню ребенку нужно брать как можно раньше» Алена Хмельницкая: «Английскую няню ребенку нужно брать как можно раньше»

Можно ли вырастить ребенка-билингва в русскоязычной семье? Своим опытом делится актриса Алена Хмельницкая.

Psychologies
Самые яркие «Анны Каренины»: актрисы, которым пришлось броситься под поезд Самые яркие «Анны Каренины»: актрисы, которым пришлось броситься под поезд

Кто в истории кино играл Анну Каренину

VOICE
Как не надо мыть автомобиль: 5 ошибок, которые совершают чаще всего Как не надо мыть автомобиль: 5 ошибок, которые совершают чаще всего

Как во время мытья автомобиля не повредить лакокрасочное покрытие

CHIP
Тернистый путь к Тернистый путь к

Перед тем как выйти на красные дорожки, актеры залечивают раны

ТехИнсайдер
В Южной Корее родились клонированные отредактированные бигли В Южной Корее родились клонированные отредактированные бигли

Ученые получили двух клонов бигля с мутацией, связанной с болезнью Паркинсона

N+1
Кто выращивает редкие кулинарные травы в Подмосковье Кто выращивает редкие кулинарные травы в Подмосковье

Бизнес, который сегодня снабжает растениями московские рестораны высокой кухни

СНОБ
5 вопросов про Курбан-байрам 5 вопросов про Курбан-байрам

Ответы на базовые вопросы об одном из самых главных мусульманских праздников

Maxim
Как привлечь в свою жизнь богатство с помощью рун: советы эзотерика Как привлечь в свою жизнь богатство с помощью рун: советы эзотерика

Могут ли руны помочь осуществить желание про богатство?

VOICE
Беннифер навсегда: история любви Дженнифер Лопес и Бена Аффлека — 20 лет назад и сейчас Беннифер навсегда: история любви Дженнифер Лопес и Бена Аффлека — 20 лет назад и сейчас

Бурный роман, расставание и воссоединение: история Джей Ло и Бена Аффлека

Правила жизни
7 особенных фильмов и сериалов красавицы Виктории Толстогановой 7 особенных фильмов и сериалов красавицы Виктории Толстогановой

Роковая женщина, добрая внутри!

Maxim
Дженнифер Лопес и Бен Аффлек вместе навсегда или снова расстанутся? Прогноз нумеролога Дженнифер Лопес и Бен Аффлек вместе навсегда или снова расстанутся? Прогноз нумеролога

Нумеролог сделал самый детальный разбор судеб Дженнифер Лопес и Бен Аффлека

VOICE
Лариса Лужина: Лариса Лужина:

Обычная жизнь всегда скучнее той, которую для тебя придумали в сценарии

Коллекция. Караван историй
Почему «Лучше звоните Солу» — великий сериал. Полный гид по спин-оффу «Во все тяжкие» Почему «Лучше звоните Солу» — великий сериал. Полный гид по спин-оффу «Во все тяжкие»

Разбираем на составляющие сериал «Лучше звоните Солу»

Правила жизни
Кожа и стресс: волнительный момент Кожа и стресс: волнительный момент

Хронический стресс пагубно сказывается на коже, но как ей помочь?

Лиза
Какими вырастают дети при «токсичных» мамах Какими вырастают дети при «токсичных» мамах

Кто такая токсичная мама?

Psychologies
Характер нордический Характер нордический

Вокруг нордической кухни ходит немало споров

Bones
На Крите нашли 4000-летние случаи инфицирования чумной палочкой и сальмонеллой На Крите нашли 4000-летние случаи инфицирования чумной палочкой и сальмонеллой

Палеогенетики обнаружили древние патогены чумной палочки у четырех индивидов

N+1
«Сивику» — 50. Незаурядные факты о главной модели Honda «Сивику» — 50. Незаурядные факты о главной модели Honda

Вспоминаем самые любопытные и нескучные факты о «Сивике»

РБК
Мартин Иванов: Всех своих «Таурусов» я получил за фильмы о Борне Мартин Иванов: Всех своих «Таурусов» я получил за фильмы о Борне

Чем известен автомобильный каскадёр Мартин Иванов?

4x4 Club
Предковая компонента в геномах удмуртов и бесермян оказалась «удмуртской» Предковая компонента в геномах удмуртов и бесермян оказалась «удмуртской»

Генетики исследовали ДНК 28 удмуртов и бесермян

N+1
Товарный знак на миллионы долларов в год: кто «изобрёл» смайлик и превратил его в финансовую империю Товарный знак на миллионы долларов в год: кто «изобрёл» смайлик и превратил его в финансовую империю

Как улыбающийся «эмоджи» прошёл через секс-революцию, рейвы и цифровизацию

VC.RU
Лечит природа Лечит природа

Что нужно учесть, прибегая к помощи трав?

Лиза
Взрослые проблемы бывших детей: 3 сезон популярного сериала «Трудные подростки» Взрослые проблемы бывших детей: 3 сезон популярного сериала «Трудные подростки»

Что произошло в 3 сезоне «Трудных подростков», и когда ждать продолжение сериала

VOICE

Мужчины называют этим термином что угодно, совсем не разобравшись в сути

VOICE
Сын героя: история маньяка Анатолия Бирюкова, который похищал и насиловал младенцев Сын героя: история маньяка Анатолия Бирюкова, который похищал и насиловал младенцев

Как сын Героя Советского Союза и ударник производства стал маньяком?

VOICE
Как приучить себя есть больше овощей: 3 вкусных совета, которые помогут быстро похудеть Как приучить себя есть больше овощей: 3 вкусных совета, которые помогут быстро похудеть

Отрывок из книги 50 полезных пищевых привычек

VOICE
Без гаремов и Серканов Болатов: 9 новых турецких сериалов, которые стоит посмотреть Без гаремов и Серканов Болатов: 9 новых турецких сериалов, которые стоит посмотреть

Теперь турецкие сериалы научились говорить о реальных проблемах общества

Правила жизни
Создана таблетка от похмелья, расщепляющая алкоголь. Но работает ли она? Создана таблетка от похмелья, расщепляющая алкоголь. Но работает ли она?

Можно ли создать таблетку, которая спасет от похмелья?

ТехИнсайдер
Вспомнить всё! Вспомнить всё!

Лучшие витамины и минералы для мозга и памяти

Лиза
Сделай сам: простой походный холодильник из подручных средств? Легко и доступно! Сделай сам: простой походный холодильник из подручных средств? Легко и доступно!

Как сделать оазис холода из "сами знаете чего и палок"

ТехИнсайдер
Открыть в приложении