Нередко ИИ находит то, чего на самом деле нет

ТехИнсайдерHi-Tech

Как ИИ делает ошибки и обманывает исследователей

Владимир Губайловский

bf2f09f215599e14ae8aa4dba9890fd5_ce_1800x1198x0x73.jpg
DeepMind @deepmind. Unsplash

Специалисты по Computer Science из Принстонского университета опубликовали исследование, в котором они показали, что использование ИИ часто приводит к ошибкам, которые крайне трудно отыскать. Очень многие работы в самых разных областях науки используют некорректные данные для обучения сетей. Это приводит к ложным предсказаниям. Особенно опасны такие ошибки в медицинских приложениях.

Сегодня методы ИИ и особенно нейросети используются в самых разных областях науки - от исследований генома до регистрации быстрых всплесков в астрономии. Нейросети очень популярны. Они где-то на самой вершине хайпа среди всех научных методов. Ученый, который их не использует, кажется ретроградом, а тот кто активно использует - современным продвинутым специалистом.

Но нейросети были разработаны для решения довольно ограниченного круга задач (в первую очередь задач распознавания образов). Отцы-основатели этого метода были серьезными людьми, и хорошо знали как нейросетями правильно пользоваться.

А когда нейросети стали использовать ученые очень далекие по своей специализации от Computer Science, возникли невоспроизводимые результаты, которые невозможно повторить, и невероятные предсказания, которые попросту ложны.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Желание чего-то иного Желание чего-то иного

Каковы настоящие причины желания все изменить

Psychologies
Если робот улыбается, значит он мыслит Если робот улыбается, значит он мыслит

Если робот ведет себя, как человек, значит он мыслит

ТехИнсайдер
8 вещей и явлений, названных в честь исторических личностей 8 вещей и явлений, названных в честь исторических личностей

Иногда новым словом становится чье-то имя или фамилия

ТехИнсайдер
5 способов ускорить работу компьютера без знаний программирования 5 способов ускорить работу компьютера без знаний программирования

Как вернуть компьютеру часть прежней скорости

ТехИнсайдер
Почему «Лучше звоните Солу» — великий сериал. Полный гид по спин-оффу «Во все тяжкие» Почему «Лучше звоните Солу» — великий сериал. Полный гид по спин-оффу «Во все тяжкие»

Разбираем на составляющие сериал «Лучше звоните Солу»

Правила жизни
Химики научились активировать литий в лаборатории Химики научились активировать литий в лаборатории

Химики получили металлический литий в форме тонких кристаллических образований

N+1
Злодеи из кинокомиксов, которые в чем-то правы (и мы им даже сопереживаем) Злодеи из кинокомиксов, которые в чем-то правы (и мы им даже сопереживаем)

Суперзлодеи кинокомиксов порой интереснее любого добряка

Maxim
Здоровье в горшочках: как выбрать комнатные цветы Здоровье в горшочках: как выбрать комнатные цветы

Популярные комнатные цветы, деревца и травы, которые украсят любой дом

VOICE
Истина где-то рядом: зачем в NASA решили взяться за изучение НЛО Истина где-то рядом: зачем в NASA решили взяться за изучение НЛО

NASA начнет изучать НЛО, причем именно с научной точки зрения

Вокруг света
Самые яркие «Анны Каренины»: актрисы, которым пришлось броситься под поезд Самые яркие «Анны Каренины»: актрисы, которым пришлось броситься под поезд

Кто в истории кино играл Анну Каренину

VOICE
Загробный Диснейленд: автобиографический роман о европейской женщине в Китае Загробный Диснейленд: автобиографический роман о европейской женщине в Китае

Отрывок из автофикшена Светланы Дорошевой о шанхайской арт-резиденции

Forbes
Что такое «шишига»: все факты о легендарном ГАЗ-66 Что такое «шишига»: все факты о легендарном ГАЗ-66

Великий и ужасный ГАЗ-66 по прозвищу «шишига» — легенда отечественного автопрома

РБК
Потрясающие новые снимки Джеймса Уэбба: новорожденные звезды, сталкивающиеся галактики и горячие экзопланеты Потрясающие новые снимки Джеймса Уэбба: новорожденные звезды, сталкивающиеся галактики и горячие экзопланеты

Уэбб снял новые изображения галактик и туманность Киля

ТехИнсайдер
Музыкальная терапия показывает обнадеживающие результаты против развития деменции Музыкальная терапия показывает обнадеживающие результаты против развития деменции

Как музыка препятствует развитию нейродегенеративных заболеваний

ТехИнсайдер
Как справиться с эмоциональным выгоранием Как справиться с эмоциональным выгоранием

Что делать, если наступило эмоциональное выгорание, и как из него выйти

СНОБ
Как устроены протезы для мозга и на что они способны? Как устроены протезы для мозга и на что они способны?

Сейчас протез руки не воспринимается как нечто экзотическое. А как насчет мозга?

ТехИнсайдер
Стать ее голосом: как журналистка из США открывала неизвестных художниц Возрождения Стать ее голосом: как журналистка из США открывала неизвестных художниц Возрождения

Как НКО Advancing Women Artists ищет художниц эпохи Возрождения

Forbes
«С русским акцентом»: какой будет новая корпоративная культура после передела рынка «С русским акцентом»: какой будет новая корпоративная культура после передела рынка

Чего ждать старым сотрудникам? Как изменится корпоративная культура?

Forbes
Российские фильмы последних лет, которые популярны за рубежом Российские фильмы последних лет, которые популярны за рубежом

6 российских фильмов, которые понравились заграничным зрителям

Maxim
«Мы максимально открыты»: как выпускники юрфака МГУ создали фонд для помощи студентам «Мы максимально открыты»: как выпускники юрфака МГУ создали фонд для помощи студентам

Как обстоят дела с юридическим образованием и оттоком специалистов в России?

Forbes
Беспорядок в больших водных кластерах ограничил время их ионизации Беспорядок в больших водных кластерах ограничил время их ионизации

Волновые функции электронных вакансий локализуются из-за эффекта Андерсона

N+1
Гимнастки и теннисистки: какие виды спорта позволяют женщинам зарабатывать больше Гимнастки и теннисистки: какие виды спорта позволяют женщинам зарабатывать больше

Гендерный дисбаланс в спорте постепенно выравнивается

Forbes
Работа на больничном и еще 5 привычек, из-за которых мы глупеем Работа на больничном и еще 5 привычек, из-за которых мы глупеем

Если вам кажется, что ваши родители в вашем возрасте были умнее, вам не кажется

Psychologies
Всегда под рукой Всегда под рукой

На каждой профессиональной кухне есть широкий базовый ассортимент ингредиентов

Bones
20 лучших комедий с чёрным юмором 20 лучших комедий с чёрным юмором

Отвратительно смешные комедии с чёрным юмором

Maxim
Признаки овуляции: как рассчитать и распознать симптомы Признаки овуляции: как рассчитать и распознать симптомы

Как узнать, что овуляция наступила

VOICE
Мощь, комфорт, цифровизация: на атомных ледоколах до Северного полюса и по Северному пути Мощь, комфорт, цифровизация: на атомных ледоколах до Северного полюса и по Северному пути

Рассказываем о настоящем и будущем атомного флота России

ТехИнсайдер
Настольная книга идеального тренировочного партнера Настольная книга идеального тренировочного партнера

Какого напарника искать и как самому стать тем, кто раскроет силу в других

Men Today
«Приемлемый компромисс»: зачем женатые мужчины заводят любовниц «Приемлемый компромисс»: зачем женатые мужчины заводят любовниц

Почему именно мужчины заводят любовниц? Зачем женщины соглашаются на эту роль?

Psychologies
Дмитрий Нагиев: Дмитрий Нагиев:

У нас твоя карьера от таланта не зависит

Караван историй
Открыть в приложении