Нередко ИИ находит то, чего на самом деле нет

ТехИнсайдерHi-Tech

Как ИИ делает ошибки и обманывает исследователей

Владимир Губайловский

bf2f09f215599e14ae8aa4dba9890fd5_ce_1800x1198x0x73.jpg
DeepMind @deepmind. Unsplash

Специалисты по Computer Science из Принстонского университета опубликовали исследование, в котором они показали, что использование ИИ часто приводит к ошибкам, которые крайне трудно отыскать. Очень многие работы в самых разных областях науки используют некорректные данные для обучения сетей. Это приводит к ложным предсказаниям. Особенно опасны такие ошибки в медицинских приложениях.

Сегодня методы ИИ и особенно нейросети используются в самых разных областях науки - от исследований генома до регистрации быстрых всплесков в астрономии. Нейросети очень популярны. Они где-то на самой вершине хайпа среди всех научных методов. Ученый, который их не использует, кажется ретроградом, а тот кто активно использует - современным продвинутым специалистом.

Но нейросети были разработаны для решения довольно ограниченного круга задач (в первую очередь задач распознавания образов). Отцы-основатели этого метода были серьезными людьми, и хорошо знали как нейросетями правильно пользоваться.

А когда нейросети стали использовать ученые очень далекие по своей специализации от Computer Science, возникли невоспроизводимые результаты, которые невозможно повторить, и невероятные предсказания, которые попросту ложны.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Будущее пятого поколения Будущее пятого поколения

Время 4G на исходе. 5G серьезно изменит нашу жизнь

Популярная механика
Выбираем МФУ для дома: как учесть все нюансы Выбираем МФУ для дома: как учесть все нюансы

Перед покупкой МФУ важно ответить на несколько ключевых вопросов

CHIP
Тайна смерти Александра Македонского: почему тело оставалось нетленным? Тайна смерти Александра Македонского: почему тело оставалось нетленным?

Как умер Александр Македонский: теория доктора Кэтрин Холл

ТехИнсайдер
Госпожа профессор: 7 женщин, которые первыми начали преподавать в вузах Госпожа профессор: 7 женщин, которые первыми начали преподавать в вузах

Семь женщин, которые занимались наукой сами и учили этому других

Forbes
Как сделать невидимую папку в Windows? Как сделать невидимую папку в Windows?

Как спрятать файлы в Windows от посторонних глаз

CHIP
Ученые впервые обучили ИИ мыслить на уровне новорожденного ребенка Ученые впервые обучили ИИ мыслить на уровне новорожденного ребенка

Алгоритм PLATO научился выстраивать логические цепочки на уровне младенца

ТехИнсайдер
Люди дороже денег: как торговые центры привлекают посетителей в кризис Люди дороже денег: как торговые центры привлекают посетителей в кризис

ТРЦ привлекают все больше досуговых концепций, но доходов они почти не приносят

Forbes
«Меган заставляет людей бояться»: рассекречена удивительная способность жены принца Гарри «Меган заставляет людей бояться»: рассекречена удивительная способность жены принца Гарри

Меган Маркл и принц Гарри столкнулись с новыми обвинениями

VOICE
«Пьеса Толстого спустя три четверти века все еще опасна»: как меняется театр сегодня «Пьеса Толстого спустя три четверти века все еще опасна»: как меняется театр сегодня

Зачем Софья Толстая каждый день подробно записывала, что ели в Ясной Поляне

Forbes
Найден способ связать воедино массивы кремниевых кубитов Найден способ связать воедино массивы кремниевых кубитов

Ученый нашел решение фундаментальной проблемы квантовой вычислительной техники

ТехИнсайдер
Date rape drug: зачем женщинам подсыпают снотворное на свиданиях и вечеринках Date rape drug: зачем женщинам подсыпают снотворное на свиданиях и вечеринках

Как не стать жертвой изнасилования на свиданиях и вечеринках?

Forbes
Координационный полимер помог разделить смесь изомерных ксилолов Координационный полимер помог разделить смесь изомерных ксилолов

Селективность адсорбции оказалась рекордной

N+1
Брендинг для агробизнеса Брендинг для агробизнеса

Четыре основных заблуждения при разработке бренда и как с ними работать

Агроинвестор
Карла Суарес: «Гавана, год нуля» Карла Суарес: «Гавана, год нуля»

Глава из романа «Гавана, год нуля» — о том, как можно отвлечься от ужаса вокруг

СНОБ
Так сошлись звезды: зачем предприниматели и политики ищут ответы в астрологии Так сошлись звезды: зачем предприниматели и политики ищут ответы в астрологии

Как обращение к предсказательным практикам определяло историю

Forbes
Химики разгадали путь биосинтеза стрихнина и воспроизвели его в табаке Химики разгадали путь биосинтеза стрихнина и воспроизвели его в табаке

Стало ясно, как растения синтезируют сложные алкалоиды

N+1
Депиляция: как удалить волосы в салоне и дома. Советы эксперта Депиляция: как удалить волосы в салоне и дома. Советы эксперта

Рассказываем о самых актуальных методах депиляции

РБК
Легко и просто Легко и просто

10 лучших упражнений для людей с лишним весом

Лиза
Первая вдова СССР Первая вдова СССР

Крупская занималась вопросами коммунистического воспитания и образования

Дилетант
Китайская компания SMIC разработала чипы по современной 7-нм технологии Китайская компания SMIC разработала чипы по современной 7-нм технологии

Казалось, что Китаю не удастся "опуститься" ниже 10-нанометровой технологии

ТехИнсайдер
Бриджит Джонс возвращается! Культовые образы Рене Зеллвегер из фильма, которые помнят все Бриджит Джонс возвращается! Культовые образы Рене Зеллвегер из фильма, которые помнят все

Уже начались съемки четвертой части "Дневников Бриджит Джонс" - что дальше?

VOICE
Норвежка случайно купила на аукционе золотое кольцо вождя викингов в коробке из-под бананов Норвежка случайно купила на аукционе золотое кольцо вождя викингов в коробке из-под бананов

Норвежка купила золотое кольцо, относящееся к эпохе викингов

N+1
Роды в присутствии трехлетнего сына: почему история Регины Тодоренко вызвала яростные споры Роды в присутствии трехлетнего сына: почему история Регины Тодоренко вызвала яростные споры

Стоит ли посвящать в таинство рождения трехлетнего ребенка?

Psychologies
«Мальчик, который не переставал расти… и другие истории про гены и людей» «Мальчик, который не переставал расти… и другие истории про гены и людей»

Отрывок из книги «Мальчик, который не переставал расти…» о митохондриальной ДНК

N+1
5 продуктов из магазина, которые можно вырастить дома 5 продуктов из магазина, которые можно вырастить дома

Из магазинных продуктов вы можете вырастить целый сад

ТехИнсайдер
Это вовсе не шея! 5 частей тела, которые стареют первыми и чем это грозит Это вовсе не шея! 5 частей тела, которые стареют первыми и чем это грозит

Наши органы стареют с разной скоростью, и нужно знать, к чему это может привести

VOICE
Как построить карьеру в науке и медицине и преодолеть стереотипы о возрасте Как построить карьеру в науке и медицине и преодолеть стереотипы о возрасте

Четвертая серия сериала, посвященная победителям номинации «Наука и технологии»

Forbes
Гори-гори ясно: 15 крутых кострищ на любого случая Гори-гори ясно: 15 крутых кострищ на любого случая

Костровое дело - это целая наука

ТехИнсайдер
5 романтичных экранизаций французских романов 5 романтичных экранизаций французских романов

Французские романы, которые послужили основой для отличных экранизаций

СНОБ
5 тайн океана, которые не могут разгадать ученые 5 тайн океана, которые не могут разгадать ученые

Медузное бессмертие, отчаявшиеся киты, загадочный фиолетовый шар, молочные моря

Maxim
Открыть в приложении