Нередко ИИ находит то, чего на самом деле нет

ТехИнсайдерHi-Tech

Как ИИ делает ошибки и обманывает исследователей

Владимир Губайловский

bf2f09f215599e14ae8aa4dba9890fd5_ce_1800x1198x0x73.jpg
DeepMind @deepmind. Unsplash

Специалисты по Computer Science из Принстонского университета опубликовали исследование, в котором они показали, что использование ИИ часто приводит к ошибкам, которые крайне трудно отыскать. Очень многие работы в самых разных областях науки используют некорректные данные для обучения сетей. Это приводит к ложным предсказаниям. Особенно опасны такие ошибки в медицинских приложениях.

Сегодня методы ИИ и особенно нейросети используются в самых разных областях науки - от исследований генома до регистрации быстрых всплесков в астрономии. Нейросети очень популярны. Они где-то на самой вершине хайпа среди всех научных методов. Ученый, который их не использует, кажется ретроградом, а тот кто активно использует - современным продвинутым специалистом.

Но нейросети были разработаны для решения довольно ограниченного круга задач (в первую очередь задач распознавания образов). Отцы-основатели этого метода были серьезными людьми, и хорошо знали как нейросетями правильно пользоваться.

А когда нейросети стали использовать ученые очень далекие по своей специализации от Computer Science, возникли невоспроизводимые результаты, которые невозможно повторить, и невероятные предсказания, которые попросту ложны.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Вечные девственники: 6 исторических личностей, которых не интересовал секс Вечные девственники: 6 исторических личностей, которых не интересовал секс

Эти люди точно знали, как сублимировать эффективно

Cosmopolitan
Как сериал «Мисс Марвел» раскрывает силу женщины через ее культурное наследие Как сериал «Мисс Марвел» раскрывает силу женщины через ее культурное наследие

Мисс Марвел — первая супергероиня пакистанского происхождения

Forbes
10 признаков того, что ты психологически стабилен 10 признаков того, что ты психологически стабилен

Список, по которому можно определить — ты уже на пределе, или еще вывозишь

Maxim
«Нет ничего нагляднее, чем реальность»: как искусство борется с домашним насилием «Нет ничего нагляднее, чем реальность»: как искусство борется с домашним насилием

Какую роль искусство играет в борьбе с домашним насилием?

Psychologies
Не включается монитор: причины и способы решения проблемы Не включается монитор: причины и способы решения проблемы

Часто проблемы с монитором решаются за считанные минуты

CHIP
5 продуктов из магазина, которые можно вырастить дома 5 продуктов из магазина, которые можно вырастить дома

Из магазинных продуктов вы можете вырастить целый сад

ТехИнсайдер
Уроки русского: откуда взялось слово Уроки русского: откуда взялось слово

Почему водка так называется и когда появилась

ТехИнсайдер
Александра Маринина: «История движется поступками людей, а люди, как известно, не меняются» Александра Маринина: «История движется поступками людей, а люди, как известно, не меняются»

История – это тоже своего рода детектив

Лиза
Не только алкоголь: продукты и напитки, которые нельзя совмещать с лекарствами Не только алкоголь: продукты и напитки, которые нельзя совмещать с лекарствами

Сыр несовместим с антидепрессантами, а обезболивающие с копченостями

Maxim
Что выдает дилетанта: 7 популярных ошибок, которые портят ваш ремонт Что выдает дилетанта: 7 популярных ошибок, которые портят ваш ремонт

Некоторые вещи моментально выдают неумелого мастера ремонта

ТехИнсайдер
В Египте раскопали гробницу командующего наемниками В Египте раскопали гробницу командующего наемниками

Военачальник по имени Уахибра-меринейт жил в начале V века до нашей эры

N+1
Как правильно тренироваться на свежем воздухе Как правильно тренироваться на свежем воздухе

Тренировки на свежем воздухе — это не только полезно, но и бесплатно!

Maxim
Что такое материнский инстинкт и почему у людей его, скорее всего, нет Что такое материнский инстинкт и почему у людей его, скорее всего, нет

Материнский инстинкт: в чем он проявляется и почему его нет у людей?

ТехИнсайдер
Революция дилетантов: как дерматолог и юрист устроили Кубинскую революцию Революция дилетантов: как дерматолог и юрист устроили Кубинскую революцию

Как маленькая компания интеллигентов изменила жизнь целой страны

Вокруг света
Рогатый, водяной, королевский: 7 жутких, но прекрасных пауков Рогатый, водяной, королевский: 7 жутких, но прекрасных пауков

Наша подборка поможет победить боязнь пауков (но это не точно)

Вокруг света
Увенчанный славой: 9 полезных свойств лаврового листа Увенчанный славой: 9 полезных свойств лаврового листа

Это уникальное растение даже в сухом виде сохраняет свои лучшие качества

Вокруг света
Новые виды паразитов вызвали вспышку кожного заболевания у антарктических рыб Новые виды паразитов вызвали вспышку кожного заболевания у антарктических рыб

Биологи обнаружили у антарктических рыб неизвестное кожное заболевание

N+1
Ритуальный каннибализм, лекарство от чумы и вечеринки со вскрытиями: что люди делали с мумиями на протяжении истории Ритуальный каннибализм, лекарство от чумы и вечеринки со вскрытиями: что люди делали с мумиями на протяжении истории

Почему люди считали каннибализм полезным для здоровья?

ТехИнсайдер
«Детям необходимо жить в семье»: как устроен процесс усыновления в России «Детям необходимо жить в семье»: как устроен процесс усыновления в России

Рассказываем об актуальной ситуации с сиротством в России

Forbes
Терраформирование Марса: можно ли превратить в оазис пески Красной планеты? Терраформирование Марса: можно ли превратить в оазис пески Красной планеты?

Насколько реально терраформирование Красной планеты

ТехИнсайдер
10 невероятных самодельных электробайков: инженерное чудо 10 невероятных самодельных электробайков: инженерное чудо

Серийные модели байков, которые превратили в очаровательные кастомы

ТехИнсайдер
Как из паразитов и тунеядцев мог возникнуть мужской пол Как из паразитов и тунеядцев мог возникнуть мужской пол

Загадки размножения и другие парадоксы современной биологии

СНОБ
Какие элитные дома Москвы построены на месте кладбищ? Какие элитные дома Москвы построены на месте кладбищ?

Премиум-апартаменты на костях

Вокруг света
Антипригарное покрытие для посуды: какое лучше? Антипригарное покрытие для посуды: какое лучше?

Какие антипригарные покрытия сегодня бывают, какие у них плюсы и минусы

CHIP
Как энергетики влияют на нас и почему после их употребления наступает упадок сил? Как энергетики влияют на нас и почему после их употребления наступает упадок сил?

Опасны ли энергетики? И что происходит в организме при их употреблении?

ТехИнсайдер
Отношения с супругом вызывают усталость и раздражение: 8 возможных причин Отношения с супругом вызывают усталость и раздражение: 8 возможных причин

Если супружеская жизнь не приносит радости, то проблема может крыться здесь

Psychologies
Одна вокруг света: новая страна и ночь в полицейском участке Одна вокруг света: новая страна и ночь в полицейском участке

172-я серия о кругосветном путешествии москвички Ирины Сидоренко: Перу

Forbes
Сергей Филонович: «Живем как в песне — скорей бы утро, и снова на работу» Сергей Филонович: «Живем как в песне — скорей бы утро, и снова на работу»

Почему избыточный трудоголизм грозит выгоранием сотрудникам и руководителям?

РБК
Три молочных зуба из испанской пещеры оказались неандертальскими Три молочных зуба из испанской пещеры оказались неандертальскими

Они принадлежали детям, жившим около 45–42 тысяч лет назад

N+1
Сохранить до весны Сохранить до весны

Как производители овощей решают проблемы с поставками оборудования для хранилищ

Агроинвестор
Открыть в приложении