Нередко ИИ находит то, чего на самом деле нет

ТехИнсайдерHi-Tech

Как ИИ делает ошибки и обманывает исследователей

Владимир Губайловский

bf2f09f215599e14ae8aa4dba9890fd5_ce_1800x1198x0x73.jpg
DeepMind @deepmind. Unsplash

Специалисты по Computer Science из Принстонского университета опубликовали исследование, в котором они показали, что использование ИИ часто приводит к ошибкам, которые крайне трудно отыскать. Очень многие работы в самых разных областях науки используют некорректные данные для обучения сетей. Это приводит к ложным предсказаниям. Особенно опасны такие ошибки в медицинских приложениях.

Сегодня методы ИИ и особенно нейросети используются в самых разных областях науки - от исследований генома до регистрации быстрых всплесков в астрономии. Нейросети очень популярны. Они где-то на самой вершине хайпа среди всех научных методов. Ученый, который их не использует, кажется ретроградом, а тот кто активно использует - современным продвинутым специалистом.

Но нейросети были разработаны для решения довольно ограниченного круга задач (в первую очередь задач распознавания образов). Отцы-основатели этого метода были серьезными людьми, и хорошо знали как нейросетями правильно пользоваться.

А когда нейросети стали использовать ученые очень далекие по своей специализации от Computer Science, возникли невоспроизводимые результаты, которые невозможно повторить, и невероятные предсказания, которые попросту ложны.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Ключ на старт Ключ на старт

Семь чудес России, к которым стоит отправиться за рулем своего автомобиля

Men’s Health
IQ Boost: 5 книг, которые помогут развить креативные способности и прокачать мышление IQ Boost: 5 книг, которые помогут развить креативные способности и прокачать мышление

Не только дизайнерам или музыкантам полезно развивать креативное мышление

Maxim
Как экономить при покупке пива — отвечает эксперт Как экономить при покупке пива — отвечает эксперт

Раскрываем секреты пивной экономии

Maxim
До слез: эти 5 фильмов, основанных на реальных событиях, никого не оставят равнодушными До слез: эти 5 фильмов, основанных на реальных событиях, никого не оставят равнодушными

Пять картин с мотивирующими и вдохновляющими историями

ТехИнсайдер
Талкыш калеве Талкыш калеве

Талкыш калеве — старинное турецкое сладкое блюдо

Bones
Новая жизнь дома Новая жизнь дома

Современная вилла, выдержанная в минималистском стиле

SALON-Interior
«Первая леди всего мира»: как Элеонор Рузвельт добилась успеха, нарушая все правила «Первая леди всего мира»: как Элеонор Рузвельт добилась успеха, нарушая все правила

Жизнь Элеонор Рузвельт напоминает киносюжет

Forbes
Лучший бесплатный антивирус: наша большая подборка Лучший бесплатный антивирус: наша большая подборка

На рынке представлено немало достойных бесплатных антивирусов. Вот лучшие из них

CHIP
«Мальчик, который не переставал расти… и другие истории про гены и людей». Отрывок из книги Эдвина Керка «Мальчик, который не переставал расти… и другие истории про гены и людей». Отрывок из книги Эдвина Керка

Отрывок из книги врача Эдвина Керка о генетических заболеваниях

СНОБ
Овощи как новый тренд Овощи как новый тренд

В последнее время тема овощей в гастрономии актуальна как никогда

Bones
Правда ли, что алмазы горят: 7 интересных фактов о редких драгоценностях Правда ли, что алмазы горят: 7 интересных фактов о редких драгоценностях

Что вы знаете об алмазах?

ТехИнсайдер
Неолитических жителей Словакии заподозрили в насилии над пожилой женщиной с плагиоцефалией Неолитических жителей Словакии заподозрили в насилии над пожилой женщиной с плагиоцефалией

Пожилая женщина могла подвергаться насилию из-за деформированного черепа

N+1
Путь Bjőrn Путь Bjőrn

Как ресторан Bjőrn стал таким, каким все его сегодня знают

Bones
Постотпускной синдром: 4 совета, как не уволиться сразу после отдыха Постотпускной синдром: 4 совета, как не уволиться сразу после отдыха

Как снизить уровень постотпускной тоскливости и настроиться на рабочий лад

Psychologies
Отрывок из романа «Алиса в русском Зазеркалье. Последняя императрица России: взгляд из современности» Отрывок из романа «Алиса в русском Зазеркалье. Последняя императрица России: взгляд из современности»

Отрывок из романа-диалога о приключении немецкой принцессы Алисы

СНОБ
12 советских телефонных аппаратов: самые культовые и самые народные модели 12 советских телефонных аппаратов: самые культовые и самые народные модели

Испытываешь ностальгию по старой технике? Понимаем, уважаем, сами извращенцы

Maxim
5 мемуаров и биографий звезд музыкальной сцены, достойных прочтения 5 мемуаров и биографий звезд музыкальной сцены, достойных прочтения

Подборка книг, которые рассказывают правду о выдающихся рок-музыкантах XX века

СНОБ
Сохранить отношения после конфликта: 5 советов от психологов Сохранить отношения после конфликта: 5 советов от психологов

Как отстоять свои интересы и сохранить добрые отношения?

Psychologies
Перья помогли динозаврам пережить вымирание 200 миллионов лет назад Перья помогли динозаврам пережить вымирание 200 миллионов лет назад

Перья спасли динозавров от холода во время вулканических зим

N+1
«Для спасения обмирающих скоропостижно» «Для спасения обмирающих скоропостижно»

Скорая помощь на протяжении столетий оказывалась только на полях сражений

Дилетант
Ученые выяснили, что пить алкоголь вредно только до 40 лет Ученые выяснили, что пить алкоголь вредно только до 40 лет

Можно ли получать от алкоголя пользу?

Maxim
Прибывшие на Дунай 8200 лет назад первые земледельцы занялись рыболовством Прибывшие на Дунай 8200 лет назад первые земледельцы занялись рыболовством

Памятник Лепенски-Вир в Сербии использовали охотники-собиратели

N+1
«Душечка» хорошего питания «Душечка» хорошего питания

Геня Фейгенберг мало чем отличалась от многих своих современниц

Дилетант
Маньяк, который изображал безумие, а потом действительно сошел с ума: история Игоря Иртышова Маньяк, который изображал безумие, а потом действительно сошел с ума: история Игоря Иртышова

На опознаниях мужчины и женщины хотели наказать преступника, не дожидаясь суда

VOICE
Гори-гори ясно: 15 крутых кострищ на любого случая Гори-гори ясно: 15 крутых кострищ на любого случая

Костровое дело - это целая наука

ТехИнсайдер
Психология научная и житейская: в чем разница? Психология научная и житейская: в чем разница?

Какие проблемы можно решить средствами житейской психологии?

Psychologies
Как распознать лицемера: 3 главных признака Как распознать лицемера: 3 главных признака

Как понять, что есть лицемерие?

Psychologies
Как справиться с эмоциональным выгоранием Как справиться с эмоциональным выгоранием

Что делать, если наступило эмоциональное выгорание, и как из него выйти

СНОБ
Покормить кота дистанционно или открыть дверь с помощью смартфона: управлять умным домом проще, чем кажется Покормить кота дистанционно или открыть дверь с помощью смартфона: управлять умным домом проще, чем кажется

Что вообще такое этот «умный дом» и как им управлять

ТехИнсайдер
Смазанный эффект ВТО Смазанный эффект ВТО

Россия не смогла воспользоваться всеми преимуществами членства в ВТО

Агроинвестор
Открыть в приложении