Ошибки усугубляются и в заставляют модели еще больше искажать реальность

ForbesHi-Tech

Градация деградации: ожидает ли генеративный искусственный интеллект вырождение

Роман Рожков

Фото Getty Images

Ученые бьют тревогу: если обучать искусственный интеллект на текстах, написанных его же «коллегой», это может привести к краху нейросетей. Обучение на основе данных, полученных другим ИИ, приводит к коллапсу модели, которая неправильно воспринимает реальность. Интернет, таким образом, как мировой океан, уже заполняется «мусором», пишут в статье о своей работе исследователи из Великобритании и Канады. Forbes опросил российских специалистов по ИИ, насколько серьезна эта проблема и к чему она может привести.

Интернет наполняется ерундой

Спустя всего полгода после появления ChatGPT в широком доступе все больше людей применяют ИИ в создании и публикации контента. По данным McKinsey and Company, уже около 50% сотрудников по всему миру используют в своей работе подобные инструменты. Но что происходит по мере распространения контента, сгенерированного ИИ, по всему интернету, когда модели ИИ начинают обучаться на нем, а не на том, что создал человек?

Группа исследователей из Великобритании и Канады изучила эту проблему и недавно опубликовала статью о своей работе в журнале arXiv. То, что они обнаружили, вызывает тревогу для существующей технологии генеративного ИИ и ее будущего: использование контента, сгенерированного моделями, при обучении приводит к необратимым дефектам. Это, в свою очередь, приводит к коллапсу модели — «дегенеративному процессу, при котором со временем модели забывают истинное распределение исходных данных <...> этот процесс неизбежен даже для кейсов с почти идеальными условиями для долгосрочного обучения», пишут они.

«Со временем ошибки усугубляются и в конечном счете заставляют модели, которые учатся на сгенерированных данных, еще больше искажать реальность, — прокомментировал VentureBeat один из ведущих авторов статьи Илья Шумайлов. — Мы были удивлены, наблюдая, как быстро происходит разрушение модели: модели могут быстро забыть большую часть исходных данных, из которых они изначально извлекли уроки». Таким образом, производительность ИИ ухудшается, это приводит к большему количеству ошибок в ответах и создаваемом контенте и к гораздо меньшему разнообразию безошибочных ответов.

«Точно так же, как мы усыпали океаны пластиковым мусором и наполнили атмосферу углекислым газом, мы собираемся заполнить интернет ерундой, — продолжает другой соавтор исследования, профессор Кембриджского и Эдинбургского университетов Росс Андерсон. — Это затруднит обучение новых моделей, что даст преимущество тем, кто уже сделал это. Действительно, мы уже видим, как стартапы с искусственным интеллектом забивают интернет-архив обучающими данными».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Упереться в «бумажный потолок»: как отсутствие диплома мешает людям строить карьеру Упереться в «бумажный потолок»: как отсутствие диплома мешает людям строить карьеру

Как «бумажный потолок» ограничивает таланты и амбиции людей

Forbes
Вениамин Грабар Вениамин Грабар

Компания Ladoga — одно из градообразующих предприятий Петербурга

Собака.ru
Откуда взялся мем про 40 кошек: ни одна женщина не обидится на эту шутку, если узнает ее происхождение Откуда взялся мем про 40 кошек: ни одна женщина не обидится на эту шутку, если узнает ее происхождение

Почему считается, что у сильной и независимой женщины должно быть 40 кошек?

VOICE
Анастасия Стежко: «Важно и нужно позволять себе быть женщиной» Анастасия Стежко: «Важно и нужно позволять себе быть женщиной»

Она органична в разных ролях – будь то жена олигарха, следователь или ведунья

Здоровье
Михаил Уржумцев Михаил Уржумцев

Михаил Уржумцев уже 30 лет пишет новейшую историю модной индустрии страны

Собака.ru
Почему березу считают символом России? Почему березу считают символом России?

Почему же в культурном пространстве береза стала символом именно русского народа

Культура.РФ
Парк городских аэротакси практически готов к полетам. Но есть проблема Парк городских аэротакси практически готов к полетам. Но есть проблема

Скоро аэротакси поднимутся над городами, но еще есть нерешенные проблемы

ТехИнсайдер
10 фильмов с самыми шокирующими сюжетными поворотами 10 фильмов с самыми шокирующими сюжетными поворотами

Картины, в которых все становится с ног на голову

Maxim
Алла Горбунова Алла Горбунова

Книги Аллы Горбуновой претендуют на манифесты поколения и собирают премии

Собака.ru
Гардеробная своими руками. Дизайнерские идеи для любого помещения Гардеробная своими руками. Дизайнерские идеи для любого помещения

Хорошо спроектированная гардеробная обеспечивает достаточно места для хранения

Лиза
Среди старых находок из памятника Грот-дю-Ренн обнаружили два неандертальских зуба Среди старых находок из памятника Грот-дю-Ренн обнаружили два неандертальских зуба

Палеоантропологи повторно исследовали коллекцию фаунистических остатков

N+1
Сенокосцы не стали альфа-самцами из-за утерянных в юности конечностей Сенокосцы не стали альфа-самцами из-за утерянных в юности конечностей

Самцы сенокосцев, потерявшие конечности в молодости, остаются мелкими

N+1
Необычный отдых с детьми Необычный отдых с детьми

Летом для актуален вопрос, как полезно и увлекательно провести каникулы с детьми

Здоровье
Электронный рецепт Электронный рецепт

Как получить электронный рецепт на лекарства и правильно использовать

Лиза
Такая красивая и одна? Почему Ирина Шейк не замужем - отвечает нумеролог Такая красивая и одна? Почему Ирина Шейк не замужем - отвечает нумеролог

Почему у Ирины Шейк не ладится личная жизнь? Спросили у нумеролога

VOICE
Вспомнить все Вспомнить все

Лайфхаки для улучшения памяти

Лиза
Филлеры тут, филлеры там: как зумеры делают косметологию и пластическую хирургию модной Филлеры тут, филлеры там: как зумеры делают косметологию и пластическую хирургию модной

Почему косметология и пластическая хирургия так востребована среди молодежи?

Psychologies
В «коконе» умирающей звезды может скрываться источник гравитационных волн В «коконе» умирающей звезды может скрываться источник гравитационных волн

Ученые обнаружили найти новый небинарный источник гравитационных волн

ТехИнсайдер
Таурин замедлил клеточное старение и продлил здоровую жизнь у мышей и обезьян Таурин замедлил клеточное старение и продлил здоровую жизнь у мышей и обезьян

Ученые выяснили, что с возрастом в крови значительно снижается уровень таурина

N+1
Чем полезна черешня: объяснения нутрициолога Чем полезна черешня: объяснения нутрициолога

Как съесть ведро черешни и не умереть?

Psychologies
«Без любви ничего не получится» «Без любви ничего не получится»

Наталья Гнеушева о том, как делать кино успешным, а имена — узнаваемыми

OK!
«Мы ожидаем запуска нового цикла инвестиционного кредитования» «Мы ожидаем запуска нового цикла инвестиционного кредитования»

Пессимистические прогнозы о перспективах российской экономики не сбылись

Деньги
Делиться ли проблемами с близкими? Делиться ли проблемами с близкими?

Стоит ли делиться наболевшим с близкими? Или наш долг — оградить их от забот?

Psychologies
Истории о нарушении пищевого поведения у подростков Истории о нарушении пищевого поведения у подростков

Как быть и к каким специалистам обращаться, если у подростка РПП?

СНОБ
Были ли в России придворные шуты? Были ли в России придворные шуты?

На Руси шутов звали «дураками». Многие из них происходили из бояр или дворян

Культура.РФ
Мифы об известных писателях Мифы об известных писателях

10 самых популярных заблуждений, в которые верят даже начитанные интеллектуалы

Maxim
У ИИ бывают «галлюцинации», но не такие, как у человека У ИИ бывают «галлюцинации», но не такие, как у человека

Какие галлюцинации видит искусственный интеллект?

ТехИнсайдер
Страшный сон Раскольникова: как японский режиссер поставил «Преступление и наказание» Страшный сон Раскольникова: как японский режиссер поставил «Преступление и наказание»

Режиссер из Японии Мотои Миура поставил спектакль «Преступление и наказание»

Forbes
Дети, бедняки, улицы: как снимали первые женщины-фотографы Дети, бедняки, улицы: как снимали первые женщины-фотографы

Рассказываем о пяти женщинах, которые смотрели на мир через объектив

Forbes
Мечтательная страсть. Тест-драйв очень быстрого электроседана Voyah Мечтательная страсть. Тест-драйв очень быстрого электроседана Voyah

Первое знакомство с электрическими новинками Voyah

РБК
Открыть в приложении