Ошибки усугубляются и в заставляют модели еще больше искажать реальность

ForbesHi-Tech

Градация деградации: ожидает ли генеративный искусственный интеллект вырождение

Роман Рожков

Фото Getty Images

Ученые бьют тревогу: если обучать искусственный интеллект на текстах, написанных его же «коллегой», это может привести к краху нейросетей. Обучение на основе данных, полученных другим ИИ, приводит к коллапсу модели, которая неправильно воспринимает реальность. Интернет, таким образом, как мировой океан, уже заполняется «мусором», пишут в статье о своей работе исследователи из Великобритании и Канады. Forbes опросил российских специалистов по ИИ, насколько серьезна эта проблема и к чему она может привести.

Интернет наполняется ерундой

Спустя всего полгода после появления ChatGPT в широком доступе все больше людей применяют ИИ в создании и публикации контента. По данным McKinsey and Company, уже около 50% сотрудников по всему миру используют в своей работе подобные инструменты. Но что происходит по мере распространения контента, сгенерированного ИИ, по всему интернету, когда модели ИИ начинают обучаться на нем, а не на том, что создал человек?

Группа исследователей из Великобритании и Канады изучила эту проблему и недавно опубликовала статью о своей работе в журнале arXiv. То, что они обнаружили, вызывает тревогу для существующей технологии генеративного ИИ и ее будущего: использование контента, сгенерированного моделями, при обучении приводит к необратимым дефектам. Это, в свою очередь, приводит к коллапсу модели — «дегенеративному процессу, при котором со временем модели забывают истинное распределение исходных данных <...> этот процесс неизбежен даже для кейсов с почти идеальными условиями для долгосрочного обучения», пишут они.

«Со временем ошибки усугубляются и в конечном счете заставляют модели, которые учатся на сгенерированных данных, еще больше искажать реальность, — прокомментировал VentureBeat один из ведущих авторов статьи Илья Шумайлов. — Мы были удивлены, наблюдая, как быстро происходит разрушение модели: модели могут быстро забыть большую часть исходных данных, из которых они изначально извлекли уроки». Таким образом, производительность ИИ ухудшается, это приводит к большему количеству ошибок в ответах и создаваемом контенте и к гораздо меньшему разнообразию безошибочных ответов.

«Точно так же, как мы усыпали океаны пластиковым мусором и наполнили атмосферу углекислым газом, мы собираемся заполнить интернет ерундой, — продолжает другой соавтор исследования, профессор Кембриджского и Эдинбургского университетов Росс Андерсон. — Это затруднит обучение новых моделей, что даст преимущество тем, кто уже сделал это. Действительно, мы уже видим, как стартапы с искусственным интеллектом забивают интернет-архив обучающими данными».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Материнство и работа: как поддержать коллегу в декрете и после него Материнство и работа: как поддержать коллегу в декрете и после него

Советы, которые помогут и уходящей в декрет сотруднице, и ее коллегам

Forbes
Свинка не та, кем кажется Свинка не та, кем кажется

«Свинка» — бодипозитивный хоррор о свинском поведении

Weekend
Cмотрины для родинки Cмотрины для родинки

Иногда родинки могут доставить немало хлопот

Лиза
Подкаст журналиста помог подтвердить вину убийцы! Но спустя 27 лет после преступления Подкаст журналиста помог подтвердить вину убийцы! Но спустя 27 лет после преступления

Пол Флорес убил одногруппницу и пробыл на свободе почти три десятилетия

ТехИнсайдер
Тренд на джентрификацию Тренд на джентрификацию

В современных городах набирает обороты джентрификация

РБК
Всё, что нужно знать о новом Jeep Avenger Всё, что нужно знать о новом Jeep Avenger

Простите, а это точно Jeep?

4x4 Club
Вышли из бухты Вышли из бухты

Robb Report изучил новые лодки и выбрал из них самые интересные

Robb Report
Андрей Себрант: «Самые интересные профессии еще не появились» Андрей Себрант: «Самые интересные профессии еще не появились»

Кем быть в эпоху нестабильности с одной стороны, и расцвета технологий с другой?

РБК
Секс без обязательств: вред или польза — узнайте правду Секс без обязательств: вред или польза — узнайте правду

О плюсах и минусах мимолетных встреч

Psychologies
Ответственное родительство связали с успехами детей в инженерии и математике Ответственное родительство связали с успехами детей в инженерии и математике

Ответственное родительство уменьшает разрыв в неравенстве между детьми

N+1
«Называть эти вещи наукой нельзя» «Называть эти вещи наукой нельзя»

Кто такой родолог и сколько он получает

Лиза
Как писал Борис Поплавский Как писал Борис Поплавский

Как жил поэт Борис Поплавский и чем примечательны его тексты

СНОБ
«Кто-то где-то»: драмеди о том, как женщина ищет смысл жизни посреди ничего «Кто-то где-то»: драмеди о том, как женщина ищет смысл жизни посреди ничего

«Кто-то где-то» настолько хороший сериал, что его не стоит пропускать

Forbes
Привычки, которые портят твои ноги — не делай так, если хочешь носить мини и шорты Привычки, которые портят твои ноги — не делай так, если хочешь носить мини и шорты

Нагрузка помогает сделать ножки подтянутыми, но может вызвать и обратный эффект

VOICE
«Тайны души» «Тайны души»

Социальная и культурная история психоанализа

N+1
Отличные партнеры, но ужасные соседи: гостевой брак — кому подойдет такой тип отношений Отличные партнеры, но ужасные соседи: гостевой брак — кому подойдет такой тип отношений

Возможно ли сохранить любовь и растить детей, если вы живете раздельно?

Psychologies
Периферийное зрение Периферийное зрение

Карина Бесолти в своих работах отстаивает частного человека и его голос

СНОБ
Что произойдет с планетой, если люди внезапно исчезнут? Интересные факты! Что произойдет с планетой, если люди внезапно исчезнут? Интересные факты!

Станет ли Земле легче, если все 8 миллиардов человек внезапно исчезнут?

ТехИнсайдер
Летняя проблема Летняя проблема

О чем может сигнализировать повышенная потливость

Лиза
Бассейн на даче: это сложно или нет? Бассейн на даче: это сложно или нет?

Разбираемся, чего от бассейна на дачном участке больше — пользы или проблем?

CHIP
Как гриб-зомби управляет телом своего хозяина: жуткое открытие Как гриб-зомби управляет телом своего хозяина: жуткое открытие

Гриб-паразит дергает своего хозяина за нервные волокна как марионетку

ТехИнсайдер
Токсичная продуктивность и «успешный успех»: как выжить в культуре спешки Токсичная продуктивность и «успешный успех»: как выжить в культуре спешки

Почему же мы так часто выбираем гонку за карьерой, забывая о себе?

Psychologies
6 способов убежать от жары 6 способов убежать от жары

Лето в городе: духота, пыль и плюс 30 в тени… как же сделать жизнь прохладнее?

Здоровье
От Робби Уильямса до Марины Абрамович: как выглядит современный арт-рынок Эмиратов От Робби Уильямса до Марины Абрамович: как выглядит современный арт-рынок Эмиратов

Насколько велик их рыночный потенциал в Объединенных Арабских Эмиратах сегодня.

Forbes
Неприхотливый многолетник Неприхотливый многолетник

Перспективы выращивания мискантуса на российских полях

Агроинвестор
У ИИ бывают «галлюцинации», но не такие, как у человека У ИИ бывают «галлюцинации», но не такие, как у человека

Какие галлюцинации видит искусственный интеллект?

ТехИнсайдер
Миграцию летучих мышей удалось описать благодаря радарам и машинному обучению Миграцию летучих мышей удалось описать благодаря радарам и машинному обучению

Алгоритм помог отделить летучих мышей от птиц и насекомых

N+1
Совестливые люди на высоких постах с меньшей вероятностью берут взятки. Верите? Совестливые люди на высоких постах с меньшей вероятностью берут взятки. Верите?

Чувство вины может иметь преимущества для общества в целом

ТехИнсайдер
«Мастурбация — значит измена?»: разбор с психологами «Мастурбация — значит измена?»: разбор с психологами

Почему в отношениях мастурбация по-прежнему остается негласным табу

Psychologies
Дама сдавала в багаж Дама сдавала в багаж

Выбираем вместительный чемодан и упаковываем его так, чтобы не было перевеса

Лиза
Открыть в приложении