По оценке ученых, уже скоро качество нейросетей может стремительно деградировать

ForbesHi-Tech

Нейросетевой коллапс: почему вскоре может остановиться развитие алгоритмов ИИ

Сергей Загоруйко, Алексей Малафеев

Фото Getty Images

По оценке ряда ученых, уже скоро качество нейросетей может стремительно деградировать. Причиной этого станет обилие в сети контента, ранее сгенерированного ИИ-моделями. О том, станут ли нейросети в будущем бесполезными, рассуждают руководитель направления фундаментальных исследований MTS AI Сергей Загоруйко и технический лидер группы NLP Platform Алексей Малафеев.

Вниз по спирали

В последнее время в ИИ-сообществе только и разговоров, что о судьбе нейросетей. В недавно опубликованной научной статье группа британских и канадских исследователей пришла к резонансному выводу: если обучить нейросеть на материалах, сгенерированных другой ИИ-моделью, то это приведет к техническому коллапсу, который заключается в неизбежном падении качества работы нейросети.

Ключевое опасение игроков рынка заключается в том, что генеративные модели могут как бы заглушить своим контентом «оригинальный» контент, сгенерированный людьми. В результате интернет может заполниться искусственно сгенерированными текстами или изображениями, а в будущем даже видеороликами, которые не только не несут в себе ценности, но и каким-то образом искажают реальность, содержат фактические ошибки. В них может не поверить человек, но нейросеть примет за чистую монету.

Это, в свою очередь, может привести к тому, что следующие модели искусственного интеллекта, которые будут обучаться на этих синтезированных данных, будут предоставлять еще более искаженный результат. И тот контент, который сгенерируют уже они, окажется еще более испорченным и далеким от реальности.

Пока оценить степень серьезности проблемы сложно, так как нет достоверных сведений о количестве опубликованных в сети данных, сгенерированных моделями. Однако сама по себе проблема загрязнения данных стоит очень остро: инфополе будет засоряться, мусорные данные попадут в обучающие выборки, и сервисы, работающие на таких моделях, начнут функционировать все хуже и хуже.

Увидеть результат такого засорения можно уже сегодня. Языковые модели позволяют создавать контент, который выводит из строя системы мониторинга публикаций в сети. Из-за него ломаются алгоритмы контроля общественного мнения, а это приводит к ситуациям, когда думали, что будет Клинтон, а получился Трамп.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Индивидуалистка из СССР: как Айн Рэнд боролась с коммунизмом и создавала бестселлеры Индивидуалистка из СССР: как Айн Рэнд боролась с коммунизмом и создавала бестселлеры

Как Айн Рэнд, дочь аптекаря из Петербурга, смогла покорить США

Forbes
Мозг использовал два механизма для вычленения речи собеседника в шумной компании Мозг использовал два механизма для вычленения речи собеседника в шумной компании

Ученые проанализировали, как мозг обрабатывает речь в людном и шумном помещении

N+1
Как обработать фото, будто вы сделали его на пленку? Сохраните этот простой метод! Как обработать фото, будто вы сделали его на пленку? Сохраните этот простой метод!

Как сделать цифровые снимки похожими на пленку: инструкция

ТехИнсайдер
Разработан метод, который позволяет с вероятностью 99% определить статью, написанную чат-ботом Разработан метод, который позволяет с вероятностью 99% определить статью, написанную чат-ботом

Создан инструмент для идентификации академических научных текстов, созданных ИИ

ТехИнсайдер
Психологический портрет: что такое дисморфофобия, или синдром Квазимодо Психологический портрет: что такое дисморфофобия, или синдром Квазимодо

Что нужно знать о дисморфофобии?

Forbes
Как выжить в вынужденной эмиграции и не потерять себя: 5 советов из личного опыта Как выжить в вынужденной эмиграции и не потерять себя: 5 советов из личного опыта

Как более менее пройти кризис миграции?

Psychologies
Как в Россию возвращалась теология и зачем она нам сегодня Как в Россию возвращалась теология и зачем она нам сегодня

Выявлять и акцентировать проблемы гуманитарной науки в целом — задача теологии

Наука
В солнечной долине В солнечной долине

Светлый таунхаус на первой линии Чёрного моря, в окружении гор и виноградников

Идеи Вашего Дома
«Находился при охранении клетки с Пугачевым» «Находился при охранении клетки с Пугачевым»

Изучение портрета дворянина открыло малоизвестные эпизоды Пугачёвского бунта

Дилетант
Как не дать психологическим травмам испортить вашу жизнь Как не дать психологическим травмам испортить вашу жизнь

Как себе помочь и стать успешным и счастливым человеком, несмотря на травмы

Psychologies
Вкусный сезон. 8 самых полезных ягод: каждая по-своему неповторима и полезна Вкусный сезон. 8 самых полезных ягод: каждая по-своему неповторима и полезна

Ягоды – один из самых полезных продуктов в мире.

Лиза
Лема Эмелевская: «Люди думают, что я пафосная сучка» Лема Эмелевская: «Люди думают, что я пафосная сучка»

Скандальная рэперша рассказала о работе в стрип-клубе и феминизме

Maxim
Утро начинается не только с кофе: 7 напитков, которые зарядят вас энергией на весь день Утро начинается не только с кофе: 7 напитков, которые зарядят вас энергией на весь день

Наскучил кофе? Попробуйте заменить его этими напитками

ТехИнсайдер
И на земле И на земле

Готовиться к бомбардировкам британцы начали задолго до войны

Дилетант
Пропускать душ и грызть ногти: 6 детских привычек, которые вообще-то полезны Пропускать душ и грызть ногти: 6 детских привычек, которые вообще-то полезны

Неэстетичные привычки, которые идут детям лишь на пользу

Psychologies
6 книг, достойных экранизации 6 книг, достойных экранизации

Художественные книги, экранизации которых могли бы оказаться интересными

СНОБ
Мужчина и женщина: как понять друг друга — советы сексолога Мужчина и женщина: как понять друг друга — советы сексолога

Почему мужчины и женщины порой не слышат друг друга?

Psychologies
Жажда власти, похоть и тщеславие в фильме Паоло Соррентино о Сильвио Берлускони Жажда власти, похоть и тщеславие в фильме Паоло Соррентино о Сильвио Берлускони

«Лоро» Паоло Соррентино — ироничный байопик о Сильвио Берлускони

Правила жизни
Отец отказался от короны: кто такая Виттория ди Савойя, внезапно ставшая первой наследницей трона Италии за 1000 лет Отец отказался от короны: кто такая Виттория ди Савойя, внезапно ставшая первой наследницей трона Италии за 1000 лет

Кто такая Виттория ди Савойя, и в каком положении она оказалась?

VOICE
На краю земли На краю земли

Дизайнер Seasons Дарья Уланова вместе с друзьями отправилась на Сахалин

Seasons of life
Можно ли улучшить память? Можно ли улучшить память?

Что мы запоминаем и почему?

VC.RU
Енисей, Байкал и Ладога: 4 круиза по рекам и озерам России Енисей, Байкал и Ладога: 4 круиза по рекам и озерам России

Самые интересные круизы на современных российских теплоходах

СНОБ
Как законно обогащаться за счет ошибок и просчетов продавцов дорогостоящих товаров Как законно обогащаться за счет ошибок и просчетов продавцов дорогостоящих товаров

Как Стив Белкин обогатился за счет авиакомпаний

Forbes
Как вернуть любовь мужа: 8 главных советов Как вернуть любовь мужа: 8 главных советов

Разрешить семейный кризис можно — главное, предпринять правильные шаги

Psychologies
Когда воссияли звезды: ученые рассказали, какой была таинственная «эпоха Реионизации» на заре времен Когда воссияли звезды: ученые рассказали, какой была таинственная «эпоха Реионизации» на заре времен

Астрономы пытаются разгадать секреты того, когда Вселенная зажгла свои огни

ТехИнсайдер
Милые дикие кошки, которые на самом деле опасные и кровожадные Милые дикие кошки, которые на самом деле опасные и кровожадные

Даже не вздумайте гладить этих котеек!

Maxim
Нерожденный ребенок: как пережить прервавшуюся беременность Нерожденный ребенок: как пережить прервавшуюся беременность

Правил, которые помогут пережить прервавшуюся беременность и сохранить здоровье

Psychologies
После сотрясения мозг исцеляет себя глубоким сном После сотрясения мозг исцеляет себя глубоким сном

Мозг после травмы погружает пострадавшего в сон более глубокий, чем обычно

ТехИнсайдер
Вулканы нивелируют пятую часть антропогенного нагрева атмосферы в XXI веке Вулканы нивелируют пятую часть антропогенного нагрева атмосферы в XXI веке

Сульфатные аэрозоли вулканического происхождения сильно охлаждают климат

N+1
Эротика в советской литературе Эротика в советской литературе

Хотите верьте, хотите нет, но в советской художественной литературе был секс

Maxim
Открыть в приложении