По оценке ученых, уже скоро качество нейросетей может стремительно деградировать

ForbesHi-Tech

Нейросетевой коллапс: почему вскоре может остановиться развитие алгоритмов ИИ

Сергей Загоруйко, Алексей Малафеев

Фото Getty Images

По оценке ряда ученых, уже скоро качество нейросетей может стремительно деградировать. Причиной этого станет обилие в сети контента, ранее сгенерированного ИИ-моделями. О том, станут ли нейросети в будущем бесполезными, рассуждают руководитель направления фундаментальных исследований MTS AI Сергей Загоруйко и технический лидер группы NLP Platform Алексей Малафеев.

Вниз по спирали

В последнее время в ИИ-сообществе только и разговоров, что о судьбе нейросетей. В недавно опубликованной научной статье группа британских и канадских исследователей пришла к резонансному выводу: если обучить нейросеть на материалах, сгенерированных другой ИИ-моделью, то это приведет к техническому коллапсу, который заключается в неизбежном падении качества работы нейросети.

Ключевое опасение игроков рынка заключается в том, что генеративные модели могут как бы заглушить своим контентом «оригинальный» контент, сгенерированный людьми. В результате интернет может заполниться искусственно сгенерированными текстами или изображениями, а в будущем даже видеороликами, которые не только не несут в себе ценности, но и каким-то образом искажают реальность, содержат фактические ошибки. В них может не поверить человек, но нейросеть примет за чистую монету.

Это, в свою очередь, может привести к тому, что следующие модели искусственного интеллекта, которые будут обучаться на этих синтезированных данных, будут предоставлять еще более искаженный результат. И тот контент, который сгенерируют уже они, окажется еще более испорченным и далеким от реальности.

Пока оценить степень серьезности проблемы сложно, так как нет достоверных сведений о количестве опубликованных в сети данных, сгенерированных моделями. Однако сама по себе проблема загрязнения данных стоит очень остро: инфополе будет засоряться, мусорные данные попадут в обучающие выборки, и сервисы, работающие на таких моделях, начнут функционировать все хуже и хуже.

Увидеть результат такого засорения можно уже сегодня. Языковые модели позволяют создавать контент, который выводит из строя системы мониторинга публикаций в сети. Из-за него ломаются алгоритмы контроля общественного мнения, а это приводит к ситуациям, когда думали, что будет Клинтон, а получился Трамп.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Норма жизни: зачем министерству спорта 70 процентов занимающихся физкультурой Норма жизни: зачем министерству спорта 70 процентов занимающихся физкультурой

Что не так с методикой подсчетов спортивных граждан?

Forbes
Сергей Салкуцан: «Очаги цифровизации возникают в разных областях знаний» Сергей Салкуцан: «Очаги цифровизации возникают в разных областях знаний»

Как меняется наука сегодня и может ли ИИ заменить ученого?

РБК
Почему беспроводные наушники быстро разряжаются Почему беспроводные наушники быстро разряжаются

Причины, по которым беспроводные наушники быстро разряжаются

CHIP
Что такое шугаринг и как его правильно делать Что такое шугаринг и как его правильно делать

Шугаринг — метод удаления волос, которым пользовались еще древние египтяне

РБК
Мозг, исцеляющий себя Мозг, исцеляющий себя

Реальные истории людей, которые победили болезни и преобразили свой мозг

kiozk originals
12 фильмов про детей, которые интересно смотреть взрослым 12 фильмов про детей, которые интересно смотреть взрослым

Лучшее развлечение в День защиты детей — глянуть что-то поучительное всей семьей

Maxim
Как законно обогащаться за счет ошибок и просчетов продавцов дорогостоящих товаров Как законно обогащаться за счет ошибок и просчетов продавцов дорогостоящих товаров

Как Стив Белкин обогатился за счет авиакомпаний

Forbes
4 ошибки с колготками, которые допускают даже продвинутые модницы 4 ошибки с колготками, которые допускают даже продвинутые модницы

Подводных камней в вопросе колготок куда больше, чем ты думала

VOICE
5 лучших способов не «подсесть» на капли для носа: отвечает врач 5 лучших способов не «подсесть» на капли для носа: отвечает врач

Как избавиться от проблем с дыханием и не «подсесть» на капли для носа

VOICE
В Таджикистане свекровь довела невестку до суицида: как избежать подобного в своей семье В Таджикистане свекровь довела невестку до суицида: как избежать подобного в своей семье

Как жить с абьюзивной свекровью?

Psychologies
7 необычных способов использования розмарина, которые не связаны с кулинарией: лайфхаки для дома и для красоты 7 необычных способов использования розмарина, которые не связаны с кулинарией: лайфхаки для дома и для красоты

Розмарин настолько полезен, что его можно добавлять в косметические продукты

ТехИнсайдер
Как сохранить красоту маникюра после 50 лет: простые лайфхаки от экспертов Как сохранить красоту маникюра после 50 лет: простые лайфхаки от экспертов

Возраст – не помеха здоровым и крепким ногтям!

VOICE
«Перезаряжайте батарейки»: 7 привычек, которые помогают поддерживать мотивацию каждый день «Перезаряжайте батарейки»: 7 привычек, которые помогают поддерживать мотивацию каждый день

Как быть, если силы на исходе, а мотивация на нуле?

Psychologies
Гори, не гасни: причины и способы предотвращения профессионального выгорания Гори, не гасни: причины и способы предотвращения профессионального выгорания

Как быть, если столкнулся с профессиональным выгоранием?

ТехИнсайдер
Большие возможности. Тест-драйв внедорожника TANK 500 Большие возможности. Тест-драйв внедорожника TANK 500

Какими достоинствами обладает новый китайский внедорожник TANK 500

СНОБ
В Англии есть специальное кладбище для ампутированных конечностей. Пугающе интересно! В Англии есть специальное кладбище для ампутированных конечностей. Пугающе интересно!

Куда люди могут девать свои ампутированные конечности

ТехИнсайдер
Неандертальцы умели молоть муку. Возможно, люди 40 тысяч лет назад научились этому у них Неандертальцы умели молоть муку. Возможно, люди 40 тысяч лет назад научились этому у них

Задолго до изобретения сельского хозяйства люди уже умели молоть зерно в муку

ТехИнсайдер
Мы поехали! Мы поехали!

Cамые частые ошибки, которые портят отдых

Лиза
Постель, сбивающая с ног Постель, сбивающая с ног

«Париж, 13-й округ»: Жак Одьяр экранизирует американский комикс

Weekend
Целый зоопарк: необычные домашние питомцы звезд — осел, обезьяна и даже свинья Целый зоопарк: необычные домашние питомцы звезд — осел, обезьяна и даже свинья

Эти звезды проявили фантазию при поиске питомца

VOICE
Как на первом свидании определить, подходит ли женщина вам в сексе Как на первом свидании определить, подходит ли женщина вам в сексе

Можно ли на первом свидании понять, как проявит себя женщина в сексе?

Psychologies
«Авада Вендетта». Нейросеть превратила героев «Гарри Поттера» в итальянцев «Авада Вендетта». Нейросеть превратила героев «Гарри Поттера» в итальянцев

Получилась альтернативная версия «Крестного отца».

Правила жизни
Майонезный шик: как этот соус стал одним из самых популярных в мире Майонезный шик: как этот соус стал одним из самых популярных в мире

Как майонез появился в России и почему пользуется такой популярностью сейчас

Forbes
Как в Челябинске запустили первое в России производство сверхбольших стеклопакетов Как в Челябинске запустили первое в России производство сверхбольших стеклопакетов

Как производство больших архитектурных стеклопакетов может изменить Россию

СНОБ
Нейробиологи нашли сигналы и пики в мозге пациентов, которые вообще не реагируют на внешний мир Нейробиологи нашли сигналы и пики в мозге пациентов, которые вообще не реагируют на внешний мир

Ученые проанализировали реакции мозга пациентов в бессознательном состоянии

ТехИнсайдер
«Дегенераты у власти», или Диагноз доктора Кронфельда «Дегенераты у власти», или Диагноз доктора Кронфельда

В мае 1932 года Адольф Гитлер подал в суд за клевету на журналиста Вернера Абеля

Дилетант
Мыши с выключенным протоонкогеном Myc быстро состарились и прожили дольше Мыши с выключенным протоонкогеном Myc быстро состарились и прожили дольше

Как протоонкоген Мус влияет на продолжительность жизни?

N+1
Байки новой реальности Байки новой реальности

Сколько теперь стоят мотоциклы

Деньги
Нейл-табу: какие формы ногтей ненавидят мастера маникюра Нейл-табу: какие формы ногтей ненавидят мастера маникюра

Специалисты салонов рассказали, какие формы ногтей они не любят и почему

VOICE
Мигрень повысила риск преждевременного инфаркта у женщин Мигрень повысила риск преждевременного инфаркта у женщин

У женщин с мигренью риск инфаркта миокарда и инсульта выше, чем у мужчин

N+1
Открыть в приложении