По оценке ученых, уже скоро качество нейросетей может стремительно деградировать

ForbesHi-Tech

Нейросетевой коллапс: почему вскоре может остановиться развитие алгоритмов ИИ

Сергей Загоруйко, Алексей Малафеев

Фото Getty Images

По оценке ряда ученых, уже скоро качество нейросетей может стремительно деградировать. Причиной этого станет обилие в сети контента, ранее сгенерированного ИИ-моделями. О том, станут ли нейросети в будущем бесполезными, рассуждают руководитель направления фундаментальных исследований MTS AI Сергей Загоруйко и технический лидер группы NLP Platform Алексей Малафеев.

Вниз по спирали

В последнее время в ИИ-сообществе только и разговоров, что о судьбе нейросетей. В недавно опубликованной научной статье группа британских и канадских исследователей пришла к резонансному выводу: если обучить нейросеть на материалах, сгенерированных другой ИИ-моделью, то это приведет к техническому коллапсу, который заключается в неизбежном падении качества работы нейросети.

Ключевое опасение игроков рынка заключается в том, что генеративные модели могут как бы заглушить своим контентом «оригинальный» контент, сгенерированный людьми. В результате интернет может заполниться искусственно сгенерированными текстами или изображениями, а в будущем даже видеороликами, которые не только не несут в себе ценности, но и каким-то образом искажают реальность, содержат фактические ошибки. В них может не поверить человек, но нейросеть примет за чистую монету.

Это, в свою очередь, может привести к тому, что следующие модели искусственного интеллекта, которые будут обучаться на этих синтезированных данных, будут предоставлять еще более искаженный результат. И тот контент, который сгенерируют уже они, окажется еще более испорченным и далеким от реальности.

Пока оценить степень серьезности проблемы сложно, так как нет достоверных сведений о количестве опубликованных в сети данных, сгенерированных моделями. Однако сама по себе проблема загрязнения данных стоит очень остро: инфополе будет засоряться, мусорные данные попадут в обучающие выборки, и сервисы, работающие на таких моделях, начнут функционировать все хуже и хуже.

Увидеть результат такого засорения можно уже сегодня. Языковые модели позволяют создавать контент, который выводит из строя системы мониторинга публикаций в сети. Из-за него ломаются алгоритмы контроля общественного мнения, а это приводит к ситуациям, когда думали, что будет Клинтон, а получился Трамп.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Школа для элиты: как выпускник Оксфорда зарабатывает на обучении детей миллионеров Школа для элиты: как выпускник Оксфорда зарабатывает на обучении детей миллионеров

Основатель EdEra School: 360 млн выручки на образовании для состоятельных

Forbes
Диетологи предупреждают: рис таит в себе угрозу вашему здоровью Диетологи предупреждают: рис таит в себе угрозу вашему здоровью

Ряд учёных заявляет о вреде риса для здоровья человека

ТехИнсайдер
Как работает автофокус в фотоаппарате? От сенсора до мотора в объективе Как работает автофокус в фотоаппарате? От сенсора до мотора в объективе

Как работает автофокус: подробно и со схемами

ТехИнсайдер
Арсений Попов Арсений Попов

Актер и главный импровизатор страны, Арсений Попов

Собака.ru
«Поел морковки и пожелтел»: какие витамины нам не нужны «Поел морковки и пожелтел»: какие витамины нам не нужны

Какими рисками чревато расхожее «попей витаминчиков», откуда взялась эта мода?

РБК
Мужчина и женщина: как понять друг друга — советы сексолога Мужчина и женщина: как понять друг друга — советы сексолога

Почему мужчины и женщины порой не слышат друг друга?

Psychologies
Нейросеть написала книгу вместе с авторами: Адрей Глебов о том, какого творить вместе с ИИ Нейросеть написала книгу вместе с авторами: Адрей Глебов о том, какого творить вместе с ИИ

Андрей Глебов поделился своими мыслями о роли нейросетей в будущем литературы

ТехИнсайдер
Александр Траугот Александр Траугот

За авторской росписью Александра Траугота охотятся фанаты и коллекционеры

Собака.ru
Анна Котова: «Моя роль от меня не уйдет» Анна Котова: «Моя роль от меня не уйдет»

«Вода камень точит. Важно не сдаваться!»

Коллекция. Караван историй
Ученые озадачены! У белокожих меньше пищевых аллергий, чем у людей с другими цветами кожи Ученые озадачены! У белокожих меньше пищевых аллергий, чем у людей с другими цветами кожи

Уровень дохода и цвет кожи человека влияют на развитие пищевых аллергий

ТехИнсайдер
За кулисами счастья Абдаллы и Рании: тайны и трагедии королевской семьи Иордана За кулисами счастья Абдаллы и Рании: тайны и трагедии королевской семьи Иордана

Почему король Абдалла II так ценит свой личный островок спокойствия

VOICE
Сказка на хуторе Сказка на хуторе

На месте бывшей свалки Сергей Кушнаренко создал уникальный ландшафтный парк

Отдых в России
Почему вам срочно нужно начать есть клетчатку: плюсы и преимущества Почему вам срочно нужно начать есть клетчатку: плюсы и преимущества

Ешьте больше клетчатки! Ведь клетчатка критически важна для здоровья

ТехИнсайдер
Как работает фонд «Обнаженные сердца»: кейсы, программы, способы помочь Как работает фонд «Обнаженные сердца»: кейсы, программы, способы помочь

Как фонд «Обнаженные сердца» помогает детям и взрослым с нарушениями развития

РБК
Стоит ли пить свежевыжатые соки, если все говорят, что они вредны Стоит ли пить свежевыжатые соки, если все говорят, что они вредны

Стоит ли вообще пить свежевыжатый сок?

ТехИнсайдер
«Сколько дадим, столько и получим»: психолог о лучшем инструменте влияния в паре «Сколько дадим, столько и получим»: психолог о лучшем инструменте влияния в паре

Постоянный обмен — лучший способ углубить отношения

Psychologies
Для тех, кто любит посложнее: 5 романов для интеллектуалов Для тех, кто любит посложнее: 5 романов для интеллектуалов

Сложные эпические романы — целое исследование человека, общества и истории

Maxim
Как ликерные вина стали самой многострадальной категорией российского виноделия Как ликерные вина стали самой многострадальной категорией российского виноделия

Мы живем в стране победившего портвейна

Forbes
Эдвард Мордейк — человек с двумя лицами. Существовал ли он на самом деле? Эдвард Мордейк — человек с двумя лицами. Существовал ли он на самом деле?

Есть в биографии Эдварда Мордейка некоторые поразительные несостыковки

ТехИнсайдер
Почему не сохранились древние памятники славянской культуры Почему не сохранились древние памятники славянской культуры

Почему древние восточные славяне не оставили после себя артефактов и преданий

Maxim
В 1986 году рядом с озером Ньос умерло 1746 человек и все животные. Это случилось за пару секунд В 1986 году рядом с озером Ньос умерло 1746 человек и все животные. Это случилось за пару секунд

21 августа 1986 года на озере Ньос был слышен странный грохочущий звук...

ТехИнсайдер
Маски с грядки Маски с грядки

Достойная замена дорогим салонным процедурам из простых и доступных ингредиентов

Лиза
«Можно ли спасти отношения?»: 10 вопросов, которые помогут это понять, — проверьте вашу пару «Можно ли спасти отношения?»: 10 вопросов, которые помогут это понять, — проверьте вашу пару

Прежде чем расстаться с партнером, задайте себе правильные вопросы

Psychologies
Как убрать целлюлит за 7 простых шагов: твой самый быстрый путь к гладкой коже Как убрать целлюлит за 7 простых шагов: твой самый быстрый путь к гладкой коже

Даем пошаговую инструкцию по быстрому уничтожению "апельсиновой корки" на бедрах

VOICE
Чашка кофе — лучший способ привести мозг в рабочее состояние. Кофеин — это не все, хотя и он нужен Чашка кофе — лучший способ привести мозг в рабочее состояние. Кофеин — это не все, хотя и он нужен

Мало того, что кофе очень полезен, он еще и приятен. И вот почему

ТехИнсайдер
Бородатые свиньи помогли ботаникам открыть первую пальму с подземными цветками и плодами Бородатые свиньи помогли ботаникам открыть первую пальму с подземными цветками и плодами

Ботаники описали первую пальму, у которой цветки и плоды развиваются под землей

N+1
Чек-лист токсичного врача: 5 тревожных звоночков Чек-лист токсичного врача: 5 тревожных звоночков

Как распознать токсичного врача, чтобы вовремя поменять специалиста?

Psychologies
5 книг о медицине будущего 5 книг о медицине будущего

Как развивается медицина и что ожидает человечество в будущем

СНОБ
10 самых живописных пляжей России 10 самых живописных пляжей России

Песок и галька, косы и мысы, горы и скалы

Караван историй
Ни в коем случае не наносите сметану: как быстро вылечить солнечный ожог и облегчить боль Ни в коем случае не наносите сметану: как быстро вылечить солнечный ожог и облегчить боль

Случайно уснули на солнце, пока загорали?

ТехИнсайдер
Открыть в приложении