По оценке ученых, уже скоро качество нейросетей может стремительно деградировать

ForbesHi-Tech

Нейросетевой коллапс: почему вскоре может остановиться развитие алгоритмов ИИ

Сергей Загоруйко, Алексей Малафеев

Фото Getty Images

По оценке ряда ученых, уже скоро качество нейросетей может стремительно деградировать. Причиной этого станет обилие в сети контента, ранее сгенерированного ИИ-моделями. О том, станут ли нейросети в будущем бесполезными, рассуждают руководитель направления фундаментальных исследований MTS AI Сергей Загоруйко и технический лидер группы NLP Platform Алексей Малафеев.

Вниз по спирали

В последнее время в ИИ-сообществе только и разговоров, что о судьбе нейросетей. В недавно опубликованной научной статье группа британских и канадских исследователей пришла к резонансному выводу: если обучить нейросеть на материалах, сгенерированных другой ИИ-моделью, то это приведет к техническому коллапсу, который заключается в неизбежном падении качества работы нейросети.

Ключевое опасение игроков рынка заключается в том, что генеративные модели могут как бы заглушить своим контентом «оригинальный» контент, сгенерированный людьми. В результате интернет может заполниться искусственно сгенерированными текстами или изображениями, а в будущем даже видеороликами, которые не только не несут в себе ценности, но и каким-то образом искажают реальность, содержат фактические ошибки. В них может не поверить человек, но нейросеть примет за чистую монету.

Это, в свою очередь, может привести к тому, что следующие модели искусственного интеллекта, которые будут обучаться на этих синтезированных данных, будут предоставлять еще более искаженный результат. И тот контент, который сгенерируют уже они, окажется еще более испорченным и далеким от реальности.

Пока оценить степень серьезности проблемы сложно, так как нет достоверных сведений о количестве опубликованных в сети данных, сгенерированных моделями. Однако сама по себе проблема загрязнения данных стоит очень остро: инфополе будет засоряться, мусорные данные попадут в обучающие выборки, и сервисы, работающие на таких моделях, начнут функционировать все хуже и хуже.

Увидеть результат такого засорения можно уже сегодня. Языковые модели позволяют создавать контент, который выводит из строя системы мониторинга публикаций в сети. Из-за него ломаются алгоритмы контроля общественного мнения, а это приводит к ситуациям, когда думали, что будет Клинтон, а получился Трамп.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Признание и обвинение: почему общество не верит рассказам женщин о пережитом насилии Признание и обвинение: почему общество не верит рассказам женщин о пережитом насилии

Как общество относится к рассказам женщин о травматичном опыте?

Forbes
«Мы располагаем технологическими и экономическими возможностями для того, чтобы покончить с бедностью» | “We Have the Technological and Economic Means to End Poverty“ «Мы располагаем технологическими и экономическими возможностями для того, чтобы покончить с бедностью» | “We Have the Technological and Economic Means to End Poverty“

Интервью с профессором Джеффри Саксом

Позитивные изменения
«Королева небес»: Что известно о самолете за $400 миллионов, который Катар подарил Трампу «Королева небес»: Что известно о самолете за $400 миллионов, который Катар подарил Трампу

Как Америке катарцы подарили самолет.

Maxim
Бассейн на даче: это сложно или нет? Бассейн на даче: это сложно или нет?

Разбираемся, чего от бассейна на дачном участке больше — пользы или проблем?

CHIP
Как Пеппи Длинныйчулок стала символом свободы и изменила жизни миллионов девочек Как Пеппи Длинныйчулок стала символом свободы и изменила жизни миллионов девочек

Как Астрид Линдгрен стала борцом за права детей и причем тут Пеппи Длинныйчулок?

Forbes
Беседы с Хичкоком и пожары в Якутии: семь самых интересных фильмов Beat Film Festival Беседы с Хичкоком и пожары в Якутии: семь самых интересных фильмов Beat Film Festival

Картины конкурса Beat Film Festival, которые точно стоит посмотреть

Forbes
Магнитный микроробот с алюминиевой чешуей остановил кровотечение в желудке свиньи Магнитный микроробот с алюминиевой чешуей остановил кровотечение в желудке свиньи

Прототип миниатюрного робота для биомедицинских целей

N+1
«Женщины играют значительную роль в освоении арктических территорий» «Женщины играют значительную роль в освоении арктических территорий»

О важности постоянного прямого диалога с женщинами коренных народов Севера

РБК
Как нейросети создают персонажей и киновселенные Как нейросети создают персонажей и киновселенные

Разбираемся, как используют нейросети в современной киноиндустрии

CHIP
Земледелие в Северо-Западную Африку принесли мигранты с Пиренейского полуострова Земледелие в Северо-Западную Африку принесли мигранты с Пиренейского полуострова

Палеогенетики прочитали ДНК девяти человек, живших в позднем эпипалеолите

N+1
Мифы об известных писателях Мифы об известных писателях

10 самых популярных заблуждений, в которые верят даже начитанные интеллектуалы

Maxim
«Цель любого экосистемного продукта — дать максимальную синергию банку» «Цель любого экосистемного продукта — дать максимальную синергию банку»

О том, какие направления развития банковского дела перспективны, а какие — нет

Деньги
Канадцы составили распорядок дня среднестатистического землянина Канадцы составили распорядок дня среднестатистического землянина

Как проходит день среднестатистического человека?

N+1
Вкусный сезон. 8 самых полезных ягод: каждая по-своему неповторима и полезна Вкусный сезон. 8 самых полезных ягод: каждая по-своему неповторима и полезна

Ягоды – один из самых полезных продуктов в мире.

Лиза
Закрытый клуб любителей оливье: как на самом деле живут русские экспаты в Дубае Закрытый клуб любителей оливье: как на самом деле живут русские экспаты в Дубае

Как живут россияне в ОАЭ и почему после переезда они полюбили русские традиции

Forbes
Ядовитый плющ и нежная 2B — самые горячие летние образы от российских косплеерш Ядовитый плющ и нежная 2B — самые горячие летние образы от российских косплеерш

Готовимся встречать жару в компании прекрасных девушек

Maxim
Как заводить деловые связи и знакомства: 3 совета интровертам Как заводить деловые связи и знакомства: 3 совета интровертам

Как случилось, что люди, избегающие общения, добиваются успеха?

Psychologies
Нет предрассудкам: почему на китайские автомобили Voyah стоит обратить внимание Нет предрассудкам: почему на китайские автомобили Voyah стоит обратить внимание

Voyah: чем интересен молодой и амбициозный бренд из Поднебесной

Forbes
Не повод для знакомства: радости и горести секса без обязательств Не повод для знакомства: радости и горести секса без обязательств

Наша колумнистка Марта Кетро рассказывает об особенностях "только секса"

VOICE
Сверхэффективный гидрогель поглощает воду прямо из воздуха даже в пустыне Сверхэффективный гидрогель поглощает воду прямо из воздуха даже в пустыне

Создан супервпитывающий гидрогель, который может вытягивать влагу в пустыне

ТехИнсайдер
Как подобрать форму носа по типу лица: лучшая памятка от хирурга перед ринопластикой Как подобрать форму носа по типу лица: лучшая памятка от хирурга перед ринопластикой

Врач рассказал, как грамотно подготовиться к пластике носа

VOICE
Вулканы нивелируют пятую часть антропогенного нагрева атмосферы в XXI веке Вулканы нивелируют пятую часть антропогенного нагрева атмосферы в XXI веке

Сульфатные аэрозоли вулканического происхождения сильно охлаждают климат

N+1
«Ковёр» на Ковентри «Ковёр» на Ковентри

«Любое нападение с воздуха на гражданских противоречит законам ведения войны»

Дилетант
«Не цельтесь в уязвимые места»: 8 негласных правил ссоры — применяйте с партнером «Не цельтесь в уязвимые места»: 8 негласных правил ссоры — применяйте с партнером

Как выяснять отношения уважительно и каких ошибок стоит избегать?

Psychologies
Как в Россию возвращалась теология и зачем она нам сегодня Как в Россию возвращалась теология и зачем она нам сегодня

Выявлять и акцентировать проблемы гуманитарной науки в целом — задача теологии

Наука
Окнами в лес Окнами в лес

Интерьер оформлен так, чтобы поддерживать эффект единения с природой

Идеи Вашего Дома
Енисей, Байкал и Ладога: 4 круиза по рекам и озерам России Енисей, Байкал и Ладога: 4 круиза по рекам и озерам России

Самые интересные круизы на современных российских теплоходах

СНОБ
«Сочетание контрактного производства и своих брендов усиливает бизнес» «Сочетание контрактного производства и своих брендов усиливает бизнес»

О перспективах рынка отечественной бытовой химии и косметики

РБК
Как положение языка во рту влияет на наше здоровье: странный фактор, о котором вы не знали Как положение языка во рту влияет на наше здоровье: странный фактор, о котором вы не знали

Как может правильное положение языка влиять на все наше тело?

ТехИнсайдер
Илья Дель Илья Дель

Илья Дель дождался роли, в которой выкрутил тумблер своего таланта на максимум

Собака.ru
Открыть в приложении