Один метод обучения позволяет учить модели для работы с разными данными

N+1Hi-Tech

Исследователи из Meta (признана экстремистской организацией на территории РФ) разработали мультимодальный метод обучения нейросетей

Григорий Копиев

Meta (признана экстремистской организацией на территории РФ) AI

Исследователи из Meta (признана экстремистской организацией на территории РФ) AI (ранее Facebook (соцсеть признана в РФ экстремистской и запрещена) AI) разработали единый метод обучения нейросетей, подходящий для работы с изображениями, звуком и текстом. В нем используется две идентичные нейросети — учитель и ученик. Учитель получает полные входные данные, а ученик получает частичные и учится предсказывать внутреннее представление полной версии этих данных в модели-учителе. Модели, обученные таким методом, оказались лучше или сравнимы с моделями, обученные методами, специфичными для одного типа данных. Статья и краткое описание метода опубликованы на сайте Meta (признана экстремистской организацией на территории РФ) AI.

В последние годы исследователи в области машинного обучения все чаще используют обучение без учителя или самообучение. Особенно полезно оно когда необходимо использовать огромные объемы данных или обучать модель на задаче, для которой нет достаточных датасетов, например, для обучения языковой модели на редком языке. Один из самых ярких примеров такого типа обучения — GPT-3, которая обучалась на 570 гигабайтах текстов. Однако разработки в области самообучения, как правило, сосредоточены на одной модальности (одном типе данных), и методы обучения зачастую нельзя напрямую применить к другим модальностям.

Группа исследователей из Meta (признана экстремистской организацией на территории РФ) AI под руководством Майкла Аули (Michael Auli) разработала метод обучения, подходящий для разных типов данных. Разработчики использовали в качестве обучаемой модели для всех трех модальностей стандартный трансформер и добавляли к нему на вход специфичный энкодер для того или иного типа данных. Во время обучения используется две нейросетевых модели (учитель и ученик), но по сути они идентичны друг другу и отличаются тем,

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Следующие 500 лет: Как подготовить человека к жизни на других планетах» «Следующие 500 лет: Как подготовить человека к жизни на других планетах»

Зачем превращать одни клетки в другие

N+1
К чему приведет попытка властей зарегулировать личную жизнь граждан К чему приведет попытка властей зарегулировать личную жизнь граждан

Попытка зарегулировать повседневную жизнь ведет к социальному инфантилизму

СНОБ
Цифровой сценарист: как ИИ создает иллюзию свободы выбора Цифровой сценарист: как ИИ создает иллюзию свободы выбора

Как научиться распознавать технологические манипуляции

Forbes
Мода, гастрономия, анимация: успешные российские индустрии за рубежом Мода, гастрономия, анимация: успешные российские индустрии за рубежом

Какие отечественные бренды и проекты добиваются заметных успехов за рубежом

РБК
Сменила балет на «Игрушки»: как Агния Барто стала одной из главных детских поэтесс Сменила балет на «Игрушки»: как Агния Барто стала одной из главных детских поэтесс

История Агнии Барто, одной из главных детских поэтесс в России

Forbes
Curiosity обнаружил на Марсе углеродный след жизни. Главные новости науки сегодня Curiosity обнаружил на Марсе углеродный след жизни. Главные новости науки сегодня

Марсоход Curiosity обнаружил отложения бедные изотопом углерод-13

Популярная механика
8 простых соков и напитков, которые помогают похудеть (по мнению нутрициологов) 8 простых соков и напитков, которые помогают похудеть (по мнению нутрициологов)

Как лучше всего использовать соки и смузи, чтобы сбросить вес?

Cosmopolitan
Всегда говори “да” Всегда говори “да”

Da Bureau протестировали в своей квартире идеи, которые предлагают заказчикам

AD
5 причин купить индукционную варочную поверхность, а не электрическую 5 причин купить индукционную варочную поверхность, а не электрическую

5 поводов остановить свой выбор именно на "индукционке"

CHIP
5 фильмов с Гаспаром Ульельем, которые стоит пересмотреть прямо сейчас 5 фильмов с Гаспаром Ульельем, которые стоит пересмотреть прямо сейчас

Мы вспоминаем самые яркие моменты улетевшей кометы по имени Гаспар Ульель

Maxim
Всегда готовь! Всегда готовь!

Какие блюда знаменитости готовят на праздник

Лиза
Пурпурноголовые малюры неожиданно для орнитологов вывели птенцов во время сухого сезона Пурпурноголовые малюры неожиданно для орнитологов вывели птенцов во время сухого сезона

Ранее считалось, что малюры размножаются почти исключительно в период дождей

N+1
Не NFT единым: как устроен рынок стикеров азиатского мессенджера Line, где авторы зарабатывают миллионы долларов в год Не NFT единым: как устроен рынок стикеров азиатского мессенджера Line, где авторы зарабатывают миллионы долларов в год

Четыре миллиона художников рисуют своих персонажей для мессенджера

VC.RU
11 упражнений с гирей для новичков и профессиональных спортсменов 11 упражнений с гирей для новичков и профессиональных спортсменов

Тренировки с гирей улучшают общее состояние организма

РБК
У кого больше секса: у женатых или холостых, у молодых или в возрасте? У кого больше секса: у женатых или холостых, у молодых или в возрасте?

Кому достается весь секс, пока некоторым его явно не хватает?

Maxim
Секреты красоты Кейт Миддлтон: фитнес-клуб принцессы Дианы и трюки с диетами Секреты красоты Кейт Миддлтон: фитнес-клуб принцессы Дианы и трюки с диетами

Как Кейт Миддлтон удается выглядеть так великолепно?

Cosmopolitan
Полетели Полетели

Инновационный центр «Бирюч» представил новый проект беспилотного аэротакси

Популярная механика
Сделано в ССР Сделано в ССР

Шоурум концептуальной одежды и обуви от загадочного дизайнера

AD
Опыт одной фиксации: как смотреть «Фотоувеличение» Антониони 50 лет спустя Опыт одной фиксации: как смотреть «Фотоувеличение» Антониони 50 лет спустя

«Фотоувеличение» — кино-загадка о молодом лондонском фотографе

Esquire
В погоне за универсальностью: палубный многоцелевой самолёт MPSNA из 80-х В погоне за универсальностью: палубный многоцелевой самолёт MPSNA из 80-х

Универсальный палубный самолёт MPSNA, о котором мы сегодня поговорим

Популярная механика
Как похудеть в спине: советы тренера и 3 полезных упражнения Как похудеть в спине: советы тренера и 3 полезных упражнения

Почему толстеет спина, как убрать жир на животе и надо ли вообще это делать?

Cosmopolitan
Убийцы печени: 5 продуктов, которые лучше убрать из рациона Убийцы печени: 5 продуктов, которые лучше убрать из рациона

Колбаса, алкоголь и даже молоко — что вредит твоей печени?

Cosmopolitan
Отрывок из книги «Коммуналка на Петроградке» Анастасии Вепревой и Романа Осминкина Отрывок из книги «Коммуналка на Петроградке» Анастасии Вепревой и Романа Осминкина

Отрывок из книги о жизни в коммунальной квартире

СНОБ
Papa Roach — о борще с водкой, всепоглощающем страхе и жизни рок-звезды Papa Roach — о борще с водкой, всепоглощающем страхе и жизни рок-звезды

Papa Roach — об изменениях в музыкальной индустрии, безудержных пьянках и другом

GQ
Исцеляющие кристаллы: что о них нужно знать Исцеляющие кристаллы: что о них нужно знать

Какой целебной силой многие люди наделяют кристаллы

Cosmopolitan
Климат-контроль vs кондиционер: чем отличаются, как работают, что лучше Климат-контроль vs кондиционер: чем отличаются, как работают, что лучше

Что может климат-контроль и почему он лучше кондиционера?

РБК
10 самых распространенных кошмаров, и о каких проблемах они сигналят 10 самых распространенных кошмаров, и о каких проблемах они сигналят

Иногда с помощью кошмарного сна твое подсознание пытается до тебя достучаться

Maxim
Под северным сиянием Под северным сиянием

Чем заняться в Мурманской области зимой

Лиза
История одного здания: особняк Зинаиды Морозовой История одного здания: особняк Зинаиды Морозовой

Неоготический особняк принадлежал Зинаиде Морозовой — жене Саввы Морозова

Культура.РФ
Одна вокруг света: где находится «обитель Солнца» и живут 500 видов птиц Одна вокруг света: где находится «обитель Солнца» и живут 500 видов птиц

Кругосветное путешествие москвички Ирины Сидоренко и ее собаки Греты: Колумбия

Forbes
Открыть в приложении