Один метод обучения позволяет учить модели для работы с разными данными

N+1Hi-Tech

Исследователи из Meta (признана экстремистской организацией на территории РФ) разработали мультимодальный метод обучения нейросетей

Григорий Копиев

Meta (признана экстремистской организацией на территории РФ) AI

Исследователи из Meta (признана экстремистской организацией на территории РФ) AI (ранее Facebook (соцсеть признана в РФ экстремистской и запрещена) AI) разработали единый метод обучения нейросетей, подходящий для работы с изображениями, звуком и текстом. В нем используется две идентичные нейросети — учитель и ученик. Учитель получает полные входные данные, а ученик получает частичные и учится предсказывать внутреннее представление полной версии этих данных в модели-учителе. Модели, обученные таким методом, оказались лучше или сравнимы с моделями, обученные методами, специфичными для одного типа данных. Статья и краткое описание метода опубликованы на сайте Meta (признана экстремистской организацией на территории РФ) AI.

В последние годы исследователи в области машинного обучения все чаще используют обучение без учителя или самообучение. Особенно полезно оно когда необходимо использовать огромные объемы данных или обучать модель на задаче, для которой нет достаточных датасетов, например, для обучения языковой модели на редком языке. Один из самых ярких примеров такого типа обучения — GPT-3, которая обучалась на 570 гигабайтах текстов. Однако разработки в области самообучения, как правило, сосредоточены на одной модальности (одном типе данных), и методы обучения зачастую нельзя напрямую применить к другим модальностям.

Группа исследователей из Meta (признана экстремистской организацией на территории РФ) AI под руководством Майкла Аули (Michael Auli) разработала метод обучения, подходящий для разных типов данных. Разработчики использовали в качестве обучаемой модели для всех трех модальностей стандартный трансформер и добавляли к нему на вход специфичный энкодер для того или иного типа данных. Во время обучения используется две нейросетевых модели (учитель и ученик), но по сути они идентичны друг другу и отличаются тем,

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Европейцы и потомки азиатов почти не смешались на западе Аварского каганата Европейцы и потомки азиатов почти не смешались на западе Аварского каганата

Авары господствовали над этнически и культурно неоднородным населением

N+1
Как влияют на полёты самолётов вышки 5G: страшная правда Как влияют на полёты самолётов вышки 5G: страшная правда

Мобильная связь 5G может помешать работе оборудования самолётов?

Популярная механика
Поменяйте настройки в телевизоре, чтобы смотреть фильмы с удовольствием! Список лайфхаков Поменяйте настройки в телевизоре, чтобы смотреть фильмы с удовольствием! Список лайфхаков

Настроить телевизор правильно — проще, чем кажется

ТехИнсайдер
Его время Его время

Николас Холт: о стремительном настоящем времени и непредсказуемом прошлом

GQ
Исследование показало, что подростки, которые рано ложатся спать, обладают более острым мозгом Исследование показало, что подростки, которые рано ложатся спать, обладают более острым мозгом

Подростки, которые ложатся спать раньше, как правило, обладают более острым умом

Inc.
Show must go on: 3 истории, когда день рождения закончился максимально неожиданно Show must go on: 3 истории, когда день рождения закончился максимально неожиданно

Истории о действительно незабываемых днях рождения

Playboy
Как научить ребенка ставить цели и добиваться их Как научить ребенка ставить цели и добиваться их

Как научить ребенка ставить цели и не бросать все на полпути

СНОБ
Психолог назвал 3 способа произвести хорошее впечатление на новой работе Психолог назвал 3 способа произвести хорошее впечатление на новой работе

Каких стратегий поведения нужно придерживаться в первое время на новой работе?

Inc.
Мед: польза и вред, калорийность, советы врача Мед: польза и вред, калорийность, советы врача

Действительно ли мед содержит так много витаминов и питательных элементов?

РБК
Квантовое распределение ключей преодолело 830 километров оптического волокна Квантовое распределение ключей преодолело 830 километров оптического волокна

Физикам удалось собрать схему распределения квантового ключа

N+1
10 вредных пищевых привычек, от которых никогда не поздно отказаться 10 вредных пищевых привычек, от которых никогда не поздно отказаться

Попробовать отказаться от некоторых привычек, касающихся еды, никогда не поздно

Cosmopolitan
22 продукта с высоким содержанием клетчатки, которые стоит включить в рацион 22 продукта с высоким содержанием клетчатки, которые стоит включить в рацион

Клетчатка обладает большим количеством полезных свойств

Cosmopolitan
Маленький парк в большом городе: как и почему урбанисты разбивают камерные сады Маленький парк в большом городе: как и почему урбанисты разбивают камерные сады

Разбираемся, в чем прелесть мини-парков и какие они бывают

СНОБ
Важные вещи, которых не хватает на планете, а ты и не подозревал Важные вещи, которых не хватает на планете, а ты и не подозревал

Подборка дефицитных вещей, без которых пандемия покажется цветочками

Maxim
К чему приводит «фитоняшество»: почему я перестала выступать в фитнес-бикини К чему приводит «фитоняшество»: почему я перестала выступать в фитнес-бикини

Когда здоровый образ жизни перестает таким быть

Cosmopolitan
Как поставить апостроф на клавиатуре и даже без нее? 3 простых способа Как поставить апостроф на клавиатуре и даже без нее? 3 простых способа

Несколько простых способов размещения апострофа

CHIP
Входит и выходит Входит и выходит

За связи с Эпштейном британского принца Эндрю изгнали из приличного общества

Tatler
«Люблю шоколад и тортики»: что главная фитоняшка планеты ест каждый день «Люблю шоколад и тортики»: что главная фитоняшка планеты ест каждый день

Как живет и чем питается самая главная фитоняшка Катрин Таня Давидсдоттир

Cosmopolitan
Как «самый опасный» криптоанархист угрожает планам Байдена по контролю за оружием Как «самый опасный» криптоанархист угрожает планам Байдена по контролю за оружием

ПО Уилсона способно превратить кусок алюминия в основу для штурмовой винтовки

Forbes
Как правильно копить деньги и что делать, если хочется тратить Как правильно копить деньги и что делать, если хочется тратить

Финансовое поведение предполагает, что человек не тратит все, что зарабатывает

Forbes
Закат культуры Закат культуры

Почему у древних греков были бег, борьба и гонки колесниц, но не было бобслея

Esquire
Телескоп Gaia помог определить природу Местного Пузыря Телескоп Gaia помог определить природу Местного Пузыря

Внутри него находится Солнечная система

N+1
Кетогенная диета: подробное руководство для начинающих Кетогенная диета: подробное руководство для начинающих

К каким побочным эффектам может привести кетогенная диета

Cosmopolitan
Перст судьбы Перст судьбы

Нейл-арт перекочевал из категории безвкусицы в разряд самых свежих трендов

Vogue
5 горнолыжных курортов, где можно отлично покататься 5 горнолыжных курортов, где можно отлично покататься

Cнега хватит всем!

Лиза
Ужастик из мира социализма: почему пауки пожирают своих матерей Ужастик из мира социализма: почему пауки пожирают своих матерей

Молодые самки пауков становятся пищей новорожденных паучат

Популярная механика
Месячные стали короче: 5 проблем со здоровьем, из-за которых цикл сокращается Месячные стали короче: 5 проблем со здоровьем, из-за которых цикл сокращается

Стоит ли беспокоиться, если цикл стал короче?

Cosmopolitan
Как быстро найти хорошую работу: способы и этапы Как быстро найти хорошую работу: способы и этапы

Как найти хорошую работу, какие надо пройти этапы и какие способы вам подойдут

Forbes
Зачем ученые хотят сбросить на Марс ядерные бомбы Зачем ученые хотят сбросить на Марс ядерные бомбы

Как сделать Красную планету более гостеприимной для человека?

Популярная механика
Домашний вытрезвитель: как быстро вывести алкоголь из организма Домашний вытрезвитель: как быстро вывести алкоголь из организма

Что делать, если похмелье затянулось?

VOICE
Открыть в приложении