Один метод обучения позволяет учить модели для работы с разными данными

N+1Hi-Tech

Исследователи из Meta (признана экстремистской организацией на территории РФ) разработали мультимодальный метод обучения нейросетей

Григорий Копиев

Meta (признана экстремистской организацией на территории РФ) AI

Исследователи из Meta (признана экстремистской организацией на территории РФ) AI (ранее Facebook (соцсеть признана в РФ экстремистской и запрещена) AI) разработали единый метод обучения нейросетей, подходящий для работы с изображениями, звуком и текстом. В нем используется две идентичные нейросети — учитель и ученик. Учитель получает полные входные данные, а ученик получает частичные и учится предсказывать внутреннее представление полной версии этих данных в модели-учителе. Модели, обученные таким методом, оказались лучше или сравнимы с моделями, обученные методами, специфичными для одного типа данных. Статья и краткое описание метода опубликованы на сайте Meta (признана экстремистской организацией на территории РФ) AI.

В последние годы исследователи в области машинного обучения все чаще используют обучение без учителя или самообучение. Особенно полезно оно когда необходимо использовать огромные объемы данных или обучать модель на задаче, для которой нет достаточных датасетов, например, для обучения языковой модели на редком языке. Один из самых ярких примеров такого типа обучения — GPT-3, которая обучалась на 570 гигабайтах текстов. Однако разработки в области самообучения, как правило, сосредоточены на одной модальности (одном типе данных), и методы обучения зачастую нельзя напрямую применить к другим модальностям.

Группа исследователей из Meta (признана экстремистской организацией на территории РФ) AI под руководством Майкла Аули (Michael Auli) разработала метод обучения, подходящий для разных типов данных. Разработчики использовали в качестве обучаемой модели для всех трех модальностей стандартный трансформер и добавляли к нему на вход специфичный энкодер для того или иного типа данных. Во время обучения используется две нейросетевых модели (учитель и ученик), но по сути они идентичны друг другу и отличаются тем,

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

У позвоночных нашлось семь поводов поесть фекалий У позвоночных нашлось семь поводов поесть фекалий

Пищевую копрофагию у позвоночных животных можно разделить на семь категорий

N+1
Как правильно ставить цели на новый год Как правильно ставить цели на новый год

Как ставить цели так, чтобы точно их достичь?

Maxim
Крюки на ногах позволили роботу ANYmal вскарабкаться по приставной лестнице Крюки на ногах позволили роботу ANYmal вскарабкаться по приставной лестнице

Скорость подъема ANYmal в 232 раза превосходит результаты других роботов

N+1
Прогулка с котом по Эрмитажу... Прогулка с котом по Эрмитажу...

Путешествие по музею во времени и пространстве с котом-экскурсоводом

Караван историй
Почему люди пускают слюни во сне Почему люди пускают слюни во сне

Когда кто-то сладко спит, он может начать пускать слюни во сне! Но почему?

ТехИнсайдер
Какие сигналы обществу подает новогодний кинопрокат Какие сигналы обществу подает новогодний кинопрокат

Какой диагноз обществу ставят картины «Портрет незнакомца» и Don’t Look Up

СНОБ
Внутренние войска Внутренние войска

Манкировать витаминами в последнее время стало просто неприлично

Tatler
Кажется, вы не умеете расслабляться: рассказываем, как научиться делать это правильно Кажется, вы не умеете расслабляться: рассказываем, как научиться делать это правильно

Тут все не так просто. Настоящий отдых – это навык, которым еще надо овладеть

GQ
Как справиться с повышенной тревожностью: 7 шагов к спокойной жизни Как справиться с повышенной тревожностью: 7 шагов к спокойной жизни

Тревожность и беспокойство можно победить

Playboy
5 рецептов от зимней депрессии 5 рецептов от зимней депрессии

Как бороться с зимней депрессией?

Здоровье
Жить хорошо стоиком или буддистом: какая модель философии подходит лично вам Жить хорошо стоиком или буддистом: какая модель философии подходит лично вам

Глава из книги «Жить хорошо» о стоицизме

Forbes
Электрический сноуборд Электрический сноуборд

Настало время познакомиться с модным зеленым сноубордом ELIQ на электротяге

Популярная механика
10 полезных свойств семян льны и советы, как включить их в рацион 10 полезных свойств семян льны и советы, как включить их в рацион

Семена льна — известный суперфуд, популярный у сторонников правильного питания

Cosmopolitan
Мы в эпицентре эпидемии близорукости. И вот почему Мы в эпицентре эпидемии близорукости. И вот почему

Учёные предупреждают о надвигающейся «эпидемии» миопии или близорукости

Популярная механика
«Мог стать знаменитым танцовщиком, но поднимаю с земли какашки»: как устроена миллиардная индустрия выгула собак в США «Мог стать знаменитым танцовщиком, но поднимаю с земли какашки»: как устроена миллиардная индустрия выгула собак в США

Легко ли гулять с питомцами и с какими причудами собачников приходится мириться?

VC.RU
Роботы в кино: устройства, которые «сыграли» в фильмах Роботы в кино: устройства, которые «сыграли» в фильмах

В каких фильмах использовали настоящих роботов?

Популярная механика
«Трагедия Макбета»: шекспировский хоррор «Трагедия Макбета»: шекспировский хоррор

«Трагедия Макбета» Джоэла Коэна — призрачная, сумрачная верность первоисточнику

GQ
Почему болит левый бок: 14 возможных причин Почему болит левый бок: 14 возможных причин

Причин, по которым может болеть левый бок, довольно много. Вот некоторые из них

Cosmopolitan
Ислам Ханипаев: «Типа я. Дневник суперкрутого воина» Ислам Ханипаев: «Типа я. Дневник суперкрутого воина»

Повесть стала финалистом премии «Лицей» и вошла в шорт-лист премии «НОС»

СНОБ
Исцеляющие кристаллы: что о них нужно знать Исцеляющие кристаллы: что о них нужно знать

Какой целебной силой многие люди наделяют кристаллы

Cosmopolitan
10 типичных конфликтов в салоне красоты: ты не должна платить за это 10 типичных конфликтов в салоне красоты: ты не должна платить за это

Конфликты в салоне красоты: тебе не придется платить за чужие ошибки

VOICE
«Мои дорогие»: как подруги влияют на твои доходы и что с этим делать «Мои дорогие»: как подруги влияют на твои доходы и что с этим делать

Как выбрать окружение, чтобы добиться финансового успеха

Cosmopolitan
Дикий мир Земли: самые большие тропические леса планеты Дикий мир Земли: самые большие тропические леса планеты

В тропических лесах проживает половина земных видов растений и животных

Популярная механика
Как менялось отношение к Холокосту в Германии и СССР Как менялось отношение к Холокосту в Германии и СССР

Как менялось отношение к Холокосту.

СНОБ
Нечестная гонка: почему тиктокеры в России не могут зарабатывать миллионы долларов Нечестная гонка: почему тиктокеры в России не могут зарабатывать миллионы долларов

Почему российские блогеры в TikTok не скоро смогут догнать западных коллег

Forbes
10 простых способов улучшить свое здоровье меньше, чем за 1 минуту 10 простых способов улучшить свое здоровье меньше, чем за 1 минуту

10 практик - которые качественно повлияют на твое здоровье и самочувствие

Cosmopolitan
Стесняюсь спросить: несколько вопросов о неприятном запахе изо рта Стесняюсь спросить: несколько вопросов о неприятном запахе изо рта

С проблемой не очень свежего дыхания периодически сталкивается каждый

Esquire
Цифровая лихорадка Цифровая лихорадка

Наиболее интересные выступления из конференции CG Event

Популярная механика
Форма и содержание Форма и содержание

Поход в фитнес-зал, бассейн или на корт должен начинаться с гардероба. С вашего

GQ
Выиграли от пандемии: как стартап для обучения сотрудников привлек $60 млн Выиграли от пандемии: как стартап для обучения сотрудников привлек $60 млн

Spekit — проект, встраивающий обучающие инструменты прямо в рабочий софт

Forbes
Открыть в приложении