Один метод обучения позволяет учить модели для работы с разными данными

N+1Hi-Tech

Исследователи из Meta (признана экстремистской организацией на территории РФ) разработали мультимодальный метод обучения нейросетей

Григорий Копиев

Meta (признана экстремистской организацией на территории РФ) AI

Исследователи из Meta (признана экстремистской организацией на территории РФ) AI (ранее Facebook (соцсеть признана в РФ экстремистской и запрещена) AI) разработали единый метод обучения нейросетей, подходящий для работы с изображениями, звуком и текстом. В нем используется две идентичные нейросети — учитель и ученик. Учитель получает полные входные данные, а ученик получает частичные и учится предсказывать внутреннее представление полной версии этих данных в модели-учителе. Модели, обученные таким методом, оказались лучше или сравнимы с моделями, обученные методами, специфичными для одного типа данных. Статья и краткое описание метода опубликованы на сайте Meta (признана экстремистской организацией на территории РФ) AI.

В последние годы исследователи в области машинного обучения все чаще используют обучение без учителя или самообучение. Особенно полезно оно когда необходимо использовать огромные объемы данных или обучать модель на задаче, для которой нет достаточных датасетов, например, для обучения языковой модели на редком языке. Один из самых ярких примеров такого типа обучения — GPT-3, которая обучалась на 570 гигабайтах текстов. Однако разработки в области самообучения, как правило, сосредоточены на одной модальности (одном типе данных), и методы обучения зачастую нельзя напрямую применить к другим модальностям.

Группа исследователей из Meta (признана экстремистской организацией на территории РФ) AI под руководством Майкла Аули (Michael Auli) разработала метод обучения, подходящий для разных типов данных. Разработчики использовали в качестве обучаемой модели для всех трех модальностей стандартный трансформер и добавляли к нему на вход специфичный энкодер для того или иного типа данных. Во время обучения используется две нейросетевых модели (учитель и ученик), но по сути они идентичны друг другу и отличаются тем,

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Третий межзвездный объект оказался слабоактивной кометой Третий межзвездный объект оказался слабоактивной кометой

Астрономы подтвердили обнаружение третьего межзвездного объекта

N+1
Мы ищем таланты Мы ищем таланты

8 основных типов дарований и способы раскрыть свой потенциал

Лиза
Робопчелу научили садиться по-комарьи Робопчелу научили садиться по-комарьи

Инженеры разработали шасси для миниатюрного орнитоптера RoboBee

N+1
Из другого теста Из другого теста

Как шеф-повар построил бизнес с оборотом 900 млн рублей на римской пицце

Forbes
Как заснуть буквально за минуту: способ, который все мы бессознательно используем Как заснуть буквально за минуту: способ, который все мы бессознательно используем

Как помочь своему организму заснуть?

Maxim
Природу подледных озер Марса объяснили вулканическими отложениями и жидким рассолом Природу подледных озер Марса объяснили вулканическими отложениями и жидким рассолом

Вулканические отложения находятся под южным полюсом Марса

N+1
Самые грустные и трогательные эпизоды комедийных сериалов Самые грустные и трогательные эпизоды комедийных сериалов

Когда трагедия идет рука об руку с комедией

Maxim
У кого самый маленький член и где прячется ее оргазм: 35 удивительных фактов о половых органах У кого самый маленький член и где прячется ее оргазм: 35 удивительных фактов о половых органах

Размер имеет значение, но не только он

Playboy
В храме богини Аллат нашли древнейшие изображения гибридных верблюдов В храме богини Аллат нашли древнейшие изображения гибридных верблюдов

Ученые из Италии и Ирака работали над консервацией храма богини Аллат

N+1
«Потерянное царство. Поход за имперским идеалом и сотворение русской нации» «Потерянное царство. Поход за имперским идеалом и сотворение русской нации»

Отрывок из книги «Потерянное царство» о том, как формировалась русская нация

N+1
10 самых быстрых животных планеты 10 самых быстрых животных планеты

Спрингбок, гепард, стриж и другие самые быстрые животные планеты

Популярная механика
Вера Брежнева: «Я не зацикливаюсь на прошлом» Вера Брежнева: «Я не зацикливаюсь на прошлом»

Вера Брежнева рассказала, что ей нужно для счастья

Cosmopolitan
Просто кошмар: как не быть бесконечным источником негатива для других людей Просто кошмар: как не быть бесконечным источником негатива для других людей

Отрывок из книги «Вредные мысли» — как отказаться от излишней драматизации?

Forbes
«Адская молотилка». Десять выстрелов в минуту в одну точку «Адская молотилка». Десять выстрелов в минуту в одну точку

Российская армия приняла на вооружение артиллерийского монстра

Популярная механика
Кризис приватности: за нами следят? Кризис приватности: за нами следят?

В жизни становится все меньше приватного и все больше публичного

Psychologies
Формула объема Формула объема

Отвечаем на вопросы о целесообразности и безопасности введения филлеров

Tatler
Как баскетболистка из Миссури играла в России, заработала $5 млн и попала в Forbes Как баскетболистка из Миссури играла в России, заработала $5 млн и попала в Forbes

Кэндис Паркер — баскетболистка, комментаторка и феминистка

Forbes
Наглядности ради: как эффектно представить данные в табличных редакторах Наглядности ради: как эффектно представить данные в табличных редакторах

Как представить скучные колонки цифр в понятном и визуально привлекательном виде

CHIP
Споры за бизнес «Б.Ю. Александров» и Natura Siberica, арест основателя Group-IB: заметные конфликты в 2021 году Споры за бизнес «Б.Ю. Александров» и Natura Siberica, арест основателя Group-IB: заметные конфликты в 2021 году

Что произошло и чем закончились главные споры по версии vc.ru

VC.RU
Прерванный путь: редкие фото Веры Глаголевой и малоизвестные факты о ней Прерванный путь: редкие фото Веры Глаголевой и малоизвестные факты о ней

Вера Глаголева была из тех актрисок, которых любят все

Cosmopolitan
Поле для манёвра Поле для манёвра

Пентхаус в Москве в современном стиле

SALON-Interior
Ученые разработают эффективный сенсор по обнаружению утечек водорода Ученые разработают эффективный сенсор по обнаружению утечек водорода

Как ученые планируют обезопасить использование водорода в качестве топлива?

Популярная механика
Как правильно копить деньги и что делать, если хочется тратить Как правильно копить деньги и что делать, если хочется тратить

Финансовое поведение предполагает, что человек не тратит все, что зарабатывает

Forbes
5 ошибок Антона Кириллова, сооснователя Jump.Taxi и Jump.Finance 5 ошибок Антона Кириллова, сооснователя Jump.Taxi и Jump.Finance

Сооснователь Jump.Taxi о самых интересных ошибках, которые допустил

Inc.
Принц без коня и короны: как узнать и не пропустить настоящую любовь Принц без коня и короны: как узнать и не пропустить настоящую любовь

Понять, твой ли это человек, можно по нескольким признакам

Cosmopolitan
Как панды набирают вес, если едят только бамбук Как панды набирают вес, если едят только бамбук

Как панды набирают вес и переносят холодные зимы без спячки?

Популярная механика
Чем полезен булгур и как он помогает нормализовать вес Чем полезен булгур и как он помогает нормализовать вес

Булгур — популярный ингредиент многих блюд Ближнего Востока

РБК
Материальное состояние Материальное состояние

Квартира, в которой поразительно эстетически сочетаются все отделочные материалы

AD
«Я впервые посчитала деньги после развода»: Агата Муцениеце упрекнула Прилучного «Я впервые посчитала деньги после развода»: Агата Муцениеце упрекнула Прилучного

Агата Муцениеце поиронизировала над бывшим избранником Павлом Прилучным

Cosmopolitan
Призвание: самозванец Призвание: самозванец

Люди выдают себя за других с целью выгоды, но он делал это ради искусства

Maxim
Открыть в приложении