Исследователи из DeepMind разработали мультимодальную нейросеть

N+1Hi-Tech

Нейросеть от DeepMind научилась решать 604 задачи разных типов

Исследователи из DeepMind разработали мультимодальную нейросеть, способную выполнять задачи разного типа. Например, она умеет управлять роботом, играть в игры для Atari, писать текст и описывать фотографии. Статья об алгоритме опубликована на arXiv.org, также авторы рассказали о нем на сайте DeepMind.

Григорий Копиев

DeepMind

В 2017 году исследователи из Google Brain представили нейросетевую архитектуру Transformer, отличительной особенностью которого стало широкое использование механизма внимания. Это позволяет нейросети гораздо лучше понимать контекст слов и предложений, что в свою очередь позволило добиться большого прогресса в целом в области обработки естественного языка. Один из самых известных примеров этого прогресса: модель GPT-3 от OpenAI. Оказалось, что если обучить модель на огромном массиве текстов, она выучит хорошее представления языка и того, как должны выглядеть тексты, после чего ее можно быстро и на очень небольшом объеме данных дообучить до конкретной задачи. Причем эта задача не обязательно должна быть текстовой: выяснилось, что GPT-3 умеет выполнять базовые арифметические операции.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Терапия CRISPR/Cas помогла снизить «плохой» холестерин при семейной гиперхолестеринемии Терапия CRISPR/Cas помогла снизить «плохой» холестерин при семейной гиперхолестеринемии

Как помогла терапия CRISPR/Cas при семейной гиперхолестеринемии

N+1
Супчик с сюрпризом Супчик с сюрпризом

Как похудеть на борще и снять похмелье буйабесом

Лиза
LoveGPT: как искусственный интеллект меняет приложения для знакомств и сферу отношений LoveGPT: как искусственный интеллект меняет приложения для знакомств и сферу отношений

AI уже добрался до человеческих отношений, но пока не установил власть над ними

СНОБ
Целлюлит Целлюлит

Как справиться с целлюлитом?

Здоровье
Используй ложку и телефон: 20 способов доставить себе удовольствие Используй ложку и телефон: 20 способов доставить себе удовольствие

Двадцать разных способов мастурбации на любой вкус и цвет

Cosmopolitan
Яркий Дагестан Яркий Дагестан

Дагестан — главные достопримечательности и высшая точка Южного Кавказа

Отдых в России
Удовольствие для себя или польза для других: что мотивирует нас работать? Удовольствие для себя или польза для других: что мотивирует нас работать?

Что придает нашей деятельности смысл

Psychologies
Вирджиния Вульф, Мэри Шелли, Джейн Остин: 10 лучших фильмов о писательницах Вирджиния Вульф, Мэри Шелли, Джейн Остин: 10 лучших фильмов о писательницах

Подборка фильмов о знаменитых писательницах

Forbes
«Камень века» и «Божий дар»: 7 великих бриллиантовых афер «Камень века» и «Божий дар»: 7 великих бриллиантовых афер

О самых известных аферах, связанных с драгоценными камнями

РБК
Колонка психиатра: сложная любовь или психическое заболевание? Колонка психиатра: сложная любовь или психическое заболевание?

Психиатр — как болезнь его пациентки стала причиной трудностей в отношениях

Psychologies
Ехать некуда: образ заграницы в российской поп-музыке Ехать некуда: образ заграницы в российской поп-музыке

Культурному интуризму в музыке пришел конец?

Правила жизни
Будь как дома Будь как дома

Комфортные и безмятежные трёхуровневые апартаменты в Барвихе

SALON-Interior
Химики смоделировали образование аэрозолей в тропосфере Химики смоделировали образование аэрозолей в тропосфере

Комбинация трех веществ привела к быстрому росту размера и количества частиц

N+1
Что лучше: контактные линзы или очки. Выбор неочевиден Что лучше: контактные линзы или очки. Выбор неочевиден

Вокруг использования очков и линз ходит множество мифов. Как определиться?

ТехИнсайдер
Вы приняты! Вы приняты!

5 мошеннических схем при поиске работы в соцсетях: не дай себя обмануть

Лиза
«Видел все, кроме смертной казни»: путешествие Антона Чехова на «край географии» «Видел все, кроме смертной казни»: путешествие Антона Чехова на «край географии»

21 апреля 1890 Антон Чехов отправился на Сахалин и далее вокруг Азии

Вокруг света
5 главных критериев здоровых отношений с мужчиной — проверь свои! 5 главных критериев здоровых отношений с мужчиной — проверь свои!

Проверь, все ли у тебя хорошо с твоим партнером!

VOICE
Почему мы не запоминаем все наши сны? Почему мы не запоминаем все наши сны?

Забывать сны — это нормально или нет?

ТехИнсайдер
Какие эксперименты Зигмунд Фрейд ставил над своей младшей дочерью Какие эксперименты Зигмунд Фрейд ставил над своей младшей дочерью

Были ли счастливы дети основателя психоанализа Зигмунда Фрейда?

VOICE
«Люблю колоть морду»: как живет девушка с самыми большими скулами в мире «Люблю колоть морду»: как живет девушка с самыми большими скулами в мире

Главной фишкой Анастасии стало именно увеличение зоны скул

VOICE
Как мужчине одеваться после сорока, чтобы не выглядеть нелепо Как мужчине одеваться после сорока, чтобы не выглядеть нелепо

С возрастом кое-какие элементы гардероба следует менять и обновлять

Maxim
Паровые автомобили, которые обгоняли самолеты: на всех парах Паровые автомобили, которые обгоняли самолеты: на всех парах

В 1769 году на улицах Парижа появилась причудливая самодвижущаяся повозка

ТехИнсайдер
Поле вдохновения Поле вдохновения

Как украсить стены в доме с помощью цветочных обоев

Лиза
Что такое война: лучшие снимки фронтовых репортеров СССР Что такое война: лучшие снимки фронтовых репортеров СССР

Некоторые лучшие снимки военных репортеров

Вокруг света
«Это была другая индустрия»: как изменилось отношение россиян к ресторанам за 25 лет «Это была другая индустрия»: как изменилось отношение россиян к ресторанам за 25 лет

С какими трудностями столкнулся Sumosan во время создания в 1997 году

Forbes
Чужой снег Чужой снег

«Нелегал»: якутское кино о мигрантах из Киргизии

Weekend
Сифилис оказался в Китае задолго до экспедиций Васко да Гамы Сифилис оказался в Китае задолго до экспедиций Васко да Гамы

Палеопатологи диагностировали сифилис у людей, умерших около 656–1174 годов

N+1
7 колоссальных проектов, которые так и не были возведены 7 колоссальных проектов, которые так и не были возведены

Небоскребы, отели, башни и другие огромные постройки, которые не увидел свет

ТехИнсайдер
Girl, Interrupted. Почему всем, кто молод, стоит смотреть «Нику» — драму о поэтессе, которая перестала писать Girl, Interrupted. Почему всем, кто молод, стоит смотреть «Нику» — драму о поэтессе, которая перестала писать

Печальная история о родительском насилии и синдроме самозванца

Правила жизни
Ученые провели эксперимент, чтобы узнать, есть ли сознание у животных — и вот что из этого вышло Ученые провели эксперимент, чтобы узнать, есть ли сознание у животных — и вот что из этого вышло

Стоит ли приписывать животным человеческие качества?

ТехИнсайдер
Открыть в приложении