Компания Meta выпустила языковую модель, которая понимает устную речь

N+1Hi-Tech

Нейросеть от Meta (признана экстремистской организацией на территории РФ) узнает 4017 языков по устной речи и ответит на 1107 из них

Она обучалась на библейских текстах

Виктория Земляк

036d47669be5b6a9ee36339f7fab444e.jpg
Torre de Babel (Вавилонская башня). Pieter Brueghel the Elder / Wikimedia Commons

Компания Meta (признана экстремистской организацией на территории РФ)* выпустила языковую модель, которая понимает устную речь. Она распознает более 4000 языков и может разговаривать на 1107 из них. Meta (признана экстремистской организацией на территории РФ) считает, что модель поможет сохранить языковое разнообразие в мире. Статья опубликована на сайте компании, код модели доступен на гитхабе.

*Деятельность компании Meta запрещена в России.

Обычно модели распознавания речи обучаются на больших объемах данных: им требуются тысячи часов аудиозаписей. При этом каждой записи должен соответствовать текст, чтобы модель научилась сопоставлять звучащую и письменную речь. Такие большие датасеты можно собрать только для популярных языков, на которых говорит много людей. Всего в мире существует около 7000 языков, но современные системы распознавания речи поддерживают не более 200 из них.

Команда инженеров из компании Meta (признана экстремистской организацией на территории РФ) под руководством Майкла Аули (Michael Auli) обучила большую модель для распознавания речи Massively Multilingual Speech (MMS), которая может общаться на 1107 языках и распознавать 4017. Нейросеть обучалась на религиозных записях. Исследователи собрали два датасета: один с аудиозаписями и соответствующими текстами и второй только с аудиозаписями.

fe065aa4c134af4b7f5dca22405e1e58.jpg
Карта языков, которые поддерживает модель. Фиолетовые и зеленые: определение языка, только фиолетовые: превращение речи в текст. Auli et al. / research.facebook, 2023

Первый датасет состоит из 55 тысяч аудиозаписей, на которых люди зачитывают вслух тексты из Нового Завета. Всего в Новом Завете 27 книг и 260 глав. Данные собирали из трех источников: Faith Comes By Hearing, GoTo.Bible и YouVersion. Во второй датасет попали 7,7 тысяч часов аудиозаписей с сайта Global Recordings Network: это религиозные песни, записи отрывков из Библии и других религиозных текстов.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Индия после Ганди Индия после Ганди

История крупнейшей демократии в мире

kiozk originals
«Я была малолеткой, никто не желал мне помогать»: почему женщины идут в проституцию «Я была малолеткой, никто не желал мне помогать»: почему женщины идут в проституцию

Отрывок из книги Роберта Колкера «Исчезнувшие девушки»

Forbes
«Простите, но это мое мнение»: за что вы не должны извиняться — 7 примеров «Простите, но это мое мнение»: за что вы не должны извиняться — 7 примеров

За что мы извиняемся, когда не нужно

Psychologies
6 золотых правил нестареющих женщин: запомни их как мантру! 6 золотых правил нестареющих женщин: запомни их как мантру!

Простейшие привычки, которые помогут отсрочить старение на десятки лет

VOICE
Роковой отпуск: звезды, которые трагически погибли во время отдыха Роковой отпуск: звезды, которые трагически погибли во время отдыха

Увы, для некоторых звезд отпуск оказался последним

VOICE
5 писателей-фронтовиков и их судьбы 5 писателей-фронтовиков и их судьбы

Как провели военные годы писатели-фронтовики и что их вдохновило?

Культура.РФ
WSJ сообщила об угрозах Эпштейна Биллу Гейтсу из-за романа с россиянкой WSJ сообщила об угрозах Эпштейна Биллу Гейтсу из-за романа с россиянкой

Как финансист Джеффри Эпштейн пытался угрожать основателю Microsoft Биллу Гейтсу

Forbes
Великие открытия: Давид Ливингстон и его путешествие по Южной Африке Великие открытия: Давид Ливингстон и его путешествие по Южной Африке

До Ливингстона половина Африканского материка казалась безжизненною пустыней

Вокруг света
От Комсомольца и Большевика до Октябрьской революции: 10 самых больших островов России От Комсомольца и Большевика до Октябрьской революции: 10 самых больших островов России

Десять крупнейших островов России

Вокруг света
Подвеска евразийки Подвеска евразийки

Как из костяного украшения вытащили ДНК его владелицы

N+1
Чем отличается белок из обычных продуктов и протеиновых добавок? Стоит узнать! Чем отличается белок из обычных продуктов и протеиновых добавок? Стоит узнать!

В чем разница между белком из протеиновых добавок и прямых источников?

ТехИнсайдер
Музыкальная пауза: истории популярных саундтреков — от Игги Попа до The Streets Музыкальная пауза: истории популярных саундтреков — от Игги Попа до The Streets

О музыке, звучащей у Ромена Киро

Правила жизни
Каково это — быть мазохистом: откровения хозяйки секретного места встреч Каково это — быть мазохистом: откровения хозяйки секретного места встреч

Что заставляет людей отправляться в специальные клубы, где над ними издеваются?

Psychologies
Не надо бояться: как фигуристка выиграла медаль через 3 месяца после удаления опухоли Не надо бояться: как фигуристка выиграла медаль через 3 месяца после удаления опухоли

История Пайпер Гиллес, которая не стала чемпионкой мира, но добилась большего

Forbes
Не только авокадо: 5 продуктов, которые гарантированно снизят холестерин Не только авокадо: 5 продуктов, которые гарантированно снизят холестерин

Что нужно есть для того, чтобы контролировать холестерин в крови

Psychologies
«У меня сердце плачет»: Татьяна Веденеева рассказала, почему носила платья от Зайцева, а не от Юдашкина «У меня сердце плачет»: Татьяна Веденеева рассказала, почему носила платья от Зайцева, а не от Юдашкина

Татьяна Веденеева рассказала об опыте сотрудничества с российскими модельерами

VOICE
Узнайте необычные привычки людей с высоким интеллектом! Интересные факты Узнайте необычные привычки людей с высоким интеллектом! Интересные факты

На умственные способности человека влияет множество факторов

ТехИнсайдер
Опасное время: главный онколог России предупредил о начале периода, провоцирующего развитие самого агрессивного рака Опасное время: главный онколог России предупредил о начале периода, провоцирующего развитие самого агрессивного рака

Злоупотребление ультрафиолетовым излучением таит в себе опасности

VOICE
Постоянство в дефиците: число привлекающих самозанятых компаний выросло вдвое Постоянство в дефиците: число привлекающих самозанятых компаний выросло вдвое

Российские компании все чаще используют внештатное сотрудничество с самозанятыми

Forbes
Арктика, Антарктика Арктика, Антарктика

Путешествие на край Земли – не красивое выражение, а вполне реальный маршрут

Новый очаг
Тянем-потянем Тянем-потянем

10 самых эффективных упражнений для поясницы (помогут снять боль в спине)

Лиза
Современный московский Современный московский

Светлый лёгкий интерьер в квартире с нестандартной планировкой

SALON-Interior
Алексей Никитин Алексей Никитин

Алексей Никитин с детства мыслил кадрами, структурирующими истории

Правила жизни
«Русалочка»: за что любят и ненавидят ремейк классического мультфильма Disney «Русалочка»: за что любят и ненавидят ремейк классического мультфильма Disney

Какой получилась новая версия «Русалочки» и стоит ли ждать от нее откровений?

Forbes
Вокруг света в 80 лет: как две пенсионерки за 80 дней посетили 18 стран и Антарктиду Вокруг света в 80 лет: как две пенсионерки за 80 дней посетили 18 стран и Антарктиду

Подруги планировали приключение, и оно удалось

Вокруг света
Надо было просто умножить на 20: как ученые разгадали секрет «космического» календаря майя Надо было просто умножить на 20: как ученые разгадали секрет «космического» календаря майя

Ученые увидели, что древний календарь майя отражает синодические периоды планет

Вокруг света
Как увеличить оперативную память на компьютере: пошаговый гид Как увеличить оперативную память на компьютере: пошаговый гид

В сегодняшней статье мы объясним, как можно увеличить оперативную память

CHIP
Что нового в новом KIA Seltos? Что нового в новом KIA Seltos?

Обновлённый Seltos повысил свою ценность по всем параметрам

4x4 Club
Кто сделал первый в мире автомобиль с аэродинамическим кузовом? Кто сделал первый в мире автомобиль с аэродинамическим кузовом?

В 1923-м, появились первые в мире автомобили, созданные с учетом аэродинамики

Maxim
«Все страхи Бо»: как видит мир тревожный человек, воспитанный нарциссической матерью «Все страхи Бо»: как видит мир тревожный человек, воспитанный нарциссической матерью

Добро пожаловать в мир Бо!

Psychologies
Открыть в приложении