Компания Meta выпустила языковую модель, которая понимает устную речь

N+1Hi-Tech

Нейросеть от Meta (признана экстремистской организацией на территории РФ) узнает 4017 языков по устной речи и ответит на 1107 из них

Она обучалась на библейских текстах

Виктория Земляк

036d47669be5b6a9ee36339f7fab444e.jpg
Torre de Babel (Вавилонская башня). Pieter Brueghel the Elder / Wikimedia Commons

Компания Meta (признана экстремистской организацией на территории РФ)* выпустила языковую модель, которая понимает устную речь. Она распознает более 4000 языков и может разговаривать на 1107 из них. Meta (признана экстремистской организацией на территории РФ) считает, что модель поможет сохранить языковое разнообразие в мире. Статья опубликована на сайте компании, код модели доступен на гитхабе.

*Деятельность компании Meta запрещена в России.

Обычно модели распознавания речи обучаются на больших объемах данных: им требуются тысячи часов аудиозаписей. При этом каждой записи должен соответствовать текст, чтобы модель научилась сопоставлять звучащую и письменную речь. Такие большие датасеты можно собрать только для популярных языков, на которых говорит много людей. Всего в мире существует около 7000 языков, но современные системы распознавания речи поддерживают не более 200 из них.

Команда инженеров из компании Meta (признана экстремистской организацией на территории РФ) под руководством Майкла Аули (Michael Auli) обучила большую модель для распознавания речи Massively Multilingual Speech (MMS), которая может общаться на 1107 языках и распознавать 4017. Нейросеть обучалась на религиозных записях. Исследователи собрали два датасета: один с аудиозаписями и соответствующими текстами и второй только с аудиозаписями.

fe065aa4c134af4b7f5dca22405e1e58.jpg
Карта языков, которые поддерживает модель. Фиолетовые и зеленые: определение языка, только фиолетовые: превращение речи в текст. Auli et al. / research.facebook, 2023

Первый датасет состоит из 55 тысяч аудиозаписей, на которых люди зачитывают вслух тексты из Нового Завета. Всего в Новом Завете 27 книг и 260 глав. Данные собирали из трех источников: Faith Comes By Hearing, GoTo.Bible и YouVersion. Во второй датасет попали 7,7 тысяч часов аудиозаписей с сайта Global Recordings Network: это религиозные песни, записи отрывков из Библии и других религиозных текстов.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Крики не помогут: как отучить кошку гулять по обеденному столу Крики не помогут: как отучить кошку гулять по обеденному столу

5 способов, которые помогут быстро воспитать кошку

ТехИнсайдер
Улетный обед: все, что вы хотели знать о питании на борту самолета Улетный обед: все, что вы хотели знать о питании на борту самолета

Как и в каком виде питание попадает на борт самолета? Чем питается экипаж?

ТехИнсайдер
Как перестать просыпаться до будильника, и почему это происходит? Интересные факты! Как перестать просыпаться до будильника, и почему это происходит? Интересные факты!

Почему некоторые люди склонны постоянно просыпаться чуть раньше будильника

ТехИнсайдер
Гострайтер принца Гарри рассказал о процессе написания автобиографии «Запасной» Гострайтер принца Гарри рассказал о процессе написания автобиографии «Запасной»

Дж. Р. Мерингер, работавший с принцем Гарри, рассказал о мемуарах «Запасной»

Forbes
Палеонтологи впервые обнаружили остатки эфиопского шакала эпохи плейстоцена Палеонтологи впервые обнаружили остатки эфиопского шакала эпохи плейстоцена

Палеонтологи впервые нашли нижнюю челюсть эфиопского шакала

N+1
Военные патрули не снизили уровень преступности в колумбийском городе Кали Военные патрули не снизили уровень преступности в колумбийском городе Кали

Вооруженные силы не всегда способны влиять на уровень преступности

N+1
Жирафы взвесили шансы и выбрали нужный контейнер Жирафы взвесили шансы и выбрали нужный контейнер

Маленький мозг не мешает жирафам мыслить статистически

N+1
6 золотых правил нестареющих женщин: запомни их как мантру! 6 золотых правил нестареющих женщин: запомни их как мантру!

Простейшие привычки, которые помогут отсрочить старение на десятки лет

VOICE
6 книг в жанре фэнтези, от которых невозможно оторваться 6 книг в жанре фэнтези, от которых невозможно оторваться

Книги жанра фэнтези, которые ценители не должны оставить без внимания

ТехИнсайдер
Сбой в матрице: эти современные звезды являются точной копией икон старого Голливуда – и как мы не замечали! Сбой в матрице: эти современные звезды являются точной копией икон старого Голливуда – и как мы не замечали!

Некоторые звезды выглядят словно близнецы знаменитостей из прошлого!

VOICE
«Склады — это новый черный»: инвесторы в недвижимость поверили в light industrial «Склады — это новый черный»: инвесторы в недвижимость поверили в light industrial

Сколько могут заработать инвесторы на light industrial?

Forbes
Зачем нужен психолог, и как выбрать своего? Зачем нужен психолог, и как выбрать своего?

На что обратить внимание, подбирая психолога?

Здоровье
Что обозначает категория М в правах и как ее получить. Инструкция Что обозначает категория М в правах и как ее получить. Инструкция

Что означает категория прав М и как ее получить

РБК
Неуловимое сходство: как выглядит и чем занимается единственная дочь легендарного вокалиста группы «Король и шут» Неуловимое сходство: как выглядит и чем занимается единственная дочь легендарного вокалиста группы «Король и шут»

Невозможно поверить, что маленькая дочка Михаила Горшенева так выросла!

VOICE
Что надеть, чтобы стать счастливее: объясняет психолог Что надеть, чтобы стать счастливее: объясняет психолог

Какая одежда способна сделать нас по-настоящему счастливыми?

Psychologies
Как распознать детскую травму по поведению человека: 9 признаков Как распознать детскую травму по поведению человека: 9 признаков

Травма детства способна определять привычки и поведение во взрослой жизни

Psychologies
Кто такие инцелы и где они обитают? Читаем фрагмент новой книги Стефана Краковски Кто такие инцелы и где они обитают? Читаем фрагмент новой книги Стефана Краковски

Отрывок из книги «Инцелы. Как девственники становятся террористами»

Правила жизни
Как лучше худеть — быстро или медленно? Эксперты все объяснили! Как лучше худеть — быстро или медленно? Эксперты все объяснили!

У специалистов есть объяснение, почему спешить с похудением не нужно

ТехИнсайдер
Почему женщины живут с нарциссами: 4 причины — не занимайтесь самообманом Почему женщины живут с нарциссами: 4 причины — не занимайтесь самообманом

Мы собрали четыре разновидности самообмана партнеров нарциссов

Psychologies
Ультратонкая электронная татуировка помогает выявить проблемы с сердцем и сосудами Ультратонкая электронная татуировка помогает выявить проблемы с сердцем и сосудами

Новые способы диагностики сердечно-сосудистых заболеваний приветствуются всегда

ТехИнсайдер
Почему порой мы ощущаем «бабочек в животе» и что на самом деле означает это чувство? Почему порой мы ощущаем «бабочек в животе» и что на самом деле означает это чувство?

Что, с точки зрения науки, заставляет нас чувствовать бабочек внутри себя?

ТехИнсайдер
Как правильно стирать кожаную одежду, чтобы не повредить материал: 5 простых правил Как правильно стирать кожаную одежду, чтобы не повредить материал: 5 простых правил

Как постирать кожаную куртку, штаны и кроссовки дома без вреда для материала

ТехИнсайдер
Вернуть себе силы Вернуть себе силы

О чем нам стоит знать, чтобы справиться с проживанием печали и страданий?

Psychologies
Максимум динамики и комфорта Максимум динамики и комфорта

Перед boot Düsseldorf в разных источниках фигурировал Beneteau Gran Turismo 36

Y Magazine
«Велнес-мания»: как Селеста Барбер дает нам очередной урок здорового отношения к телу «Велнес-мания»: как Селеста Барбер дает нам очередной урок здорового отношения к телу

«Велнес-мания»: самоироничное размышление на тему бодипозитива

Forbes
Принять внутрь: 3 главных компонента для сохранения здоровья и красоты Принять внутрь: 3 главных компонента для сохранения здоровья и красоты

Какие витамины и добавки нужны практически всем?

Правила жизни
Сожалеют ли люди об измене в браке? Кажется, нет! А вы? Сожалеют ли люди об измене в браке? Кажется, нет! А вы?

Неверный своей второй половинке человек выражает мало раскаяния

ТехИнсайдер
Холестериновая бомба: когда в России появился бекон и как он стал таким популярным Холестериновая бомба: когда в России появился бекон и как он стал таким популярным

Производство бекона на территории России куда выгоднее, чем импорт из-за границы

Forbes
Миллионеры Юрского периода Миллионеры Юрского периода

Сколько стоят динозавры?

Деньги
«Старость в радость» и «Память поколений»: кто помогает ветеранам и пожилым людям «Старость в радость» и «Память поколений»: кто помогает ветеранам и пожилым людям

Фонды и полезные инициативы, которые помогают ветеранам и пожилым людям

Forbes
Открыть в приложении