Из чего состоят разговорные боты и чего ждать от многообещающих новинок?

ForbesБизнес

Бот знает: как устроены языковые модели и к чему ведет конкуренция на этом рынке

Татьяна Шаврина

Фото Belga / Reuters

ChatGPT стал самым быстрорастущим потребительским приложением в истории: всего через два месяца после запуска месячное количество активных пользователей бота достигло 100 млн человек. 6 февраля сразу две корпорации объявили о скором запуске собственных аналогов: Google анонсировала экспериментальный сервис разговорного ИИ Bard, а акции китайской Baidu выросли после заявления о релизе разработки под названием ERNIE. Кандидат наук, руководитель научной группы NLP Института искусственного интеллекта AIRI и команды AGI NLP SberDevices Татьяна Шаврина объясняет, из чего состоят разговорные боты, чего ждать от многообещающих новинок и какое влияние они окажут на общество.

Большие языковые модели (LLM, Large Language Models)

Несмотря на взрывную популярность ChatGPT и гонку корпораций, языковые модели — далеко не новое явление. LLM — нейросетевые модели, которые позволяют обобщать, понимать и писать тексты на разных языках. Нейросеть выучивает язык во время обучения, при котором ей «показывают» огромное количество художественной литературы, интернет-форумов, энциклопедий и других источников, хорошо представляющих человеческий язык во всем его многообразии. Такие нейросети находятся внутри продвинутых ИИ-ассистентов, позволяя нам общаться с машиной.

Большими языковые модели называются потому, что, помимо массивного объема прочитанного, сами по себе являются масштабными системами. Профессионалы определяют размер моделей в параметрах — коэффициентах функций внутри модели, подобранных во время обучения нейросети: число параметров нейросети GPT-3 — 175 млрд, но бывают LLM и больше! Как правило, чем больше параметров у нейросети, тем лучше она обобщает навыки и знания. В случае с СhatGPT — это навык понимать человеческие инструкции в режиме диалога и выдавать качественный и интересный ответ.

LLM добились успеха в ряде задач: они отвечают на вопросы, могут обобщить или переписать текст, написать стихотворение и вести диалог. Пожалуй, в 2022 году именно переход самых новых нейросетей в режим диалога с пользователем позволил моделям стать интересными не только для ученых и разработчиков.

Максимально правдоподобное и безопасное моделирование общения на человеческом языке — вызов для исследователей. Среди основных проблем в работе с LLM профессор Стэнфордского университета Кристофер Поттс выделяет сложность обновления базы фактов, на которых обучена модель, и отсутствие ссылок на источники.

А еще у LLM есть «дети» — так называемые дообученные модели (fine-tuned models). На базе общетематических моделей создается копия, которую «натаскивают» на специфический домен или задачу, например, анализ медицинских исследований или поиск ошибок в коде. Процесс такого дообучения нейросетей называют «тюнинг».

Какие модели существуют уже сейчас

ChatGPT — самая популярная демонстрация большой языковой модели, которая стала открытой для рядового пользователя сети через простой интерфейс. Однако такое решение — не единственное. В мире существует ряд других LLM, часть из которых давно выложена в открытый доступ. Их изучают, развивают и применяют для решения своих задач сотни программистов и ученых, а некоторые стартапы строят на их базе собственные продукты:

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Образование без серверов: как и зачем использовать облачные технологии вузам Образование без серверов: как и зачем использовать облачные технологии вузам

Использование облачных технологий в процессе образования улучшает успеваемость

Forbes
Фитнес из СССР Фитнес из СССР

«Диск здоровья» был невероятно популярен в советское время — и не зря

Лиза
Геймификация, «какашки» и честность: как бренду привлечь зумеров Геймификация, «какашки» и честность: как бренду привлечь зумеров

Что поможет бренду зацепить поколение Z

Inc.
Ах, какая женщина: как менялся образ Памелы Андерсон Ах, какая женщина: как менялся образ Памелы Андерсон

Памела Андерсон всегда привлекала внимание и умела им распорядиться

Правила жизни
6 признаков глупого человека 6 признаков глупого человека

Как понять, кого нужно избегать? Да и нужно ли на самом деле?

Psychologies
Основатель города львов: как джентльмен Томас Раффлз создал Сингапур, но не смог обрести счастье Основатель города львов: как джентльмен Томас Раффлз создал Сингапур, но не смог обрести счастье

Раффлз сумел организовать в Сингапуре особую систему общественного устройства

Вокруг света
Как упростить процесс сепарации для детей: 3 совета родителям Как упростить процесс сепарации для детей: 3 совета родителям

Почему ребенку так важно обрести самость и что для этого могут сделать родители?

Psychologies
Страсти русского «царь-баса»: как Федор Шаляпин жил на две семьи Страсти русского «царь-баса»: как Федор Шаляпин жил на две семьи

Запутанная личная жизнь Федора Шаляпина

VOICE
Срочный развод: самые короткие звездные браки, которые тебя удивят Срочный развод: самые короткие звездные браки, которые тебя удивят

Кто из знаменитостей побежал подавать на развод, едва утихли свадебные колокола

VOICE
Volkswagen Touareg 2024 года будет роскошнее, чем когда-либо Volkswagen Touareg 2024 года будет роскошнее, чем когда-либо

Флагманский внедорожник Volkswagen находится на пути обновления дизайна

4x4 Club
Русский Кортес Русский Кортес

Как проходил сибирский поход Ермака

Дилетант
Это нужно знать всем родителям, чьи дети сидят в соцсетях! Советы по безопасности Это нужно знать всем родителям, чьи дети сидят в соцсетях! Советы по безопасности

Родителям стоит кое-что знать о том, как обезопасить ребенка в соцсетях

ТехИнсайдер
Как смотреть «Берегись автомобиля» Рязанова Как смотреть «Берегись автомобиля» Рязанова

На какие хитрости пришлось пойти Рязанову, чтобы выпустить «Берегись автомобиля»

Культура.РФ
Что нужно знать перед свадьбой? Совет женщинам для важных решений в жизни Что нужно знать перед свадьбой? Совет женщинам для важных решений в жизни

Финансы, свадьба и важные решения в жизни: советы

ТехИнсайдер
«Нам не нужен жрец и толкователь»: пианист Петр Айду об оркестре без дирижера «Нам не нужен жрец и толкователь»: пианист Петр Айду об оркестре без дирижера

Пианист Петр Айду — почему обычная модель симфонического оркестра устарела

Forbes
Стресс-код: 5 способов быстро расслабиться Стресс-код: 5 способов быстро расслабиться

Техники, которые помогут моментально успокоиться

VOICE
Наука против ЗОЖ: 5 популярных рекомендаций Наука против ЗОЖ: 5 популярных рекомендаций

Взглянем на рекомендации в области здравоохранения с точки зрения науки

ТехИнсайдер
Создан прочный суперсплав, отлично переносящий высокие температуры Создан прочный суперсплав, отлично переносящий высокие температуры

Ученые использовали новую технику 3D-печати для создания нового суперсплава

ТехИнсайдер
Умная стрижка: как авторская технология облегчила девушкам жизнь Умная стрижка: как авторская технология облегчила девушкам жизнь

Что такое «умная стрижка»?

VOICE
Феминистка в тюрьме: как Консепсьон Ареналь боролась за права женщин и заключенных Феминистка в тюрьме: как Консепсьон Ареналь боролась за права женщин и заключенных

Консепсьон Ареналь слишком беспокоилась о заключенных и отстаивала права женщин

Forbes
5 незаезженных фильмов о настоящей любви 5 незаезженных фильмов о настоящей любви

Неожиданные фильмы о любви, которых нет в традиционных списках лавстори

Psychologies
Гид «Сноба» по Катару. Вижу искусство, слышу его, говорю о нем Гид «Сноба» по Катару. Вижу искусство, слышу его, говорю о нем

Арт-гид для ценителей современного искусства по Катару

СНОБ
Она поборола рак крови и груди и перестала беспокоиться из-за телосложения. Но только после 60 лет Она поборола рак крови и груди и перестала беспокоиться из-за телосложения. Но только после 60 лет

Лишь после преодоления смертельной болезни Сильви взглянула на свое тело иначе

ТехИнсайдер
Перезагрузка iPhone: несколько способов на все случаи жизни Перезагрузка iPhone: несколько способов на все случаи жизни

Что делать, если ваш iPhone намертво завис?

CHIP
Фото на документы Фото на документы

Фотографии прошлых дней: низкопоклонство перед западом и мороженое по Фрейду

Автопилот
«Я не фанат супергеройских историй»: Лиам Нисон о боевиках и своем актерском методе «Я не фанат супергеройских историй»: Лиам Нисон о боевиках и своем актерском методе

Лиам Нисон — о съемках и ирландском кино

Forbes
Сырые темницы строгого режима: 10 самых страшных тюрем в истории России Сырые темницы строгого режима: 10 самых страшных тюрем в истории России

Страшные тюрьмы России: от Петропавловской крепости до «Черного дельфина»

Вокруг света
Нет минусов, есть плюсы Нет минусов, есть плюсы

Как мириться с не всегда позитивной реальностью и быть оптимистом?

Men Today
Экзотические домашние животные в квартире Экзотические домашние животные в квартире

Отважиться завести домашнее животное непросто, а экзотическое – сложнее вдвойне

Здоровье
Война за Аляску Война за Аляску

Как проходило освоение Россией Аляски

Дилетант
Открыть в приложении