Из чего состоят разговорные боты и чего ждать от многообещающих новинок?

ForbesБизнес

Бот знает: как устроены языковые модели и к чему ведет конкуренция на этом рынке

Татьяна Шаврина

Фото Belga / Reuters

ChatGPT стал самым быстрорастущим потребительским приложением в истории: всего через два месяца после запуска месячное количество активных пользователей бота достигло 100 млн человек. 6 февраля сразу две корпорации объявили о скором запуске собственных аналогов: Google анонсировала экспериментальный сервис разговорного ИИ Bard, а акции китайской Baidu выросли после заявления о релизе разработки под названием ERNIE. Кандидат наук, руководитель научной группы NLP Института искусственного интеллекта AIRI и команды AGI NLP SberDevices Татьяна Шаврина объясняет, из чего состоят разговорные боты, чего ждать от многообещающих новинок и какое влияние они окажут на общество.

Большие языковые модели (LLM, Large Language Models)

Несмотря на взрывную популярность ChatGPT и гонку корпораций, языковые модели — далеко не новое явление. LLM — нейросетевые модели, которые позволяют обобщать, понимать и писать тексты на разных языках. Нейросеть выучивает язык во время обучения, при котором ей «показывают» огромное количество художественной литературы, интернет-форумов, энциклопедий и других источников, хорошо представляющих человеческий язык во всем его многообразии. Такие нейросети находятся внутри продвинутых ИИ-ассистентов, позволяя нам общаться с машиной.

Большими языковые модели называются потому, что, помимо массивного объема прочитанного, сами по себе являются масштабными системами. Профессионалы определяют размер моделей в параметрах — коэффициентах функций внутри модели, подобранных во время обучения нейросети: число параметров нейросети GPT-3 — 175 млрд, но бывают LLM и больше! Как правило, чем больше параметров у нейросети, тем лучше она обобщает навыки и знания. В случае с СhatGPT — это навык понимать человеческие инструкции в режиме диалога и выдавать качественный и интересный ответ.

LLM добились успеха в ряде задач: они отвечают на вопросы, могут обобщить или переписать текст, написать стихотворение и вести диалог. Пожалуй, в 2022 году именно переход самых новых нейросетей в режим диалога с пользователем позволил моделям стать интересными не только для ученых и разработчиков.

Максимально правдоподобное и безопасное моделирование общения на человеческом языке — вызов для исследователей. Среди основных проблем в работе с LLM профессор Стэнфордского университета Кристофер Поттс выделяет сложность обновления базы фактов, на которых обучена модель, и отсутствие ссылок на источники.

А еще у LLM есть «дети» — так называемые дообученные модели (fine-tuned models). На базе общетематических моделей создается копия, которую «натаскивают» на специфический домен или задачу, например, анализ медицинских исследований или поиск ошибок в коде. Процесс такого дообучения нейросетей называют «тюнинг».

Какие модели существуют уже сейчас

ChatGPT — самая популярная демонстрация большой языковой модели, которая стала открытой для рядового пользователя сети через простой интерфейс. Однако такое решение — не единственное. В мире существует ряд других LLM, часть из которых давно выложена в открытый доступ. Их изучают, развивают и применяют для решения своих задач сотни программистов и ученых, а некоторые стартапы строят на их базе собственные продукты:

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Реки крови и гречишный шоколад: как выигрывать конкурентную борьбу на «алых» рынках Реки крови и гречишный шоколад: как выигрывать конкурентную борьбу на «алых» рынках

Как российская компания может добавить значимых отличий своему ассортименту

Forbes
Люди превратили самолеты в обычные дома! Посмотрите на «крылатую жизнь» Люди превратили самолеты в обычные дома! Посмотрите на «крылатую жизнь»

Джо Энн Ассери пришла в голову странная идея: жить в самолете

ТехИнсайдер
Как бренд кроссовок Hovers запустил производство в Москве и почему он не работает с маркетплейсами Как бренд кроссовок Hovers запустил производство в Москве и почему он не работает с маркетплейсами

Почему запустить бренд обуви в России сложнее, чем локальную марку одежды?

Inc.
Безразличие, замкнутость, заторможенность: что такое эмоциональная бесчувственность — 8 признаков Безразличие, замкнутость, заторможенность: что такое эмоциональная бесчувственность — 8 признаков

Как проявляется и лечится эмоциональная бесчувственность

Psychologies
«Тратить — очень круто»: как зумеры ведут себя с деньгами «Тратить — очень круто»: как зумеры ведут себя с деньгами

Как молодые взрослые ищут баланс между тратами и накоплениями

РБК
Есть ли жизнь после выгорания: 5 фактов об этом непростом периоде Есть ли жизнь после выгорания: 5 фактов об этом непростом периоде

Поговорим о том, есть ли жизнь после выгорания и какой она может быть

Psychologies
Адаптация психики к кризису: 9 путей выживания Адаптация психики к кризису: 9 путей выживания

Отрывок из книги Элины Фроловой «Мы справимся»

Psychologies
Грани прекрасного Грани прекрасного

Как обновить квартиру с помощью креативной отделки стен

Добрые советы
Факторы долголетия: почему некоторые люди живут дольше Факторы долголетия: почему некоторые люди живут дольше

Почему одни живут так долго, а другие — нет?

ТехИнсайдер
10 худших мест для первого свидания - не совершайте эти ошибки! 10 худших мест для первого свидания - не совершайте эти ошибки!

10 мест, куда ни в коем случае не стоит идти на первое свидание

ТехИнсайдер
Почему мы продуктивно работаем в кофейнях: 4 совета работникам на удаленке Почему мы продуктивно работаем в кофейнях: 4 совета работникам на удаленке

Неужели наша работа в кофейнях продуктивна только из-за бодрящего кофе?

Psychologies
«Критикует и высмеивает»: на какие манипуляции идет абьюзер, чтобы подчинить женщину «Критикует и высмеивает»: на какие манипуляции идет абьюзер, чтобы подчинить женщину

«Вторая жена» Луизы Мэй: на какие манипуляции идет абьюзер, чтобы подчинять себе

Forbes
Фрейзер, Керри и Уизерспун: актеры, которые сломали стереотипы о себе в киноиндустрии Фрейзер, Керри и Уизерспун: актеры, которые сломали стереотипы о себе в киноиндустрии

Актеры, добившиеся признания в серьезном кинематографе после «легкого» старта

Forbes
История кроссовок Reebok Instapump Fury — любимой обуви Джеки Чана, покорившей баскетбольные площадки История кроссовок Reebok Instapump Fury — любимой обуви Джеки Чана, покорившей баскетбольные площадки

Reebok Instapump Fury — щеголь и трендсеттер среди кроссовок

Правила жизни
«Не давайте отношениям с абьюзером второго шанса»: история одного расставания, рассказанная год спустя «Не давайте отношениям с абьюзером второго шанса»: история одного расставания, рассказанная год спустя

Если мы прощаем абьюзера, то даем второй шанс продолжению насилия

Psychologies
Время страстей человеческих Время страстей человеческих

К Александру Добровинскому редакция обратилась по причине его любви к часам

Robb Report
Керамический материал с изменяемой теплопроводностью: революционное открытие Керамический материал с изменяемой теплопроводностью: революционное открытие

Как обычный керамический материал может изменить свою теплопроводность

ТехИнсайдер
Город будущего как объект исследования | The City of the Future as an Object of Research Город будущего как объект исследования | The City of the Future as an Object of Research

10 современных книг о городах будущего

Позитивные изменения
«Для чего вы снова нас сюда вызываете?» «Для чего вы снова нас сюда вызываете?»

Константин Селин о своем фильме «Живой» и памяти о войне

Weekend
Как диета влияет на психическое здоровье ребенка Как диета влияет на психическое здоровье ребенка

Хорошая, сбалансированная диета сделает психику ребенка более устойчивой

ТехИнсайдер
7 оригинальных стрижек с удлиненной челкой, которая идет всем 7 оригинальных стрижек с удлиненной челкой, которая идет всем

Прически с удлиненной челкой подходят любому типу лица и хороши в любом возрасте

РБК
Как вернуться в рабочий ритм после долгих выходных: 5 шагов Как вернуться в рабочий ритм после долгих выходных: 5 шагов

Как проще преодолеть постпраздничную тоску?

Psychologies
Обман дара Обман дара

Как возникла самая знаменитая фальшивка Средневековья

Weekend
Как выгодно инвестировать в искусство — рассказывает руководитель аукционного дома ARTinvestment.Ru Егор Молчанов Как выгодно инвестировать в искусство — рассказывает руководитель аукционного дома ARTinvestment.Ru Егор Молчанов

Насколько сейчас выгодно инвестировать в арт-активы?

СНОБ
Монетки на счастье Монетки на счастье

Зачем на самом деле нужны деньги

VOICE
Место для одного: когда самолетом будет управлять только один пилот Место для одного: когда самолетом будет управлять только один пилот

Когда экипаж самолета станет одночленным?

ТехИнсайдер
Как упростить процесс сепарации для детей: 3 совета родителям Как упростить процесс сепарации для детей: 3 совета родителям

Почему ребенку так важно обрести самость и что для этого могут сделать родители?

Psychologies
Команда «Ротор» Команда «Ротор»

Двигатель Ванкеля возвращается на конвейер

Автопилот
Архитектура Школы будущего | The Architecture of the School of the Future Архитектура Школы будущего | The Architecture of the School of the Future

Что должен учитывать архитектор, проектируя Школу будущего?

Позитивные изменения
Что надо знать о ламбруско — самом недооцененном вине современности Что надо знать о ламбруско — самом недооцененном вине современности

Почему ламбруско любят в России и США и чем оно отличается от других игристых

СНОБ
Открыть в приложении