Чем хороша новая версия популярного бота от OpenAI GPT-4

ForbesHi-Tech

Четвертое измерение: что умеет новая языковая модель от OpenAI GPT-4

Манвел Аветисян

Фото Silas Stein / picture alliance via Getty Images

С момента появления ChatGPT в интернете уже разошлись мемы с вакансией «выключателя», который должен вытащить вилку из розетки, если ИИ внутри модели оживет. Директор по развитию прикладных проектов Института искусственного интеллекта AIRI Манвел Аветисян рассказывает о том, что сейчас умеет новая версия основы популярного бота GPT-4 и как релиз новинки от OpenAI отразится на нашей жизни.

Эволюция языковых моделей

Бурное развитие умных языковых ботов началось с довольно простой мысли: в виде текста можно представить огромное количество задач, а значит, можно научить модели ИИ эти задачи решать. В 2017 году появились трансформерные архитектуры, способные обучаться на больших объемах текстов. Чуть позже ученые совместили обучение с подкреплением (Reinforcement learning, RL, технология, которая позволяет «хвалить» программу за правильные действия и «наказывать» за неправильные) с большими языковыми моделями, такими, как GPT-3 (Large Language Models, LLM). Получился ChatGPT.

Представьте себе игру в шахматы: подкрепление в ней — это результат игры. Компьютерному агенту на основе искусственного интеллекта необходимо научиться делать ходы, которые приведут к победе. Люди способны действовать с подкреплением, удаленным на годы вперед, например, долго и усердно трудиться в школе и университете, чтобы получить первую зарплату. Компьютеру сложно выполнять длинные последовательности действий для достижения итогового результата, и разработчикам приходится учить ИИ «заглядывать вперед» при выборе следующего шага. Исследователи начали обучать модели, способные отвечать на вопросы человека и интегрировать в них огромные объемы человеческой обратной связи.

Среди основных прорывов, полученных исследователями в последнее время, можно отметить:

  • Toolformer, LLM от Meta (признана в России экстремистской организацией и запрещена): исследователи научили большие языковые модели обращаться к внешним инструментам (веб-поиску, переводчику, калькулятору).
  • LLaMA, LLM от Meta (признана экстремистской организацией на территории РФ): ученые доказали, что объем данных для обучения модели важнее, чем ее сложность. Более легкие по вычислительным ресурсам модели с большими выборками обучающих данных обошли большие модели в качестве решения прикладных задач.
  • ChatGPT на Bing научился указывать источники тех или иных фактов, которые он приводит в ответе на вопрос.

Плюсы и минусы нового движка

GPT-4 — последняя из больших языковых моделей семейства GPT от OpenAI: GPT-2, GPT-3 и GPT-3.5, которая легла в основу первой версии популярного бота ChatGPT. Модель состоит из большого количества нейросетей, которые умеют обрабатывать, понимать, анализировать, интерпретировать и генерировать тексты на естественном языке. Несмотря на то что четвертая версия модели понимает 28 языков, включая малоресурсные валлийский язык и урду (близкий к хинди язык индоевропейской семьи), наилучшие результаты по-прежнему можно получить, используя для создания промптов (так называются фразы-запросы к модели) английский.

GPT-4 прошел проверку эффективности на множестве экзаменов — как академических, так и профессиональных. Порой работы модели превосходили результаты большинства параллельно тестируемых людей. Например, на смоделированном экзамене для адвокатов (Uniform Bar Examination) GPT-4 оказалась среди 10% лучших участников теста, в то время как ChatGPT оказался среди худших 10%. Кроме того, согласно данным технического отчета OpenAI, сгенерированные GPT-4 ответы нравились тестовой группе пользователей в 70,2% случаев чаще, чем ответы GPT-3.5. Впрочем, по словам самих создателей, разница между ответами от двух версий бота может показаться незаметной в процессе работы с интерфейсом.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Кино Кино

Пять фильмов, позволяющих иначе взглянуть на предпринимательство

Правила жизни
Почему люди смеются? Почему люди смеются?

Что такое смех с точки зрения науки? Зачем вообще людям нужна такая способность?

ТехИнсайдер
Реальные факты, стоящие за самыми известными мифами в истории Реальные факты, стоящие за самыми известными мифами в истории

Порой за легендами стоят реальные факты и явления

Maxim
Кем стали крестные дети принцессы Дианы: что о них известно Кем стали крестные дети принцессы Дианы: что о них известно

Кем выросли крестники «королевы людских сердец»? Рассказываем об их судьбах

VOICE
Танец цвета Танец цвета

Отправной точкой для оформления этой квартиры послужила картина «Танец»

Идеи Вашего Дома
Духовные практики как бегство от реальной жизни: почему это не работает Духовные практики как бегство от реальной жизни: почему это не работает

Как и у любого явления, у духовных практик есть обратная сторона

Psychologies
Время глобальной эмпатии: Александр Алексеев — о развитии креативных коммуникаций в России Время глобальной эмпатии: Александр Алексеев — о развитии креативных коммуникаций в России

Об актуальных трендах креативных коммуникаций и достижениях в сфере рекламы

СНОБ
Одна вокруг света: главная дорога Аргентины и Озеро инков в горах Одна вокруг света: главная дорога Аргентины и Озеро инков в горах

209-я серия о кругосветном путешествии Ирины Сидоренко: приключения в Аргентине

Forbes
Впервые за десятилетия математики приблизились к разгадке таинственных Впервые за десятилетия математики приблизились к разгадке таинственных

Границы чисел Рамсея наконец были сужены

ТехИнсайдер
19 элементарных лайфхаков, которые сэкономят тебе часы на кухне 19 элементарных лайфхаков, которые сэкономят тебе часы на кухне

Советы о самом насущном — картошке, чесноке и пельмешках из морозилки!

Maxim
Экс-директор по маркетингу Nike Грег Хоффман о культуре принятия риска Экс-директор по маркетингу Nike Грег Хоффман о культуре принятия риска

Грег Хоффман делится своими методами выстраивания мощного бренда

СНОБ
Отказ от курения: как перестать думать о сигаретах — 3 спасительных шага Отказ от курения: как перестать думать о сигаретах — 3 спасительных шага

Правила, которые останавливают механизм, запускающий мысли о сигаретах

Psychologies
Пресс Пресс

Почему пресс при прокачке может складываться в "домик" и чем это грозит

VOICE
Основательницы бренда Divno — об особенностях моды plus-size и бизнесе Основательницы бренда Divno — об особенностях моды plus-size и бизнесе

О том, как запустить свой бренд в России и о сложностях, связанных с plus size

РБК
Лекарство от депрессии Лекарство от депрессии

Как Вторая мировая сделала из США сверхдержаву

Деньги
Гоша Гоша

Гоша Карцев выходит из треугольника печали и амплуа фэшн-суки

Собака.ru
Как великие князья жили в эмиграции в Париже Как великие князья жили в эмиграции в Париже

Хелен Раппапорт рассказывает о тех, кому удалось стать своими в другой стране

СНОБ
Филлеры — ставить или нет? Правда и мифы об уколах красоты Филлеры — ставить или нет? Правда и мифы об уколах красоты

Могут ли филлеры сползать, делать лицо опухшим и асимметричным

Правила жизни
Раннее введение аллергенов в прикорм снизило риск развития аллергии Раннее введение аллергенов в прикорм снизило риск развития аллергии

Можно ли профилактировать развитие аллергии у детей?

N+1
Почему сложно забеременеть: 3 неочевидные причины — мнение психолога Почему сложно забеременеть: 3 неочевидные причины — мнение психолога

Психолог объясняет, что мешаем нам забеременеть

Psychologies
Артемида, Гера, Деметра: 3 архетипа фаллических женщин — разбор с психологами Артемида, Гера, Деметра: 3 архетипа фаллических женщин — разбор с психологами

Почему некоторые женщины стремятся обладать властью и подавлять других?

Psychologies
20 лучших детективных сериалов 2010–2023 годов 20 лучших детективных сериалов 2010–2023 годов

Детективные сериалы, от которых вы не сможете оторваться

Maxim
Снова вместе Снова вместе

Бренды класса люкс давно и умело используют сотрудничество с художниками

Robb Report
Первая русская манифестация Первая русская манифестация

С юности Владимир Новосильцев был, как казалось, настоящим баловнем судьбы

Дилетант
Древние сапиенсы из пещеры Фумане сняли шкуры с волков и лис ради меха Древние сапиенсы из пещеры Фумане сняли шкуры с волков и лис ради меха

Иногда сапиенсы ловили волков и лис исключительно ради меха

N+1
Окситоцин помог рыбкам данио-рерио проявить эмпатию к страдающим сородичам Окситоцин помог рыбкам данио-рерио проявить эмпатию к страдающим сородичам

Механизм проявления эмпатии у рыбок похож на аналогичный у млекопитающих

N+1
Декларация независимости. История появления скоростных внедорожников Декларация независимости. История появления скоростных внедорожников

Как появились скоростные внедорожники

4x4 Club
7 моментов в ужастиках, где видно халтурные спецэффекты 7 моментов в ужастиках, где видно халтурные спецэффекты

Проматывай эти сцены, чтобы не рассмеяться!

Maxim
Что такое спидран или как пройти Atomic Heart за 6 минут? Что такое спидран или как пройти Atomic Heart за 6 минут?

Почему спидраны заслуживают вашего внимания?

CHIP
«Свидетельницы века»: о чем писали эмигрантки первой волны в своих мемуарах «Свидетельницы века»: о чем писали эмигрантки первой волны в своих мемуарах

Рассказываем о трех писательницах-эмигрантках, оставивших воспоминания

Forbes
Открыть в приложении