Чем хороша новая версия популярного бота от OpenAI GPT-4

ForbesHi-Tech

Четвертое измерение: что умеет новая языковая модель от OpenAI GPT-4

Манвел Аветисян

Фото Silas Stein / picture alliance via Getty Images

С момента появления ChatGPT в интернете уже разошлись мемы с вакансией «выключателя», который должен вытащить вилку из розетки, если ИИ внутри модели оживет. Директор по развитию прикладных проектов Института искусственного интеллекта AIRI Манвел Аветисян рассказывает о том, что сейчас умеет новая версия основы популярного бота GPT-4 и как релиз новинки от OpenAI отразится на нашей жизни.

Эволюция языковых моделей

Бурное развитие умных языковых ботов началось с довольно простой мысли: в виде текста можно представить огромное количество задач, а значит, можно научить модели ИИ эти задачи решать. В 2017 году появились трансформерные архитектуры, способные обучаться на больших объемах текстов. Чуть позже ученые совместили обучение с подкреплением (Reinforcement learning, RL, технология, которая позволяет «хвалить» программу за правильные действия и «наказывать» за неправильные) с большими языковыми моделями, такими, как GPT-3 (Large Language Models, LLM). Получился ChatGPT.

Представьте себе игру в шахматы: подкрепление в ней — это результат игры. Компьютерному агенту на основе искусственного интеллекта необходимо научиться делать ходы, которые приведут к победе. Люди способны действовать с подкреплением, удаленным на годы вперед, например, долго и усердно трудиться в школе и университете, чтобы получить первую зарплату. Компьютеру сложно выполнять длинные последовательности действий для достижения итогового результата, и разработчикам приходится учить ИИ «заглядывать вперед» при выборе следующего шага. Исследователи начали обучать модели, способные отвечать на вопросы человека и интегрировать в них огромные объемы человеческой обратной связи.

Среди основных прорывов, полученных исследователями в последнее время, можно отметить:

  • Toolformer, LLM от Meta (признана в России экстремистской организацией и запрещена): исследователи научили большие языковые модели обращаться к внешним инструментам (веб-поиску, переводчику, калькулятору).
  • LLaMA, LLM от Meta (признана экстремистской организацией на территории РФ): ученые доказали, что объем данных для обучения модели важнее, чем ее сложность. Более легкие по вычислительным ресурсам модели с большими выборками обучающих данных обошли большие модели в качестве решения прикладных задач.
  • ChatGPT на Bing научился указывать источники тех или иных фактов, которые он приводит в ответе на вопрос.

Плюсы и минусы нового движка

GPT-4 — последняя из больших языковых моделей семейства GPT от OpenAI: GPT-2, GPT-3 и GPT-3.5, которая легла в основу первой версии популярного бота ChatGPT. Модель состоит из большого количества нейросетей, которые умеют обрабатывать, понимать, анализировать, интерпретировать и генерировать тексты на естественном языке. Несмотря на то что четвертая версия модели понимает 28 языков, включая малоресурсные валлийский язык и урду (близкий к хинди язык индоевропейской семьи), наилучшие результаты по-прежнему можно получить, используя для создания промптов (так называются фразы-запросы к модели) английский.

GPT-4 прошел проверку эффективности на множестве экзаменов — как академических, так и профессиональных. Порой работы модели превосходили результаты большинства параллельно тестируемых людей. Например, на смоделированном экзамене для адвокатов (Uniform Bar Examination) GPT-4 оказалась среди 10% лучших участников теста, в то время как ChatGPT оказался среди худших 10%. Кроме того, согласно данным технического отчета OpenAI, сгенерированные GPT-4 ответы нравились тестовой группе пользователей в 70,2% случаев чаще, чем ответы GPT-3.5. Впрочем, по словам самих создателей, разница между ответами от двух версий бота может показаться незаметной в процессе работы с интерфейсом.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Зачем советскому грузовому самолету Ил-76 две кабины и странный грузовой люк Зачем советскому грузовому самолету Ил-76 две кабины и странный грузовой люк

Ил-76: зачем его конструкторы изменили стандартную конструкцию самолета?

ТехИнсайдер
Маммопластика Маммопластика

Все плюсы и минусы маммопластики

Здоровье
Как накачать руки без гирь, штанги и гантелей Как накачать руки без гирь, штанги и гантелей

6 упражнений для твоего тела, которые можно делать без тренажерного зала

Maxim
Мучной рост с низкой базы Мучной рост с низкой базы

Потенциал экспорта муки из России оценивается в 3 млн т

Агроинвестор
Взлёты и падения. Особенности создания чешского внедорожника Взлёты и падения. Особенности создания чешского внедорожника

В этот раз мы поговорим о создании внедорожника ŠKODA

4x4 Club
Терапия одиночества: почему время наедине с собой помогает нам исследовать жизнь Терапия одиночества: почему время наедине с собой помогает нам исследовать жизнь

Как рассматривать время, проверенное наедине с собой, не как лишение

Forbes
«Яд материнской любви»: зачем врать о болезнях и какая может быть выгода в страданиях родных детей «Яд материнской любви»: зачем врать о болезнях и какая может быть выгода в страданиях родных детей

Автор книги «Яд материнской любви» рассказывает о своем печальном опыте

Psychologies
Раннее введение аллергенов в прикорм снизило риск развития аллергии Раннее введение аллергенов в прикорм снизило риск развития аллергии

Можно ли профилактировать развитие аллергии у детей?

N+1
Корень инфантилизма: почему мы не можем взять ответственность за собственную жизнь Корень инфантилизма: почему мы не можем взять ответственность за собственную жизнь

В чем заключаются причины инфантильного поведения?

Forbes
Животные без мозга могут формировать ассоциативные воспоминания Животные без мозга могут формировать ассоциативные воспоминания

У стрекающих есть нервная сеть и этого достаточно для формирования воспоминания

ТехИнсайдер
Свой след Свой след

История Дома Doucal’s берёт начало на родине основателя бренда Марио Джаннини

Robb Report
Что делать при панической атаке: техника пяти шагов Что делать при панической атаке: техника пяти шагов

Что такое паническая атака и как помочь себе, если она случилась

Правила жизни
Духовные практики как бегство от реальной жизни: почему это не работает Духовные практики как бегство от реальной жизни: почему это не работает

Как и у любого явления, у духовных практик есть обратная сторона

Psychologies
Сопротивление, сожаление и принятие: как выражается наша потребность в свободе Сопротивление, сожаление и принятие: как выражается наша потребность в свободе

Отрывок из книги «Больше чем желание» о стремлении к свободе и его проявлениях

Forbes
Все о модной голливудской «диете» на уколах для диабетиков: риски, побочки и мнение врачей Все о модной голливудской «диете» на уколах для диабетиков: риски, побочки и мнение врачей

Как на самом деле работает и чем «диета» на уколах опасна для здоровых людей

VOICE
«Наступает эпоха умного ESG» «Наступает эпоха умного ESG»

Почему важно придерживаться принципов устойчивого развития

Деньги
Что стало с актерами сериала Что стало с актерами сериала

Что стало с исполнителями главных ролей сериала "Остаться в живых"?

VOICE
Гавриил Гордеев, продюсер по оригинальному контенту Okko: Мы формируем отношение россиян к отечественным кино и сериалам Гавриил Гордеев, продюсер по оригинальному контенту Okko: Мы формируем отношение россиян к отечественным кино и сериалам

Продюсер по оригинальному контенту Okko — о рецепте создания хита

СНОБ
4 правила первого свидания, которыми нельзя пренебрегать 4 правила первого свидания, которыми нельзя пренебрегать

Как организовать свидание так, чтобы оно не стало последним?

Psychologies
Гитлер. Поход во власть Гитлер. Поход во власть

Человек, создавший Третий рейх, был, несомненно, злым гением

Дилетант
Миф или реальность: раскрываем всю правду о 25-м кадре Миф или реальность: раскрываем всю правду о 25-м кадре

Неужели 25-ый кадр действительно работает?

ТехИнсайдер
Почему дергается глаз: рефлекс, о причинах которого мы не догадываемся Почему дергается глаз: рефлекс, о причинах которого мы не догадываемся

Что вызывает глазной тик и когда пора обратиться к врачу?

ТехИнсайдер
Как научиться много зарабатывать и достигать поставленных целей: 5 новых книг о бизнесе и саморазвитии Как научиться много зарабатывать и достигать поставленных целей: 5 новых книг о бизнесе и саморазвитии

Книги, которые помогут посмотреть на бизнес с нетривиальных ракурсов

ТехИнсайдер
Траты на буррату: как итальянский сыр из Новомосковска появился в федеральных сетях Траты на буррату: как итальянский сыр из Новомосковска появился в федеральных сетях

Как предприниматели из Тульской области запустили производство итальянских сыров

Forbes
Археологи нашли доказательство того, что люди начали использовать сталь гораздо раньше, чем мы думали Археологи нашли доказательство того, что люди начали использовать сталь гораздо раньше, чем мы думали

Закаленная сталь использовалась ремесленниками раньше, чем считали ученые

ТехИнсайдер
Прямо как с полки в магазине: 3 рабочих способа, как легко убрать заломы на обуви Прямо как с полки в магазине: 3 рабочих способа, как легко убрать заломы на обуви

Мы нашли целых три способа, как исправить заломы на обуви!

ТехИнсайдер
Сергей Урсуляк: «Когда искал актеров в «Ликвидацию», подумал: если я могу со своей женой жить, то и Гоцман пускай поживет» Сергей Урсуляк: «Когда искал актеров в «Ликвидацию», подумал: если я могу со своей женой жить, то и Гоцман пускай поживет»

Многие артисты обязаны очень хорошими ролями моим жене и детям

Коллекция. Караван историй
30 потрясающих вещей, которым в 2023-м году исполнилось 30 лет 30 потрясающих вещей, которым в 2023-м году исполнилось 30 лет

У тебя есть возможность с ужасом ощутить, как быстро пролетели годы

Maxim
7 удобных клавиатур для Android: для аскетов и любителей эмодзи 7 удобных клавиатур для Android: для аскетов и любителей эмодзи

Мы собрали лучшие клавиатуры из того, что можно найти в Google Play Store

CHIP
Впервые за десятилетия математики приблизились к разгадке таинственных Впервые за десятилетия математики приблизились к разгадке таинственных

Границы чисел Рамсея наконец были сужены

ТехИнсайдер
Открыть в приложении