Чем хороша новая версия популярного бота от OpenAI GPT-4

ForbesHi-Tech

Четвертое измерение: что умеет новая языковая модель от OpenAI GPT-4

Манвел Аветисян

Фото Silas Stein / picture alliance via Getty Images

С момента появления ChatGPT в интернете уже разошлись мемы с вакансией «выключателя», который должен вытащить вилку из розетки, если ИИ внутри модели оживет. Директор по развитию прикладных проектов Института искусственного интеллекта AIRI Манвел Аветисян рассказывает о том, что сейчас умеет новая версия основы популярного бота GPT-4 и как релиз новинки от OpenAI отразится на нашей жизни.

Эволюция языковых моделей

Бурное развитие умных языковых ботов началось с довольно простой мысли: в виде текста можно представить огромное количество задач, а значит, можно научить модели ИИ эти задачи решать. В 2017 году появились трансформерные архитектуры, способные обучаться на больших объемах текстов. Чуть позже ученые совместили обучение с подкреплением (Reinforcement learning, RL, технология, которая позволяет «хвалить» программу за правильные действия и «наказывать» за неправильные) с большими языковыми моделями, такими, как GPT-3 (Large Language Models, LLM). Получился ChatGPT.

Представьте себе игру в шахматы: подкрепление в ней — это результат игры. Компьютерному агенту на основе искусственного интеллекта необходимо научиться делать ходы, которые приведут к победе. Люди способны действовать с подкреплением, удаленным на годы вперед, например, долго и усердно трудиться в школе и университете, чтобы получить первую зарплату. Компьютеру сложно выполнять длинные последовательности действий для достижения итогового результата, и разработчикам приходится учить ИИ «заглядывать вперед» при выборе следующего шага. Исследователи начали обучать модели, способные отвечать на вопросы человека и интегрировать в них огромные объемы человеческой обратной связи.

Среди основных прорывов, полученных исследователями в последнее время, можно отметить:

  • Toolformer, LLM от Meta (признана в России экстремистской организацией и запрещена): исследователи научили большие языковые модели обращаться к внешним инструментам (веб-поиску, переводчику, калькулятору).
  • LLaMA, LLM от Meta (признана экстремистской организацией на территории РФ): ученые доказали, что объем данных для обучения модели важнее, чем ее сложность. Более легкие по вычислительным ресурсам модели с большими выборками обучающих данных обошли большие модели в качестве решения прикладных задач.
  • ChatGPT на Bing научился указывать источники тех или иных фактов, которые он приводит в ответе на вопрос.

Плюсы и минусы нового движка

GPT-4 — последняя из больших языковых моделей семейства GPT от OpenAI: GPT-2, GPT-3 и GPT-3.5, которая легла в основу первой версии популярного бота ChatGPT. Модель состоит из большого количества нейросетей, которые умеют обрабатывать, понимать, анализировать, интерпретировать и генерировать тексты на естественном языке. Несмотря на то что четвертая версия модели понимает 28 языков, включая малоресурсные валлийский язык и урду (близкий к хинди язык индоевропейской семьи), наилучшие результаты по-прежнему можно получить, используя для создания промптов (так называются фразы-запросы к модели) английский.

GPT-4 прошел проверку эффективности на множестве экзаменов — как академических, так и профессиональных. Порой работы модели превосходили результаты большинства параллельно тестируемых людей. Например, на смоделированном экзамене для адвокатов (Uniform Bar Examination) GPT-4 оказалась среди 10% лучших участников теста, в то время как ChatGPT оказался среди худших 10%. Кроме того, согласно данным технического отчета OpenAI, сгенерированные GPT-4 ответы нравились тестовой группе пользователей в 70,2% случаев чаще, чем ответы GPT-3.5. Впрочем, по словам самих создателей, разница между ответами от двух версий бота может показаться незаметной в процессе работы с интерфейсом.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как «перезапустить» либидо в браке Как «перезапустить» либидо в браке

Куда с годами уходит сексуальное влечение?

Psychologies
Великий шутник Российской империи Великий шутник Российской империи

Один из примеров реформистской деятельности Петра I, а именно самый смешной

Правила жизни
Ударница Ударница

Кто эта хрупкая блондинка? Модель? Актриса? А вот и нет!

Maxim
«Шпион среди друзей»: как британский разведчик 30 лет работал на КГБ и сбежал в СССР «Шпион среди друзей»: как британский разведчик 30 лет работал на КГБ и сбежал в СССР

Каким Филби представлен в сериале и насколько эта версия совпадает с реальностью

Forbes
Не до секса: почему в трудные времена пропадает желание и как его вернуть Не до секса: почему в трудные времена пропадает желание и как его вернуть

Какую роль в сексе играет чувство безопасности и как настроиться на близость?

Psychologies
Почему люди проваливаются под лёд: самые страшные недавние трагедии на замерзших реках Почему люди проваливаются под лёд: самые страшные недавние трагедии на замерзших реках

Почему люди выходят на лед, если знают, что это очень опасно?

VOICE
Не верю: почему уровень религиозности снижается во всем мире и в России Не верю: почему уровень религиозности снижается во всем мире и в России

Как религия связана с благополучием?

Forbes
Волшебство или химический коктейль: что такое любовь с точки зрения биологии Волшебство или химический коктейль: что такое любовь с точки зрения биологии

Как чувство любви меняет мозг?

Psychologies
(Не)сладкая жизнь: большой гид по заменителям сахара (Не)сладкая жизнь: большой гид по заменителям сахара

Чем заменить сахар без вреда для здоровья и стоит ли вообще это делать

Правила жизни
Что такое Mazda CX-50 и какое место она занимает в модельной линейке компании Что такое Mazda CX-50 и какое место она занимает в модельной линейке компании

Mazda CX-50 верна философии бренда

4x4 Club
Жертва кризиса доверия: почему закончилась полуторавековая история Credit Suisse Жертва кризиса доверия: почему закончилась полуторавековая история Credit Suisse

Что привело Credit Suisse к тупику, из которого он оказался не в состоянии выйти

Forbes
Гравитационный гиперкар Гравитационный гиперкар

«70% успеха – сани, а 30% – все остальное»

ТехИнсайдер
Работа с пограничным расстройством личности: техника ментализации Работа с пограничным расстройством личности: техника ментализации

Как распознать человека с пограничным расстройством личности?

Psychologies
Продуктивная жизнь сиамских близнецов, у которых на двоих был 21 ребенок: как они жили и работали Продуктивная жизнь сиамских близнецов, у которых на двоих был 21 ребенок: как они жили и работали

Рассказываем, как сиамские братья получили небывалую славу и завели 21 ребенка

ТехИнсайдер
Независимость или самопожертвование: о гранях женской любви рассказали актрисы сериала «Содержанки» Независимость или самопожертвование: о гранях женской любви рассказали актрисы сериала «Содержанки»

Нужна ли нам привязанность, если она заставляет страдать? Отвечают «Содержанки»

Psychologies
Союз дела и денег. Оценка экономической устойчивости проектов в области социального предпринимательства | The Union of Business and Money. Evaluation of the Economic Sustainability of Social Entrepreneurship Projects Союз дела и денег. Оценка экономической устойчивости проектов в области социального предпринимательства | The Union of Business and Money. Evaluation of the Economic Sustainability of Social Entrepreneurship Projects

Модель оценки воздействия проектов в области социального предпринимательства

Позитивные изменения
Как основатель Bolt нанял мошенника для создания криптопроекта Movement DAO Как основатель Bolt нанял мошенника для создания криптопроекта Movement DAO

Райан Бреслоу ввязался в судебное разбирательство по поводу предполагаемой кражи

Forbes
Пивной путч. Фальстарт Пивной путч. Фальстарт

1923 год выдался для Германии очень беспокойным

Дилетант
Как предприниматель с Аляски стал крупнейшим поставщиком рыбы в Америке Как предприниматель с Аляски стал крупнейшим поставщиком рыбы в Америке

Почему Джо Бандрант не хочет продавать Trident Seafoods?

Forbes
Так говорил Жванецкий: 12 мудростей Так говорил Жванецкий: 12 мудростей

Вспоминаем сатирика Михаила Жванецкого в день его рождения

Psychologies
«Женщина в Азии себе не принадлежит»: как девочек воспитывают согласно традициям «Женщина в Азии себе не принадлежит»: как девочек воспитывают согласно традициям

Екатерина Манойло — о том, как семейное насилие лишает будущего

Forbes
Как создавать свои картинки в Midjourney: простой гид Как создавать свои картинки в Midjourney: простой гид

Краткое руководство для начинающих изучать Midjourney

Maxim
7 книг о будущем 7 книг о будущем

Семь книг ученых и социологов, которые приоткроют дверь в будущее

СНОБ
10 причин сходить в кино на «Джона Уика 4», даже если вы не фанат экшен-боевиков (и Киану Ривза) 10 причин сходить в кино на «Джона Уика 4», даже если вы не фанат экшен-боевиков (и Киану Ривза)

4 часть «Джона Уика» опровергает законы не только физики, но и франшиз Голливуда

Правила жизни
У них всё серьёзно У них всё серьёзно

Как говорить с детьми о любви

Новый очаг
Выражайте благодарность и находите компромиссы: как сохранить страсть в долгом браке — 11 советов коуча Выражайте благодарность и находите компромиссы: как сохранить страсть в долгом браке — 11 советов коуча

Что делать, если сказочное продолжение совместной жизни никак не складывается?

Psychologies
Какой будет новая технологическая эпоха с ИИ? Мнение Билла Гейтса Какой будет новая технологическая эпоха с ИИ? Мнение Билла Гейтса

Технологические достижения могут до неузнаваемости изменить жизнь обывателей

ТехИнсайдер
Как выглядит кожа женщины, сбросившей 71 килограмм: почему лучше не набирать вес, чем потом худеть Как выглядит кожа женщины, сбросившей 71 килограмм: почему лучше не набирать вес, чем потом худеть

Как выглядит девушка, похудевшая на 71 килограмм

VOICE
Актеры и главные герои сериала Актеры и главные герои сериала

Рассказываем о ролях и актерах турецкого сериала "Истерзанная"

VOICE
Снять боль и улучшить гибкость. 12 упражнений для растяжки спины Снять боль и улучшить гибкость. 12 упражнений для растяжки спины

Предотвратить боль в спине может регулярное выполнение упражнений для растяжки

Лиза
Открыть в приложении