Чем хороша новая версия популярного бота от OpenAI GPT-4

ForbesHi-Tech

Четвертое измерение: что умеет новая языковая модель от OpenAI GPT-4

Манвел Аветисян

Фото Silas Stein / picture alliance via Getty Images

С момента появления ChatGPT в интернете уже разошлись мемы с вакансией «выключателя», который должен вытащить вилку из розетки, если ИИ внутри модели оживет. Директор по развитию прикладных проектов Института искусственного интеллекта AIRI Манвел Аветисян рассказывает о том, что сейчас умеет новая версия основы популярного бота GPT-4 и как релиз новинки от OpenAI отразится на нашей жизни.

Эволюция языковых моделей

Бурное развитие умных языковых ботов началось с довольно простой мысли: в виде текста можно представить огромное количество задач, а значит, можно научить модели ИИ эти задачи решать. В 2017 году появились трансформерные архитектуры, способные обучаться на больших объемах текстов. Чуть позже ученые совместили обучение с подкреплением (Reinforcement learning, RL, технология, которая позволяет «хвалить» программу за правильные действия и «наказывать» за неправильные) с большими языковыми моделями, такими, как GPT-3 (Large Language Models, LLM). Получился ChatGPT.

Представьте себе игру в шахматы: подкрепление в ней — это результат игры. Компьютерному агенту на основе искусственного интеллекта необходимо научиться делать ходы, которые приведут к победе. Люди способны действовать с подкреплением, удаленным на годы вперед, например, долго и усердно трудиться в школе и университете, чтобы получить первую зарплату. Компьютеру сложно выполнять длинные последовательности действий для достижения итогового результата, и разработчикам приходится учить ИИ «заглядывать вперед» при выборе следующего шага. Исследователи начали обучать модели, способные отвечать на вопросы человека и интегрировать в них огромные объемы человеческой обратной связи.

Среди основных прорывов, полученных исследователями в последнее время, можно отметить:

  • Toolformer, LLM от Meta (признана в России экстремистской организацией и запрещена): исследователи научили большие языковые модели обращаться к внешним инструментам (веб-поиску, переводчику, калькулятору).
  • LLaMA, LLM от Meta (признана экстремистской организацией на территории РФ): ученые доказали, что объем данных для обучения модели важнее, чем ее сложность. Более легкие по вычислительным ресурсам модели с большими выборками обучающих данных обошли большие модели в качестве решения прикладных задач.
  • ChatGPT на Bing научился указывать источники тех или иных фактов, которые он приводит в ответе на вопрос.

Плюсы и минусы нового движка

GPT-4 — последняя из больших языковых моделей семейства GPT от OpenAI: GPT-2, GPT-3 и GPT-3.5, которая легла в основу первой версии популярного бота ChatGPT. Модель состоит из большого количества нейросетей, которые умеют обрабатывать, понимать, анализировать, интерпретировать и генерировать тексты на естественном языке. Несмотря на то что четвертая версия модели понимает 28 языков, включая малоресурсные валлийский язык и урду (близкий к хинди язык индоевропейской семьи), наилучшие результаты по-прежнему можно получить, используя для создания промптов (так называются фразы-запросы к модели) английский.

GPT-4 прошел проверку эффективности на множестве экзаменов — как академических, так и профессиональных. Порой работы модели превосходили результаты большинства параллельно тестируемых людей. Например, на смоделированном экзамене для адвокатов (Uniform Bar Examination) GPT-4 оказалась среди 10% лучших участников теста, в то время как ChatGPT оказался среди худших 10%. Кроме того, согласно данным технического отчета OpenAI, сгенерированные GPT-4 ответы нравились тестовой группе пользователей в 70,2% случаев чаще, чем ответы GPT-3.5. Впрочем, по словам самих создателей, разница между ответами от двух версий бота может показаться незаметной в процессе работы с интерфейсом.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Артюр Рембо Артюр Рембо

Цитаты поэта, умершего в 1891 году в Марселе

Esquire
Археологи нашли доказательство того, что люди начали использовать сталь гораздо раньше, чем мы думали Археологи нашли доказательство того, что люди начали использовать сталь гораздо раньше, чем мы думали

Закаленная сталь использовалась ремесленниками раньше, чем считали ученые

ТехИнсайдер
Гормон-шило Гормон-шило

Новые открытия о нашем главном гормоне – тестостероне

Maxim
Екатерина Гусева: «Счастливый человек светится изнутри» Екатерина Гусева: «Счастливый человек светится изнутри»

Актриса Екатерина Гусева — о секретах своей красоты, молодости и оптимизма

Здоровье
Детская забава Детская забава

Прыжки через скакалку – простой путь к стройности!

Лиза
Захват власти Захват власти

Национал-социалисты всегда испытывали пиетет перед громкими фразами

Дилетант
Съели молодильных яблок: звезды, которые почти не постарели за 20 лет Съели молодильных яблок: звезды, которые почти не постарели за 20 лет

Как тут не поверить в магию, когда эти знаменитости словно застыли во времени!

VOICE
Что делать, если один наушник AirPods не работает? Что делать, если один наушник AirPods не работает?

AirPods великолепны — за исключением случаев, когда один из них не работает

ТехИнсайдер
Воображая интернет: как появились сетевые манифесты Воображая интернет: как появились сетевые манифесты

Манифесты ― ключевой формат дискуссий интернета

ТехИнсайдер
Тест-драйв кроссовера-фастбэка Omoda C5 4WD Тест-драйв кроссовера-фастбэка Omoda C5 4WD

Чем интересна улучшенная модификация Omoda C5 4WD

СНОБ
В чём отличие шкалы Фаренгейта от шкалы Цельсия и какая из них лучше? В чём отличие шкалы Фаренгейта от шкалы Цельсия и какая из них лучше?

Почему американцы так прикипели к шкале Фаренгейта?

ТехИнсайдер
Возможно, первые аминокислоты возникли задолго до формирования Земли Возможно, первые аминокислоты возникли задолго до формирования Земли

Жизнь могла зародиться вместе с Млечным путем. А возможно, и раньше

ТехИнсайдер
Как восстановить кожу после затяжной зимы: гид по самым нужным весенним процедурам Как восстановить кожу после затяжной зимы: гид по самым нужным весенним процедурам

Хочешь порадовать свою кожу весенним походом в кабинет к косметологу?

VOICE
Вакуумный корабль Вакуумный корабль

Отличным грузовым транспортом могут стать дирижабли, наполненные вакуумом

ТехИнсайдер
Бива живая и мертвая Бива живая и мертвая

«Ину-о: Рождение легенды»: японская история воскресает и зажигает

Weekend
«У людей синдром выученной беспомощности»: кто и как развивает малые территории «У людей синдром выученной беспомощности»: кто и как развивает малые территории

Марина Михайлова рассказала, как развиваются малые территории

Forbes
«Шелковая нить» для Персидского залива «Шелковая нить» для Персидского залива

Что сулит Ближнему Востоку ирано-саудовское примирение и при чем тут Китай

Эксперт
Как Анахита Ратебзад добивалась гендерного равенства в Афганистане, но потеряла все Как Анахита Ратебзад добивалась гендерного равенства в Афганистане, но потеряла все

История женщины, которая слишком опередила свое время

Forbes
Лига чемпионов Лига чемпионов

Способны ли российские компании восполнить дефицит технологий?

Robb Report
Интервью Интервью

Али Онгер и Алексей Горский: почему сейчас самое время покупать яхту в Турции

Y Magazine
Голливудские бизнес-кейсы: как примеры из кино помогают в управлении командой Голливудские бизнес-кейсы: как примеры из кино помогают в управлении командой

Культовые картины также могут стать отличным руководством по управлению командой

Forbes
3 этапа, которые необходимо пройти после развода 3 этапа, которые необходимо пройти после развода

Как пережить развод?

Psychologies
Синдром Альцгеймера может сначала проявиться в глазах. Вы поразитесь! Синдром Альцгеймера может сначала проявиться в глазах. Вы поразитесь!

Первые симптомы синдрома Альцгеймера будут буквально видны в органах зрения

ТехИнсайдер
Домохозяйки и кормильцы: как россияне представляют себе гендерное равенство Домохозяйки и кормильцы: как россияне представляют себе гендерное равенство

Сравнение представлений россиян о гендерном балансе с данными статистики

Forbes
Фигура на фоне Холодной войны Фигура на фоне Холодной войны

Как художник Евгений Рухин вел американский образ жизни в застойном Ленинграде

Weekend
Геотермальная энергетика — от горячих источников до глубинных горячих пород Геотермальная энергетика — от горячих источников до глубинных горячих пород

Заставить работать глубинное тепло Земли непросто и дорого, но затраты окупаются

Наука
Калейдоскоп фактур Калейдоскоп фактур

Квартира в стиле «мягкого» и комфортного лофта

Идеи Вашего Дома
Отличной посадки на Титан, «Стрекоза»! Отличной посадки на Титан, «Стрекоза»!

Посадка на другие планеты — дело весьма непростое

Наука
Между нами, женщинами Между нами, женщинами

Эндометриоз: стоит ли переживать и можно ли избавиться от него навсегда

Лиза
Надевая маску Надевая маску

7 досадных ошибок, которые ты можешь допустить, используя маски для лица

Лиза
Открыть в приложении