Государствам нужно ускориться в регулировании искусственного интеллекта

МонокльРепортаж

В битвах вокруг ИИ победят корпорации

Государствам нужно ускориться в регулировании искусственного интеллекта и признать, что ситуация критическая

Наталья Быкова

Стоян Васев

Что создают в OpenAI и стоит ли этого бояться? Об этом — в интервью с экспертом по междисциплинарным исследованиям и стратегической аналитике, бывшим топ-менеджером IBM, SGI и Cray Research Сергеем Кареловым.

— Самая обсуждаемая тема в свете событий с OpenAI, — обнаружение специалистами компании у своей модели новой когнитивной способности самостоятельно находить информацию, которой нет в ее базе данных. Поясните, пожалуйста, что это может быть за модель и как у нее получилось выйти за пределы знаний, сформированных на стадии ее обучения?

— Да, основная причина, из-за которой начался весь этот бардак, заключается в том, что был совершен прорыв в исследованиях в сторону сильного искусственного интеллекта. А поскольку условия соглашения Microsoft и OpenAI были таковы, что в случае приближения к подобным результатам все предыдущие соглашения должны пересматриваться, то фактически OpenAI получала право забрать у Microsoft последние рычаги управления. Чтобы избежать этого, была разыграна многосерийная интрига с увольнением, а потом возвращением Сэма Альтмана. В результате чего совет директоров был кардинально обновлен в пользу интересов Microsoft.

Что же касается прорыва, то здесь мы можем только строить предположения. Есть информация, что в главном сегодняшнем проекте компании под кодовым названием Q* (читается Q-Star) велись исследования по трем направлениям.

Первое — это как раз про способность модели не просто искать информацию во внешней базе данных, в том же интернете или корпоративных базах, но и целенаправленно формулировать вопросы. Это означает, что она не привязана на сто процентов к базам, на которых строилось ее обучение, — а это очень неординарный результат. Дело в том, что все модели создаются схожим образом: учатся по нескольку месяцев на огромных объемах информации, выстраивая свои матрицы весов, свои внутренние представления об этой информации. Далее с ними начинают работать аналитики, задают им вопросы, просят высказаться по определенной теме, а модели в ответ обращаются вот к этой сформированной на этапе обучения матрице и на этой основе формулируют ответ. То есть теоретически модель не может выйти за пределы того, чему научилась на этапе обучения.

Новым лингвоботам Claude-2 и Bing дали возможность прямого обращения в сеть, это, конечно, сильно расширило возможности подобных систем, но эти обращения совершались исключительно на базе тех запросов, которые писали лингвоботам люди. Например, если их спрашивали, какие были группировки североамериканских индейцев за год до начала Гражданской войны в США, то боты искали в сети информацию о группировках индейцев и Гражданской войне в США, не понимая сути вопроса.

А вот тот прорыв, о котором мы говорим, связан с принципиально новой способностью модели. Она начала искать ответы в сети на собственные содержательные вопросы, чтобы лучше разобраться в теме: к примеру, что лежало в основе разделения индейцев на группировки — идеология, борьба за территорию и так далее.

Второе направление, которое получило сильный прогресс, — это системы, подобные AlphaZero, обыгрывающей чемпионов в шахматы. Они работают по другим принципам, осуществляют поиск по деревьям Монте-Карло (эвристический алгоритм поиска для некоторых видов процессов принятия решений, в первую очередь тех, которые используются в программном обеспечении, играющем в настольные игры. — «Монокль»). Интеграция поиска траектории токена по дереву Монте-Карло (как в AlphaZero) с традиционными для больших языковых моделей матрицами весов может быть особенно эффективна в таких областях, как программирование и математика, где есть простой способ определить правильность. И это может объяснять утечки о прорывном улучшении в проекте Q* способностей решения математических задач.

Третье направление — это комбинация Q-обучения и алгоритма A*.

Алгоритм A* — это способ нахождения кратчайшего пути от одной точки до другой на карте или в сети. Представьте, что вы ищете самый быстрый маршрут из одного города в другой. Алгоритм A* проверяет разные пути, оценивая, насколько они близки к цели и сколько еще предстоит пройти. Он выбирает путь, который, по его оценке, будет самым коротким. Этот алгоритм очень эффективен и используется во многих областях, например в компьютерных играх для нахождения пути персонажей или в GPS-навигаторах.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Иммунитет от хамства: как реагировать на грубость Иммунитет от хамства: как реагировать на грубость

Как защититься от хамства, не опускаясь до него?

Psychologies
Милош Бикович: «Если ты сам себя не удивляешь, ты уже ни кого не удивишь» Милош Бикович: «Если ты сам себя не удивляешь, ты уже ни кого не удивишь»

Актер Милош Бикович — о ностальгии и «ярмарке тщеславия»

VOICE
10 фильмов о фигурном катании: от драмы Крыжовникова до сериала про копию Тутберидзе 10 фильмов о фигурном катании: от драмы Крыжовникова до сериала про копию Тутберидзе

Фильмы о фигурном катании с неожиданными сюжетами

Forbes
«Лучше всего за людей говорит то, что они делают» «Лучше всего за людей говорит то, что они делают»

Тихон Жизневский славы не ищет, а к своей популярности относится с иронией

OK!
«Один на один с малышом»: как общественное осуждение разлучало соло-матерей с детьми «Один на один с малышом»: как общественное осуждение разлучало соло-матерей с детьми

Отрывок из «Книги украденных детей» Джуди Кристи и Лизы Уингейт

Forbes
Плюсы минуса Плюсы минуса

Варианты отдыха для тех, кто не хочет сидеть на месте

Men Today
Машины времени Машины времени

11 лучших автомобилей российского рынка 2023 года

Men Today
Рубен Ениколопов: «В вопросах на миллиарды долларов нельзя консультироваться с ChatGPT» Рубен Ениколопов: «В вопросах на миллиарды долларов нельзя консультироваться с ChatGPT»

Рубен Ениколопов: сможет ли Россия в одиночку совершить технологический рывок

РБК
Софт-минимализм Софт-минимализм

Квартира, которая подкупает своим спокойствием и простотой

Идеи Вашего Дома
Точки роста Точки роста

В 2023 году особенно бурно росли фьючерсы на продовольствие

Монокль
Точка и шар. Что может быть общего между ними? Точка и шар. Что может быть общего между ними?

Что, если взглянуть на квантовые точки с новой точки зрения?

Наука и жизнь
От Сервантеса до Эль Греко: каким был «золотой век» испанской культуры От Сервантеса до Эль Греко: каким был «золотой век» испанской культуры

Что такое «золотой век» испанской живописи

СНОБ
А вы испытывали осознанные сны? В будущем маска для сна позволит контролировать сновидения! А вы испытывали осознанные сны? В будущем маска для сна позволит контролировать сновидения!

Головной убор «Halo» сможет вызывать состояние осознанного сна

ТехИнсайдер
От Первой Логистической войны до «цепочек» XXI века От Первой Логистической войны до «цепочек» XXI века

Роль путей сообщения в истории страны требует существенной дооценки

Знание – сила
План Б по-американски План Б по-американски

Как Брэд Питт стал последней голливудской звездой

Weekend
Любви конец: как понять, что отношения подошли к логическому завершению Любви конец: как понять, что отношения подошли к логическому завершению

Как понять, что союз на грани разрыва? И можно ли избежать такого конца?

Psychologies
Александра Ребенок Александра Ребенок

Александра Ребенок берется за очень странные дела в сериале «Сны Алисы»

Собака.ru
Женя Кривцова: «Там, где страшно, всегда офигенный результат!» Женя Кривцова: «Там, где страшно, всегда офигенный результат!»

Блогер Женя Кривцова о том, как избавиться от всех пагубных привычек

ЖАРА Magazine
Евгений Колбин: «Мы построили бизнес-процессы вокруг клиента» Евгений Колбин: «Мы построили бизнес-процессы вокруг клиента»

Евгений Колбин рассказал о том, как развиваются облака в России

РБК
Это вам не лыжи! Это другое… Это вам не лыжи! Это другое…

Сноубординг – один из самых популярных видов зимнего спорта

Зеркало Мира
Фермерский продукт в законе Фермерский продукт в законе

Минсельхоз поддержал законодательное закрепление понятия фермерского продукта

Агроинвестор
Сбитый гонщик Сбитый гонщик

«Феррари»: разочаровывающий долгострой Майкла Манна

Weekend
Фильм начинается Фильм начинается

Небольшая студия с интерьером в стиле «Криминального чтива»

Идеи Вашего Дома
Сделаю завтра: почему мы нарушаем дедлайны и как с этим покончить Сделаю завтра: почему мы нарушаем дедлайны и как с этим покончить

Почему многие люди — независимо от силы воли — откладывают дела, срывают сроки

РБК
Можно ли купить рождения и как вернуть многодетность Можно ли купить рождения и как вернуть многодетность

Способны ли ограничение или запрет абортов повысить рождаемость

Монокль
Пример для подражания Пример для подражания

Об оригиналах, подделках и отличиях вдохновения от заимствования в искусстве

Grazia
Творец Творец

«Копия». Серия рассказов Саши Николаенко

Grazia
Вениамин Семёнов-Тян-Шанский и причуды топонимики Вениамин Семёнов-Тян-Шанский и причуды топонимики

О жизни и вкладе выдающегося географа В. П. Семенова-Тян-Шанского

Знание – сила
Раскрыть себя на почве быта Раскрыть себя на почве быта

Что нравится делать по дому лично тебе?

Лиза
А мне летать охота: как стать бортпроводником А мне летать охота: как стать бортпроводником

Плюсы и минусы работы бортпроводником

ТехИнсайдер
Открыть в приложении