Государствам нужно ускориться в регулировании искусственного интеллекта

МонокльРепортаж

В битвах вокруг ИИ победят корпорации

Государствам нужно ускориться в регулировании искусственного интеллекта и признать, что ситуация критическая

Наталья Быкова

Стоян Васев

Что создают в OpenAI и стоит ли этого бояться? Об этом — в интервью с экспертом по междисциплинарным исследованиям и стратегической аналитике, бывшим топ-менеджером IBM, SGI и Cray Research Сергеем Кареловым.

— Самая обсуждаемая тема в свете событий с OpenAI, — обнаружение специалистами компании у своей модели новой когнитивной способности самостоятельно находить информацию, которой нет в ее базе данных. Поясните, пожалуйста, что это может быть за модель и как у нее получилось выйти за пределы знаний, сформированных на стадии ее обучения?

— Да, основная причина, из-за которой начался весь этот бардак, заключается в том, что был совершен прорыв в исследованиях в сторону сильного искусственного интеллекта. А поскольку условия соглашения Microsoft и OpenAI были таковы, что в случае приближения к подобным результатам все предыдущие соглашения должны пересматриваться, то фактически OpenAI получала право забрать у Microsoft последние рычаги управления. Чтобы избежать этого, была разыграна многосерийная интрига с увольнением, а потом возвращением Сэма Альтмана. В результате чего совет директоров был кардинально обновлен в пользу интересов Microsoft.

Что же касается прорыва, то здесь мы можем только строить предположения. Есть информация, что в главном сегодняшнем проекте компании под кодовым названием Q* (читается Q-Star) велись исследования по трем направлениям.

Первое — это как раз про способность модели не просто искать информацию во внешней базе данных, в том же интернете или корпоративных базах, но и целенаправленно формулировать вопросы. Это означает, что она не привязана на сто процентов к базам, на которых строилось ее обучение, — а это очень неординарный результат. Дело в том, что все модели создаются схожим образом: учатся по нескольку месяцев на огромных объемах информации, выстраивая свои матрицы весов, свои внутренние представления об этой информации. Далее с ними начинают работать аналитики, задают им вопросы, просят высказаться по определенной теме, а модели в ответ обращаются вот к этой сформированной на этапе обучения матрице и на этой основе формулируют ответ. То есть теоретически модель не может выйти за пределы того, чему научилась на этапе обучения.

Новым лингвоботам Claude-2 и Bing дали возможность прямого обращения в сеть, это, конечно, сильно расширило возможности подобных систем, но эти обращения совершались исключительно на базе тех запросов, которые писали лингвоботам люди. Например, если их спрашивали, какие были группировки североамериканских индейцев за год до начала Гражданской войны в США, то боты искали в сети информацию о группировках индейцев и Гражданской войне в США, не понимая сути вопроса.

А вот тот прорыв, о котором мы говорим, связан с принципиально новой способностью модели. Она начала искать ответы в сети на собственные содержательные вопросы, чтобы лучше разобраться в теме: к примеру, что лежало в основе разделения индейцев на группировки — идеология, борьба за территорию и так далее.

Второе направление, которое получило сильный прогресс, — это системы, подобные AlphaZero, обыгрывающей чемпионов в шахматы. Они работают по другим принципам, осуществляют поиск по деревьям Монте-Карло (эвристический алгоритм поиска для некоторых видов процессов принятия решений, в первую очередь тех, которые используются в программном обеспечении, играющем в настольные игры. — «Монокль»). Интеграция поиска траектории токена по дереву Монте-Карло (как в AlphaZero) с традиционными для больших языковых моделей матрицами весов может быть особенно эффективна в таких областях, как программирование и математика, где есть простой способ определить правильность. И это может объяснять утечки о прорывном улучшении в проекте Q* способностей решения математических задач.

Третье направление — это комбинация Q-обучения и алгоритма A*.

Алгоритм A* — это способ нахождения кратчайшего пути от одной точки до другой на карте или в сети. Представьте, что вы ищете самый быстрый маршрут из одного города в другой. Алгоритм A* проверяет разные пути, оценивая, насколько они близки к цели и сколько еще предстоит пройти. Он выбирает путь, который, по его оценке, будет самым коротким. Этот алгоритм очень эффективен и используется во многих областях, например в компьютерных играх для нахождения пути персонажей или в GPS-навигаторах.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Татьяна Лютаева: «Мне никогда не бывает скучно ни с собой, ни с окружающим миром» Татьяна Лютаева: «Мне никогда не бывает скучно ни с собой, ни с окружающим миром»

Подлинный триумф Татьяны Лютаевой состоялся на кинофестивале в Афинах

Караван историй
Кредиты становятся роскошью Кредиты становятся роскошью

Где агросектору брать деньги на ведение и развитие бизнеса

Агроинвестор
Станция «Динамо» Станция «Динамо»

Анекдоты про жен, отлынивающих от секса, пора переписывать

Добрые советы
Очень мутные дела Очень мутные дела

«Сны Алисы»: проблемы подростков в условиях паранормального русского Севера

Weekend
Milana Star: «Мой кумир — Майкл Джексон» Milana Star: «Мой кумир — Майкл Джексон»

Милане Star всего тринадцать лет, однако она может дать фору многим артистам

ЖАРА Magazine
Раскрыть себя на почве быта Раскрыть себя на почве быта

Что нравится делать по дому лично тебе?

Лиза
«Мы сделали особый акцент на первичном рынке» «Мы сделали особый акцент на первичном рынке»

О новых рыночных реалиях, новых интересах и требованиях инвесторов

Деньги
В Германии нашли разделанных неандертальцами прямобивневых слонов В Германии нашли разделанных неандертальцами прямобивневых слонов

Ученые нашли новые свидетельства поедания неандертальцами прямобивневых слонов

N+1
Корфы Корфы

Древний род Корфов оставил в российской истории заметный след

Дилетант
От империй Луны к серым пришельцам: развитие представлений о внеземной жизни От империй Луны к серым пришельцам: развитие представлений о внеземной жизни

Ночью люди смотрели на звезды и старались придумать видимому какое-то объяснение

Наука и техника
Федор Елютин: гвоздь программы Федор Елютин: гвоздь программы

История-терпение от человека, который уверен, что умеет видеть мир со стороны

Maxim
Дороги в России. Век восемнадцатый Дороги в России. Век восемнадцатый

Из чего и как сложилась сеть крупных сухопутных дорог в России

Знание – сила
Борис Порфирьев, Александр Широв: «Решить климатические проблемы в лоб невозможно» Борис Порфирьев, Александр Широв: «Решить климатические проблемы в лоб невозможно»

Как и кем формируется глобальная климатическая повестка

Монокль
Стояние в середине взрыва Стояние в середине взрыва

За год Александр Плотников посадил вишневый сад и поставил четыре спектакля

СНОБ
Миссия — поднять настроение: 10+ лучших новогодних комедий Миссия — поднять настроение: 10+ лучших новогодних комедий

Собрали для тебя восхитительные рождественские юмористические фильмы

VOICE
Образование в России: «Хороший специалист всегда найдет себе применение» Образование в России: «Хороший специалист всегда найдет себе применение»

Какая сейчас идет нагрузка на школьников и как молодым людям найти призвание

ФедералПресс
Кольская сверхглубокая – мифы и реальность, или «Совы не то, чем они кажутся» Кольская сверхглубокая – мифы и реальность, или «Совы не то, чем они кажутся»

История самой глубокой в мире скважины – «Кольской сверхглубокой»

Зеркало Мира
Ужасная красавица Ужасная красавица

Плотный облачный покров долго скрывал от людей настоящий характер этой планеты

ТехИнсайдер
Машины времени Машины времени

11 лучших автомобилей российского рынка 2023 года

Men Today
Хореограф Кацура Кан: Не ведитесь на европейское чувство красоты Хореограф Кацура Кан: Не ведитесь на европейское чувство красоты

Интервью с японским хореографом и мастером буто Кацурой Кан

СНОБ
Атмосферная старина Атмосферная старина

Аутентичный, атмосферный интерьер, где много воздуха и архитектурных конструкций

Идеи Вашего Дома
Он на свете всех Милей Он на свете всех Милей

На президентских выборах в Аргентине победил Хавьер Милей

Монокль
Магия магния Магия магния

Орехи, шоколад и еще 8 продуктов, содержащих магний в большом количестве

Лиза
ChatGPT, лунная миссия и мышата от двух отцов ChatGPT, лунная миссия и мышата от двух отцов

Редакция Nature назвала героев из мира науки 2023 года

N+1
В центре мира В центре мира

Как ощущается Венеция и есть ли в венецианских буднях время для праздника

Seasons of life
Самый странный мотив убийства: история Даны Сью Грей, помешанной на шоппинге Самый странный мотив убийства: история Даны Сью Грей, помешанной на шоппинге

Началось всё 16 февраля 1994 года: в этот день было найдено тело Нормы Дэвис

VOICE
Иван Охлобыстин: «Янковский был дедом фанатичным, а я обычный дед» Иван Охлобыстин: «Янковский был дедом фанатичным, а я обычный дед»

В рождении и воспитании детей есть нечто высшее

Караван историй
Татьяна Столяр — о коллекционировании, терапии и умении говорить «нет» Татьяна Столяр — о коллекционировании, терапии и умении говорить «нет»

Коллекционер Татьяна Столяр — о ее взаимоотношения с современным искусством

РБК
Врач, который всегда был не согласен с коллегами Врач, который всегда был не согласен с коллегами

Макс фон Петтенкофер — основатель первого в Европе Института гигиены в Мюнхене

Знание – сила
Отчаянный газовый покер Отчаянный газовый покер

На рынке СПГ есть только два игрока, которые имеют достаточные амбиции

Монокль
Открыть в приложении