Государствам нужно ускориться в регулировании искусственного интеллекта

МонокльРепортаж

В битвах вокруг ИИ победят корпорации

Государствам нужно ускориться в регулировании искусственного интеллекта и признать, что ситуация критическая

Наталья Быкова

Стоян Васев

Что создают в OpenAI и стоит ли этого бояться? Об этом — в интервью с экспертом по междисциплинарным исследованиям и стратегической аналитике, бывшим топ-менеджером IBM, SGI и Cray Research Сергеем Кареловым.

— Самая обсуждаемая тема в свете событий с OpenAI, — обнаружение специалистами компании у своей модели новой когнитивной способности самостоятельно находить информацию, которой нет в ее базе данных. Поясните, пожалуйста, что это может быть за модель и как у нее получилось выйти за пределы знаний, сформированных на стадии ее обучения?

— Да, основная причина, из-за которой начался весь этот бардак, заключается в том, что был совершен прорыв в исследованиях в сторону сильного искусственного интеллекта. А поскольку условия соглашения Microsoft и OpenAI были таковы, что в случае приближения к подобным результатам все предыдущие соглашения должны пересматриваться, то фактически OpenAI получала право забрать у Microsoft последние рычаги управления. Чтобы избежать этого, была разыграна многосерийная интрига с увольнением, а потом возвращением Сэма Альтмана. В результате чего совет директоров был кардинально обновлен в пользу интересов Microsoft.

Что же касается прорыва, то здесь мы можем только строить предположения. Есть информация, что в главном сегодняшнем проекте компании под кодовым названием Q* (читается Q-Star) велись исследования по трем направлениям.

Первое — это как раз про способность модели не просто искать информацию во внешней базе данных, в том же интернете или корпоративных базах, но и целенаправленно формулировать вопросы. Это означает, что она не привязана на сто процентов к базам, на которых строилось ее обучение, — а это очень неординарный результат. Дело в том, что все модели создаются схожим образом: учатся по нескольку месяцев на огромных объемах информации, выстраивая свои матрицы весов, свои внутренние представления об этой информации. Далее с ними начинают работать аналитики, задают им вопросы, просят высказаться по определенной теме, а модели в ответ обращаются вот к этой сформированной на этапе обучения матрице и на этой основе формулируют ответ. То есть теоретически модель не может выйти за пределы того, чему научилась на этапе обучения.

Новым лингвоботам Claude-2 и Bing дали возможность прямого обращения в сеть, это, конечно, сильно расширило возможности подобных систем, но эти обращения совершались исключительно на базе тех запросов, которые писали лингвоботам люди. Например, если их спрашивали, какие были группировки североамериканских индейцев за год до начала Гражданской войны в США, то боты искали в сети информацию о группировках индейцев и Гражданской войне в США, не понимая сути вопроса.

А вот тот прорыв, о котором мы говорим, связан с принципиально новой способностью модели. Она начала искать ответы в сети на собственные содержательные вопросы, чтобы лучше разобраться в теме: к примеру, что лежало в основе разделения индейцев на группировки — идеология, борьба за территорию и так далее.

Второе направление, которое получило сильный прогресс, — это системы, подобные AlphaZero, обыгрывающей чемпионов в шахматы. Они работают по другим принципам, осуществляют поиск по деревьям Монте-Карло (эвристический алгоритм поиска для некоторых видов процессов принятия решений, в первую очередь тех, которые используются в программном обеспечении, играющем в настольные игры. — «Монокль»). Интеграция поиска траектории токена по дереву Монте-Карло (как в AlphaZero) с традиционными для больших языковых моделей матрицами весов может быть особенно эффективна в таких областях, как программирование и математика, где есть простой способ определить правильность. И это может объяснять утечки о прорывном улучшении в проекте Q* способностей решения математических задач.

Третье направление — это комбинация Q-обучения и алгоритма A*.

Алгоритм A* — это способ нахождения кратчайшего пути от одной точки до другой на карте или в сети. Представьте, что вы ищете самый быстрый маршрут из одного города в другой. Алгоритм A* проверяет разные пути, оценивая, насколько они близки к цели и сколько еще предстоит пройти. Он выбирает путь, который, по его оценке, будет самым коротким. Этот алгоритм очень эффективен и используется во многих областях, например в компьютерных играх для нахождения пути персонажей или в GPS-навигаторах.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

10 заблуждений о деменции, которые могут испортить жизнь вашему близкому или вам самим 10 заблуждений о деменции, которые могут испортить жизнь вашему близкому или вам самим

Основные распространенные заблуждения о деменции

Psychologies
Тейлор Свифт стала человеком года по версии Time: почему одни люди ее боготворят, а другие — на дух не переносят Тейлор Свифт стала человеком года по версии Time: почему одни люди ее боготворят, а другие — на дух не переносят

Тейлор Свифт: за что её любят и за что ненавидят?

Psychologies
Еще раз о числе π и о неразрешимой проблеме «квадратуры круга» Еще раз о числе π и о неразрешимой проблеме «квадратуры круга»

Два феномена – число π и египетские пирамиды – связаны невидимыми нитями

Зеркало Мира
Александра Ребенок Александра Ребенок

Александра Ребенок берется за очень странные дела в сериале «Сны Алисы»

Собака.ru
«Мы сделали особый акцент на первичном рынке» «Мы сделали особый акцент на первичном рынке»

О новых рыночных реалиях, новых интересах и требованиях инвесторов

Деньги
Экономика в двух измерениях Экономика в двух измерениях

После открытия графена обнаружены более десяти веществ со схожей структурой

Наука
Великая реквизиция Великая реквизиция

Как автомобильные марки не ушли, а остались в Первую мировую

Автопилот
Фермерский продукт в законе Фермерский продукт в законе

Минсельхоз поддержал законодательное закрепление понятия фермерского продукта

Агроинвестор
Где начинались эпидемии чумы, поражавшие античный мир Где начинались эпидемии чумы, поражавшие античный мир

Был ли Египет источником распространения патогенов в Средиземноморье?

ТехИнсайдер
Жизнь как путь: дороги Николая Гарина-Михайловского Жизнь как путь: дороги Николая Гарина-Михайловского

Николай Гарин-Михайловский: романтик, влюбленный в железные дороги

Знание – сила
Корфы Корфы

Древний род Корфов оставил в российской истории заметный след

Дилетант
IBM разработала квантовый чип на 1000 кубитов IBM разработала квантовый чип на 1000 кубитов

IBM представила чип Condor, который содержит 1121 сверхпроводящий кубит

ТехИнсайдер
Физики обжали скирмионную струну хопфионным кольцом Физики обжали скирмионную струну хопфионным кольцом

Физики пронаблюдали образование хопфионных колец вокруг скирмионных струн

N+1
Почему до сих пор не удалось найти дно у Бездонного озера — главной загадки Подмосковья? Почему до сих пор не удалось найти дно у Бездонного озера — главной загадки Подмосковья?

Вот уже почти 200 лет русские исследователи пытаются отыскать в Бездонном... дно

ТехИнсайдер
Пришло время платить Пришло время платить

Какие налоги надо платить и как проверить, есть ли долги

Лиза
Стесняюсь спросить: главные мифы о лечении зубов Стесняюсь спросить: главные мифы о лечении зубов

Вместе с экспертом разбираем самые популярные мифы об уходе за зубами

Правила жизни
Тонкая допросная линия Тонкая допросная линия

«Голубиный туннель»: фильм Эррола Морриса о Джоне Ле Карре

Weekend
Какой была жизнь в гигантских дирижаблях довоенной эпохи Какой была жизнь в гигантских дирижаблях довоенной эпохи

Путешествие на "цеппелине" напоминало круиз на морском лайнере

ТехИнсайдер
Интроекты XXI века: почему вы живете не своей жизнью Интроекты XXI века: почему вы живете не своей жизнью

«С моей жизнью что-то не так», «мне все не нравится» — знакомы ли вам эти фразы?

Psychologies
Правильный счет: можно ли доверять скидкам в «черную пятницу»? Правильный счет: можно ли доверять скидкам в «черную пятницу»?

Какие маркетинговые приемы работают в «черную пятницу»

Правила жизни
10 неожиданных методов применения молока в быту, которые вам точно захочется повторить 10 неожиданных методов применения молока в быту, которые вам точно захочется повторить

Этот вкусный напиток можно использовать не только в кулинарии! Не верите?

ТехИнсайдер
Созависимость и контрзависимость: в чем сходства и различия Созависимость и контрзависимость: в чем сходства и различия

Почему кто-то боится даже намека на близость, а кто-то сливается с партнером?

Psychologies
Про напиток из цикория Про напиток из цикория

Есть время и место для кофе и есть время и место для цикория

Наука и жизнь
Утренняя напасть: как избавиться от отеков лица Утренняя напасть: как избавиться от отеков лица

Почему возникают утренник отеки лица и как предотвратить их появление?

ТехИнсайдер
Аспирин в тарелке Аспирин в тарелке

Оказывается, многие продукты содержат аспирин. И добавляет его туда сама природа

Здоровье
Полина Лазарева: «Найду любой повод, чтобы пострадать» Полина Лазарева: «Найду любой повод, чтобы пострадать»

Я стою на ногах только благодаря тому, что у меня есть на кого опереться

Караван историй
Издать любой ценой Издать любой ценой

У разных исторических периодов – свои «главные» энциклопедии

Вокруг света
Хорошие сериалы про женщин-следователей, от которых захватывает дух Хорошие сериалы про женщин-следователей, от которых захватывает дух

Детективные сериалы, которые демонстрируют лучшие качества женщин

VOICE
Осторожно, мода! Осторожно, мода!

Овердрессинг под запретом. Как научиться одеваться стильно и уместно

Лиза
Девки не сидели в теремах: какой была интимная жизнь на Руси Девки не сидели в теремах: какой была интимная жизнь на Руси

Как на самом деле жили женщины в допетровскую эпоху?

Forbes
Открыть в приложении