О том, как модели искусственного интеллекта «выходят за флажки»

МонокльHi-Tech

Когда модель превзойдет алгоритмы

О том, как модели искусственного интеллекта «выходят за флажки» написанных для них инструкций, «Моноклю» рассказал генеральный директор корпорации СОРМ Сергей Большаков

Наталья Быкова

Фото: из личного архива Сергея Большакова

Сергей, что представляют собой самые прогрессивные на сегодня модели искусственного интеллекта, из чего они состоят?

— Начнем с того, что любая модель искусственного интеллекта — это алгоритмы, способные самообучаться. Все они, даже самые прогрессивные на сегодня, представляют собой пока еще очень примитивный аналог человеческого мозга, их работа завязана на определенные математические инструкции, которые выполняет техника. В процессе эксплуатации алгоритмы могут корректироваться или дополняться новыми инструкциями, что происходит не само по себе, а с участием людей — разработчиков, аналитиков данных, — которые профессионально занимаются выявлением несовершенств в моделях искусственного интеллекта. На каждом этапе пересмотра модели выбираются те математические методы, которые дают наименьшие погрешности. Обычно точность алгоритмов для решения конкретных задач составляет более 50 процентов, эффективными считаются те из них, точность которых составляет более 95 процентов. Если удается создать алгоритм с 99-процентной точностью, разумеется, его сразу же интегрируют в модель. Это непрерывная работа, и чем больше умных людей в нее вовлечено, тем лучше будут результаты.

— Опасения и страхи общества, в том числе профессионального сообщества из сферы IT, связаны с гипотетическим выходом ИИ из-под контроля. На каком этапе разработчики, аналитики данных теряют возможность контролировать свою модель искусственного интеллекта?

— Скорее всего, это может произойти на любом этапе. Вот, например, поиск «Яндекса» построен на алгоритмах искусственного интеллекта. В них заложены некие метрики, на основе которых выстраивается система ранжирования в поисковых запросах. Были известны случаи, когда на претензии в необоснованном занижении ссылок профильные специалисты компании отвечали, что сами не понимают, почему это так сработало. То есть это сейчас уже реально, что сами разработчики могут не знать, почему система искусственного интеллекта приняла определенное решение, когда по написанной для нее математической инструкции она должна была действовать иначе.

Конечно, это может быть и ошибка исходного алгоритма, которую нужно исправлять, а может, модель уже сама начала думать как человек — порой интуитивно и субъективно. Хотя, на мой взгляд, до этого еще далеко, пройдет еще несколько десятков лет, прежде чем алгоритмы будут усложнены настолько, что смогут имитировать работу человеческого мозга, то есть принимать решения, опираясь на свой предыдущий опыт и построенную на его основе проекцию на будущее.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Почему ИИ не знает, что у кошки четыре ноги Почему ИИ не знает, что у кошки четыре ноги

Специалист в области разработки ПО — о том, для чего нам нужен и не нужен ИИ

Монокль
Миссис Харрис едет в Нью-Йорк Миссис Харрис едет в Нью-Йорк

«Миссис Харрис едет в Нью-Йорк»: винтажная комедия, греющая душу

Правила жизни
Ярмарка тщеславия Ярмарка тщеславия

В детстве тебе говорили, что хвастать нехорошо, но как же всё-таки правильно?

VOICE
«Бытовой расизм в России существует, и это огромная проблема» «Бытовой расизм в России существует, и это огромная проблема»

Элла Манжеева о своем фильме «Белой дороги!» и калмыцком кинематографе

Weekend
Лариса Голубкина: «Я очень много молчу. Вот вы уйдете, я ни с кем не заговорю» Лариса Голубкина: «Я очень много молчу. Вот вы уйдете, я ни с кем не заговорю»

«Я больше 30 лет никогда ни с кем не обнималась. А это очень хорошая штука»

Караван историй
Половина средневековых скандинавов пострадала от кариеса Половина средневековых скандинавов пострадала от кариеса

Кариес — проблема не только современных людей

N+1
Елена Скрынник: «Сильному духу все подвластно» Елена Скрынник: «Сильному духу все подвластно»

Елена Скрынник о ее карьере, детях и о настоящем и будущем нашей страны

Караван историй
Курьера-инвалида уволили после жалобы клиентки: почему люди так боятся тех, кто на них не похож Курьера-инвалида уволили после жалобы клиентки: почему люди так боятся тех, кто на них не похож

Почему иногда мы так сильно хотим избавиться от тех, кто не похож на нас?

Psychologies
Властелин цифровой реки Властелин цифровой реки

.В чем секрет успеха Джеффа Безоса

Деньги
Крабле-бумс Крабле-бумс

Вся правда о крабовых палочках

Лиза
Итоги-2023 Итоги-2023

Уходящий год был насыщен событиями, и вот некоторые из них

Агроинвестор
Стеклянный потолок: какие вызовы стоят перед женщинами в руководстве и бизнесе Стеклянный потолок: какие вызовы стоят перед женщинами в руководстве и бизнесе

С какими трудностями сегодня сталкиваются предпринимательницы и руководительницы

Inc.
Камин в квартире — это реально? Камин в квартире — это реально?

Какие есть типы каминов, которые можно установить в обычных квартирах

CHIP
Духи, шаманы и амулеты: любопытные факты о мифологии северных народов России Духи, шаманы и амулеты: любопытные факты о мифологии северных народов России

Боги-демиурги, злые духи, почитаемые животные: мифология Севера России

ТехИнсайдер
Упразднение города Н. Упразднение города Н.

Красный командир Яков Тряпицын воплотил фантасмагорию великого сатирика в жизнь

Дилетант
Личные границы: когда оборона не нужна Личные границы: когда оборона не нужна

Стоит ли охранять личные границы от близких людей?

Psychologies
От «золотой клетки» к art of living От «золотой клетки» к art of living

Как изменились ценности покупателя элитной недвижимости за 30 лет

РБК
Мозг новорожденных людей развит не хуже, чем у других приматов Мозг новорожденных людей развит не хуже, чем у других приматов

Мозг новорожденных людей развит не хуже, чем мозг других приматов

ТехИнсайдер
Смелый акцент Смелый акцент

Минималистичный интерьер, сочетающий современный дизайн и авторские решения

SALON-Interior
Инструкция для скромниц Инструкция для скромниц

О том, как без стеснения обсуждать интимные фантазии с партнером

Лиза
В 1952 году на Лондон опустился «великий смог» и убил 12 000 человек: что это было В 1952 году на Лондон опустился «великий смог» и убил 12 000 человек: что это было

Знаете ли вы, что «великий смог» в Лондоне убил 12 000 человек?

ТехИнсайдер
Лана Дель Рей, Blur, Дельфин: лучшие музыкальные альбомы 2023 года Лана Дель Рей, Blur, Дельфин: лучшие музыкальные альбомы 2023 года

2023 год стал важной вехой в истории современной музыки

Forbes
История потерянной надежды История потерянной надежды

«Время "Спартака"»: документальный сериал о футболе и стране

Weekend
Новые отношения Новые отношения

После развода кажется, что новый брак почти невозможен, да и нужен ли?

Новый очаг
Точка и шар. Что может быть общего между ними? Точка и шар. Что может быть общего между ними?

Что, если взглянуть на квантовые точки с новой точки зрения?

Наука и жизнь
... а вместо сердца пламенный... ротор! ... а вместо сердца пламенный... ротор!

Почему роторным двигателям не удалось завоевать мир?

Зеркало Мира
Кто стал прототипами главных героев «Слова пацана» Кто стал прототипами главных героев «Слова пацана»

Какими были настоящие «пацаны» из казанских ОПГ?

Maxim
Традиции русской мысли о развитии и пространстве Традиции русской мысли о развитии и пространстве

Почему для российской урбанистики важно понимать, что есть живое

Монокль
Кодекс постороннего Кодекс постороннего

Как Альбер Камю обнаружил, что жизнь не имеет смысла — и нашел, зачем стоит жить

Weekend
От жертвоприношений до подарков: как появились традиции празднования Нового года От жертвоприношений до подарков: как появились традиции празднования Нового года

Как складывались праздничные традиции и почему Новый год такой популярный

Forbes
Открыть в приложении