О том, как модели искусственного интеллекта «выходят за флажки»

МонокльHi-Tech

Когда модель превзойдет алгоритмы

О том, как модели искусственного интеллекта «выходят за флажки» написанных для них инструкций, «Моноклю» рассказал генеральный директор корпорации СОРМ Сергей Большаков

Наталья Быкова

Фото: из личного архива Сергея Большакова

Сергей, что представляют собой самые прогрессивные на сегодня модели искусственного интеллекта, из чего они состоят?

— Начнем с того, что любая модель искусственного интеллекта — это алгоритмы, способные самообучаться. Все они, даже самые прогрессивные на сегодня, представляют собой пока еще очень примитивный аналог человеческого мозга, их работа завязана на определенные математические инструкции, которые выполняет техника. В процессе эксплуатации алгоритмы могут корректироваться или дополняться новыми инструкциями, что происходит не само по себе, а с участием людей — разработчиков, аналитиков данных, — которые профессионально занимаются выявлением несовершенств в моделях искусственного интеллекта. На каждом этапе пересмотра модели выбираются те математические методы, которые дают наименьшие погрешности. Обычно точность алгоритмов для решения конкретных задач составляет более 50 процентов, эффективными считаются те из них, точность которых составляет более 95 процентов. Если удается создать алгоритм с 99-процентной точностью, разумеется, его сразу же интегрируют в модель. Это непрерывная работа, и чем больше умных людей в нее вовлечено, тем лучше будут результаты.

— Опасения и страхи общества, в том числе профессионального сообщества из сферы IT, связаны с гипотетическим выходом ИИ из-под контроля. На каком этапе разработчики, аналитики данных теряют возможность контролировать свою модель искусственного интеллекта?

— Скорее всего, это может произойти на любом этапе. Вот, например, поиск «Яндекса» построен на алгоритмах искусственного интеллекта. В них заложены некие метрики, на основе которых выстраивается система ранжирования в поисковых запросах. Были известны случаи, когда на претензии в необоснованном занижении ссылок профильные специалисты компании отвечали, что сами не понимают, почему это так сработало. То есть это сейчас уже реально, что сами разработчики могут не знать, почему система искусственного интеллекта приняла определенное решение, когда по написанной для нее математической инструкции она должна была действовать иначе.

Конечно, это может быть и ошибка исходного алгоритма, которую нужно исправлять, а может, модель уже сама начала думать как человек — порой интуитивно и субъективно. Хотя, на мой взгляд, до этого еще далеко, пройдет еще несколько десятков лет, прежде чем алгоритмы будут усложнены настолько, что смогут имитировать работу человеческого мозга, то есть принимать решения, опираясь на свой предыдущий опыт и построенную на его основе проекцию на будущее.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Наш паровоз вперед летит Наш паровоз вперед летит

Одна из новинок проката — фильм режиссера Андрея Волгина «Красный шелк»

Монокль
Стеклянный потолок: какие вызовы стоят перед женщинами в руководстве и бизнесе Стеклянный потолок: какие вызовы стоят перед женщинами в руководстве и бизнесе

С какими трудностями сегодня сталкиваются предпринимательницы и руководительницы

Inc.
Беспределы роста. Для избранных? Беспределы роста. Для избранных?

Как будет развиваться глобальная энергетика в ближайшую четверть века

Монокль
Почему не стоит судить о размере смартфона по диагонали его экрана Почему не стоит судить о размере смартфона по диагонали его экрана

Диагональ экрана смартфона ничего не говорит о его реальных размерах

CHIP
Время спать Время спать

Хотите впасть в спячку до весны? Теоретически для этого нет никаких препятствий

ТехИнсайдер
Удивительно, но воды Тихого и Атлантического океана не смешиваются! И мы знаем, почему это происходит! Удивительно, но воды Тихого и Атлантического океана не смешиваются! И мы знаем, почему это происходит!

Почему иногда воды из разных рек или океанов не смешиваются?

ТехИнсайдер
Фермерский продукт в законе Фермерский продукт в законе

Минсельхоз поддержал законодательное закрепление понятия фермерского продукта

Агроинвестор
Законы взаимного притяжения: 4 вопроса юнгианскому аналитику о выборе партнера Законы взаимного притяжения: 4 вопроса юнгианскому аналитику о выборе партнера

Почему некоторые люди притягивают настолько сильно, что становятся партнерами?

Psychologies
Отраслевая связка: зачем в Подмосковье открыли новое производство кабелей Отраслевая связка: зачем в Подмосковье открыли новое производство кабелей

Разговор с Павлом Моряковым об импортозамещении и перспективах развития бизнеса

СНОБ
Дропперы малолетние Дропперы малолетние

Активное вовлечение подростков в мошеннические схемы вынуждает менять закон

Деньги
Правила безопасности для сердца Правила безопасности для сердца

Что повышает риск развития хронической сердечной недостаточности

Здоровье
Дух места Дух места

Новая жизнь в старой московской квартире

SALON-Interior
Усечённое древо Усечённое древо

Для династии Птолемеев браки между братьями и сёстрами были обычным делом

Дилетант
Малопонятный государственный муж Малопонятный государственный муж

Портреты изображают Победоносцева человеком сухим и строгим, без тени улыбки

Дилетант
Парк развлечений Парк развлечений

Александр Борода том, как устроен один из лучших частных музеев столицы

Robb Report
Крадущийся тигр, возбудившийся дракон Крадущийся тигр, возбудившийся дракон

Рассказываем, какую роль играет секс в Японии и Китае

СНОБ
От «розовых очков» до стабильности: ученые определили этапы в карьере, через которые проходят все профессионалы От «розовых очков» до стабильности: ученые определили этапы в карьере, через которые проходят все профессионалы

Через какие эмоциональные этапы проходят все высококлассные профессионалы

ТехИнсайдер
Бережный уход Бережный уход

Попробуем вместе построить маршрут к новому, идеальному месту работы

Лиза
«Нашла мать в луже крови»: как был устроен рынок подпольных абортов в разных странах «Нашла мать в луже крови»: как был устроен рынок подпольных абортов в разных странах

К чему может привести запрет абортов? Исторические примеры

Forbes
Игра в молчанку Игра в молчанку

Почему мужчины замыкаются в себе после ссоры и как разрешить конфликт

Лиза
Реальность под знаком рыбы Реальность под знаком рыбы

Она — рыбка-кормилица — без всякого преувеличения, поистине Золотая рыбка

Знание – сила
Как кибернетические протезы делают общество лучше и справедливее Как кибернетические протезы делают общество лучше и справедливее

Как технологии делают жизнь людей проще и комфортнее

ФедералПресс
Создать нельзя заимствовать Создать нельзя заимствовать

Что такое для современной моды заимствования: зло или просто рабочий инструмент?

Grazia
Россияне пока не догоняют Россияне пока не догоняют

Как сравнить уровень жизни в разных странах?

Монокль
«75% гостей — женщины»: ресторатор Ксения Механик о гастроиндустрии и стереотипах «75% гостей — женщины»: ресторатор Ксения Механик о гастроиндустрии и стереотипах

Ресторатор Ксения Механик — почему гендерные предрассудки мешают всем

Forbes
Впереди — Москва: как устроена столичная система инноваций Впереди — Москва: как устроена столичная система инноваций

Москва начала создавать комплексную систему поддержки инновационного бизнеса

РБК
Защита и опора Защита и опора

Инженерный гений природы развернулся во всю свою мощь

Наука и жизнь
Дети у экрана Дети у экрана

Как экранное время влияет на развитие и здоровье детей?

Здоровье
Правильный подарок Правильный подарок

Нумерология поможет не ошибиться с выбором подарка и найти идеальный презент

Лиза
И как это возможно? Прыщи – от бульона, отеки – от молока И как это возможно? Прыщи – от бульона, отеки – от молока

Иногда даже самые полезные на первый взгляд продукты могут оказаться вредными

Лиза
Открыть в приложении