О том, как модели искусственного интеллекта «выходят за флажки»

МонокльHi-Tech

Когда модель превзойдет алгоритмы

О том, как модели искусственного интеллекта «выходят за флажки» написанных для них инструкций, «Моноклю» рассказал генеральный директор корпорации СОРМ Сергей Большаков

Наталья Быкова

Фото: из личного архива Сергея Большакова

Сергей, что представляют собой самые прогрессивные на сегодня модели искусственного интеллекта, из чего они состоят?

— Начнем с того, что любая модель искусственного интеллекта — это алгоритмы, способные самообучаться. Все они, даже самые прогрессивные на сегодня, представляют собой пока еще очень примитивный аналог человеческого мозга, их работа завязана на определенные математические инструкции, которые выполняет техника. В процессе эксплуатации алгоритмы могут корректироваться или дополняться новыми инструкциями, что происходит не само по себе, а с участием людей — разработчиков, аналитиков данных, — которые профессионально занимаются выявлением несовершенств в моделях искусственного интеллекта. На каждом этапе пересмотра модели выбираются те математические методы, которые дают наименьшие погрешности. Обычно точность алгоритмов для решения конкретных задач составляет более 50 процентов, эффективными считаются те из них, точность которых составляет более 95 процентов. Если удается создать алгоритм с 99-процентной точностью, разумеется, его сразу же интегрируют в модель. Это непрерывная работа, и чем больше умных людей в нее вовлечено, тем лучше будут результаты.

— Опасения и страхи общества, в том числе профессионального сообщества из сферы IT, связаны с гипотетическим выходом ИИ из-под контроля. На каком этапе разработчики, аналитики данных теряют возможность контролировать свою модель искусственного интеллекта?

— Скорее всего, это может произойти на любом этапе. Вот, например, поиск «Яндекса» построен на алгоритмах искусственного интеллекта. В них заложены некие метрики, на основе которых выстраивается система ранжирования в поисковых запросах. Были известны случаи, когда на претензии в необоснованном занижении ссылок профильные специалисты компании отвечали, что сами не понимают, почему это так сработало. То есть это сейчас уже реально, что сами разработчики могут не знать, почему система искусственного интеллекта приняла определенное решение, когда по написанной для нее математической инструкции она должна была действовать иначе.

Конечно, это может быть и ошибка исходного алгоритма, которую нужно исправлять, а может, модель уже сама начала думать как человек — порой интуитивно и субъективно. Хотя, на мой взгляд, до этого еще далеко, пройдет еще несколько десятков лет, прежде чем алгоритмы будут усложнены настолько, что смогут имитировать работу человеческого мозга, то есть принимать решения, опираясь на свой предыдущий опыт и построенную на его основе проекцию на будущее.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Когда наши поезда поедут с высокой скоростью Когда наши поезда поедут с высокой скоростью

Российский скоростной поезд: как создают технику для высокоскоростной магистрали

Монокль
Разум толпы Разум толпы

Усредненный прогноз группы может быть более точным, чем суждения специалистов

ТехИнсайдер
Помогут ли нейросети улучшить российскую судебную систему Помогут ли нейросети улучшить российскую судебную систему

Может ли ИИ использоваться в вынесении судебных решений?

ФедералПресс
«Городок» «Городок»

Юмористическое шоу «Городок», выходило с 1993 по 2012 г.

Правила жизни
Клара Лучко. Настоящая казачка Клара Лучко. Настоящая казачка

По-настоящему в моей жизни было двое мужчин: первый супруг и нынешний

Караван историй
У берегов Израиля нашли деревянные артефакты эпох неолита и халколита У берегов Израиля нашли деревянные артефакты эпох неолита и халколита

Израильские археологи исследовали 16 древних артефактов, изготовленных из дерева

N+1
Как снять с сардельки кожуру, чтобы от нее не осталась половина? А зачем ее вообще чистить? Ведь оболочка натуральная Как снять с сардельки кожуру, чтобы от нее не осталась половина? А зачем ее вообще чистить? Ведь оболочка натуральная

Нужно ли чистить сардельки в натуральной оболочке?

ТехИнсайдер
Чем заменить куриные яйца в разных блюдах? Чем заменить куриные яйца в разных блюдах?

Если дома нет куриных яиц — это не повод отказываться от выпечки или сырников

Maxim
Бить или не бить Бить или не бить

Эксперимент, поставленный на аукционных торгах

Автопилот
Счастливы вместе Счастливы вместе

Свадьба Александра и Вики Петровых получилась грандиозной!

OK!
«Нам пришлось снять шляпу перед нашей субстанцией» «Нам пришлось снять шляпу перед нашей субстанцией»

Наверное, каждый задумывался, как из неживой материи однажды появилась живая

Наука
Российская память о Первой мировой войне: от раскола к консенсусу? Российская память о Первой мировой войне: от раскола к консенсусу?

Долгие десятилетия память о Первой мировой войне была на задворках истории

Знание – сила
Линия энергии Линия энергии

Минималистичный интерьер квартиры для молодой семьи с двумя детьми

SALON-Interior
Он на свете всех Милей Он на свете всех Милей

На президентских выборах в Аргентине победил Хавьер Милей

Монокль
Резерфорд и рождение экспериментальной ядерной физики Резерфорд и рождение экспериментальной ядерной физики

Первое искусственное превращение химических элементов

Наука и жизнь
Мочить в сатире Мочить в сатире

Сатирические издания всегда играли в советском обществе особую роль

Правила жизни
Где начинается насилие: 4 варианта взаимодействия с чужими личными границами Где начинается насилие: 4 варианта взаимодействия с чужими личными границами

Где кончается взаимодействие и начинается насилие и как это можно понять

Psychologies
Славянский клад! В Германии нашли сокровищницу с мечами и монетами бронзового века Славянский клад! В Германии нашли сокровищницу с мечами и монетами бронзового века

В Мекленбург-Передняя Померания археологи сделали ряд потрясающих находок

ТехИнсайдер
В банде только девушки В банде только девушки

«Контрабандистки»: корейское криминальное ретро с женским характером

Weekend
В центре мира В центре мира

Как ощущается Венеция и есть ли в венецианских буднях время для праздника

Seasons of life
IBM разработала квантовый чип на 1000 кубитов IBM разработала квантовый чип на 1000 кубитов

IBM представила чип Condor, который содержит 1121 сверхпроводящий кубит

ТехИнсайдер
Рацион стройности Рацион стройности

7 проверенных диетических тенденций 2023 года и 1 диета

Добрые советы
Опередивший время Опередивший время

Посадка «Бурана» — наивысший триумф советского космического проекта

Монокль
Как почистить клавиатуру от пыли и крошек: инструкция Как почистить клавиатуру от пыли и крошек: инструкция

Как правильно чистить клавиатуру в домашних условиях

ТехИнсайдер
Как удержать наступление по всему киберфронту Как удержать наступление по всему киберфронту

Обстановка увеличивает риски для российской информационной инфраструктуры

Монокль
10 фильмов о фигурном катании: от драмы Крыжовникова до сериала про копию Тутберидзе 10 фильмов о фигурном катании: от драмы Крыжовникова до сериала про копию Тутберидзе

Фильмы о фигурном катании с неожиданными сюжетами

Forbes
Новый код спешит на помощь Новый код спешит на помощь

Программируем 2024-й: как искусственный разум изменит нашу жизнь

Монокль
«В станкостроении науки не существует» «В станкостроении науки не существует»

Прикладной науке, в советском понимании, в современно мире места быть не может

Монокль
Маршруты Камчатки: «В приоритете туристы, обладающие экологически осознанным поведением» Маршруты Камчатки: «В приоритете туристы, обладающие экологически осознанным поведением»

Как развивается сфера туризма в одном из самых ярких и удаленных регионов России

ФедералПресс
Европа призвала Африку к декарбонизации Европа призвала Африку к декарбонизации

Ежегодные конференции ООН по климату официально называются конференциями сторон

Монокль
Открыть в приложении