О том, как модели искусственного интеллекта «выходят за флажки»

МонокльHi-Tech

Когда модель превзойдет алгоритмы

О том, как модели искусственного интеллекта «выходят за флажки» написанных для них инструкций, «Моноклю» рассказал генеральный директор корпорации СОРМ Сергей Большаков

Наталья Быкова

Фото: из личного архива Сергея Большакова

Сергей, что представляют собой самые прогрессивные на сегодня модели искусственного интеллекта, из чего они состоят?

— Начнем с того, что любая модель искусственного интеллекта — это алгоритмы, способные самообучаться. Все они, даже самые прогрессивные на сегодня, представляют собой пока еще очень примитивный аналог человеческого мозга, их работа завязана на определенные математические инструкции, которые выполняет техника. В процессе эксплуатации алгоритмы могут корректироваться или дополняться новыми инструкциями, что происходит не само по себе, а с участием людей — разработчиков, аналитиков данных, — которые профессионально занимаются выявлением несовершенств в моделях искусственного интеллекта. На каждом этапе пересмотра модели выбираются те математические методы, которые дают наименьшие погрешности. Обычно точность алгоритмов для решения конкретных задач составляет более 50 процентов, эффективными считаются те из них, точность которых составляет более 95 процентов. Если удается создать алгоритм с 99-процентной точностью, разумеется, его сразу же интегрируют в модель. Это непрерывная работа, и чем больше умных людей в нее вовлечено, тем лучше будут результаты.

— Опасения и страхи общества, в том числе профессионального сообщества из сферы IT, связаны с гипотетическим выходом ИИ из-под контроля. На каком этапе разработчики, аналитики данных теряют возможность контролировать свою модель искусственного интеллекта?

— Скорее всего, это может произойти на любом этапе. Вот, например, поиск «Яндекса» построен на алгоритмах искусственного интеллекта. В них заложены некие метрики, на основе которых выстраивается система ранжирования в поисковых запросах. Были известны случаи, когда на претензии в необоснованном занижении ссылок профильные специалисты компании отвечали, что сами не понимают, почему это так сработало. То есть это сейчас уже реально, что сами разработчики могут не знать, почему система искусственного интеллекта приняла определенное решение, когда по написанной для нее математической инструкции она должна была действовать иначе.

Конечно, это может быть и ошибка исходного алгоритма, которую нужно исправлять, а может, модель уже сама начала думать как человек — порой интуитивно и субъективно. Хотя, на мой взгляд, до этого еще далеко, пройдет еще несколько десятков лет, прежде чем алгоритмы будут усложнены настолько, что смогут имитировать работу человеческого мозга, то есть принимать решения, опираясь на свой предыдущий опыт и построенную на его основе проекцию на будущее.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Большие проблемы Вселенной Большие проблемы Вселенной

Астрофизик Геннадий Бисноватый-Коган — о тайнах Вселенной и пути к их разгадке

Монокль
Москва до Юрия Долгорукого. Кто здесь жил прежде? Москва до Юрия Долгорукого. Кто здесь жил прежде?

Попробуем разобраться в том, кто жил на месте Москвы до XII века

Зеркало Мира
Помогут ли нейросети улучшить российскую судебную систему Помогут ли нейросети улучшить российскую судебную систему

Может ли ИИ использоваться в вынесении судебных решений?

ФедералПресс
Шимпанзе долины Исса кастрировали и убили детеныша-чужака Шимпанзе долины Исса кастрировали и убили детеныша-чужака

Почему шимпанзе саванн убивают друг друга?

N+1
Uber в образовании Uber в образовании

Может ли искусственный интеллект заменить учителя?

ТехИнсайдер
Как тип привязанности хозяина влияет на характер питомцев: 3 сценария Как тип привязанности хозяина влияет на характер питомцев: 3 сценария

Как питомцы копируют тип привязанности своих хозяев

Psychologies
Двухэтажные автобусы, сауны и скалолазание: самые необычные коворкинги в мире Двухэтажные автобусы, сауны и скалолазание: самые необычные коворкинги в мире

Какие появляются пространства, когда коворкинги хотят удивить своих посетителей

Forbes
Жилое и мертвое Жилое и мертвое

Дом в русской литературе: между обыденным адом и потерянным раем

Weekend
Добродетельные матроны Добродетельные матроны

У Цезаря и Антония было немало женщин помимо Клеопатры

Дилетант
Разум толпы Разум толпы

Усредненный прогноз группы может быть более точным, чем суждения специалистов

ТехИнсайдер
«Уходи, Тейлор Свифт»: что нас бесило в музыке в 2023 году «Уходи, Тейлор Свифт»: что нас бесило в музыке в 2023 году

Музыка, которую с удовольствием можно оставить бы в 2023 году

Правила жизни
От поцелуев в полночь до блюд из черноглазого гороха: история новогодних суеверий От поцелуев в полночь до блюд из черноглазого гороха: история новогодних суеверий

Как в разных культурах формировались новогодние обычаи

Forbes
Танец разведчицы Танец разведчицы

Карл фон Фриш — человек, открывший пчелиный язык танцев

Знание – сила
Елена Скрынник: «Сильному духу все подвластно» Елена Скрынник: «Сильному духу все подвластно»

Елена Скрынник о ее карьере, детях и о настоящем и будущем нашей страны

Караван историй
Переучреждение Московской патриархии в 1943 году и наследие Поместного собора 1917–1918 годов Переучреждение Московской патриархии в 1943 году и наследие Поместного собора 1917–1918 годов

Чем являлись события 1943 года с точки зрения канонов Русской церкви?

Наука
Фитнес тридесятого царства Фитнес тридесятого царства

Правила жизни спортсменов в самом расцвете сил

Men Today
Будущее сейчас Будущее сейчас

Андрей Лихачёв рассказал о том, что делает СберСити уникальным для России и мира

Robb Report
На всю голову На всю голову

5 опасных манипуляций с волосами, о которых лучше забыть

Лиза
ЦБ предупреждает ЦБ предупреждает

Частные инвесторы становятся активнее, но чаще пытаются манипулировать рынком

Монокль
«Смерть — всего лишь иллюзия»: объяснение с точки зрения физики «Смерть — всего лишь иллюзия»: объяснение с точки зрения физики

Различие между прошлым, настоящим и будущим — лишь упрямая непреходящая иллюзия

Psychologies
Авиаторг уместен Авиаторг уместен

Росавиация забрала все рейсы на зарубежных направлениях у «Уральских авиалиний»

Монокль
Лана Дель Рей, Blur, Дельфин: лучшие музыкальные альбомы 2023 года Лана Дель Рей, Blur, Дельфин: лучшие музыкальные альбомы 2023 года

2023 год стал важной вехой в истории современной музыки

Forbes
Дочь и внук Эльдара Рязанова рассказывают о его первой семье Дочь и внук Эльдара Рязанова рассказывают о его первой семье

Жизнь родителей оказалась длиннее, чем одна любовь

Караван историй
«Современные фильмы страшно захламлены без всякого смысла» «Современные фильмы страшно захламлены без всякого смысла»

Елена Жукова о том, где и как живут герои в российском кино

Weekend
Серьезная инфекция Серьезная инфекция

Как не допустить заражение ВИЧ: 3 главные меры профилактики

Лиза
Мутагенез при образовании половых клеток оказался восьмикратно недооценен Мутагенез при образовании половых клеток оказался восьмикратно недооценен

Британские исследователи картировали мутации, возникающие при репарации ДНК

N+1
Чайная дорога России Чайная дорога России

Где проходил когда-то Великий чайный путь и шли караваны лошадей и верблюдов

Знание – сила
Строить, не ломать Строить, не ломать

Очень надеемся, что облик XXI века определят не конфликты, а проекты городов

Robb Report
Мечты о будущем. Как фантасты создавали реальность на тысячи лет вперед Мечты о будущем. Как фантасты создавали реальность на тысячи лет вперед

На страницах романов они обещали, стращали или просили верить в человечество

СНОБ
Директор «Нужна помощь» Елизавета Васина — Forbes: «Люди не стали жертвовать меньше» Директор «Нужна помощь» Елизавета Васина — Forbes: «Люди не стали жертвовать меньше»

Как развивать благотворительность на фоне снижения пожертвований и доверия

Forbes
Открыть в приложении