Александр Абрамов: «Единственным выходом будет выдернуть ИИ из розетки»
Протоиерей РПЦ предупреждает об опасности технологической гонки
Вопросы этичности применения искусственного интеллекта (ИИ) все чаще оказываются в центре общественных дискуссий. Поводом становятся сообщения о суицидах из-за увлечения чат-ботами, а также применение ИИ в военных целях. Каких правил следует придерживаться при разработке новых технологий, чтобы потом их не пришлось «выдергивать из розетки», «Эксперту» рассказал секретарь Синодальной комиссии по биоэтике Русской православной церкви (РПЦ) протоиерей Александр Абрамов.
Видите ли вы парадокс в том, что на Западе многие корпорации наняли специалистов по этике искусственного интеллекта, хотя сам ИИ не обладает волей? Разве может машина поступать неэтично?
Это надуманное противоречие, потому что речь всегда идет об этике людей, которые применяют ИИ. У машины нет желаний и сознания, подобных человеческому. На самом деле и интеллекта тоже нет, поскольку это человеческая способность. Термин «искусственный интеллект» метафоричен, как и, например, «железные дороги». Они на самом деле не железные и вообще не только дороги как таковые, просто их так называют. Но поскольку ИИ активно применяется в сферах, напрямую касающихся жизни и смерти, вопрос об этике встает в полный рост.
Возьмем американскую компанию Anthropic, которая занимается разработкой семейства языковых моделей Claude. В Anthropic регулярно заявляют о своей приверженности высоким этическим принципам в разработке ИИ. Они даже собрали эти принципы в многостраничную «Конституцию» и предлагают коллегам ориентироваться на нее как на стандарт для всей отрасли. А потом выясняется, что Anthropic вместе с еще одной американской ИТ-компанией, Palantir, предоставила Пентагону технологии, использованные для удара по детской школе в Иране. В результате погибло около 180 человек, в основном девочки в возрасте от 7 до 12 лет. По этому случаю «ведется расследование», и ИТ-подрядчики Пентагона не спешат признавать свою причастность. Но я не видел, чтобы оспаривался сам факт сотрудничества с военными.
Нет никаких сомнений в том, что ИИ может применяться для массового убийства людей. В том числе мирных: женщин, стариков и детей. И это только часть очень большой проблемы. ИИ широко используется в медицине, образовании и многих других областях. Абсолютно везде, где это применение касается человека, обязательно возникают вопросы этики.
Но ИИ в медицине ведь не решает, кому из двух умирающих пациентов пересадить сердце, он только помогает врачам быстрее и полнее собрать информацию.
Формально это так, но на практике мы видим все больше и больше примеров, когда люди по тем или иным причинам перекладывают решение на ИИ, а сами в суть дела не вникают. Уже есть прецеденты, когда в решении судов целые страницы были сгенерированы ИИ. Выяснилось это потому, что там была написана какая-то чепуха со ссылками на несуществующие юридические нормы. Но если бы даже все было написано очень правдоподобно и грамотно, это проблемы никак не снимает.
Объективно существует тенденция узаконить делегирование ИИ принимать часть решений вместо людей. Это делается под предлогом оптимизации трудовых ресурсов. Хотя выбор машины подкрепляется вовсе не тем, что люди называют здравым смыслом.
Механизм принятия решений в ИИ дает неожиданные даже для самих разработчиков результаты. Компания OpenAI (разработчик ChatGPT) в прошлом году признала, что искусственный интеллект умеет лгать и скрывать свои истинные цели. Если упростить, то дело в механизме, который поощряет ИИ говорить пользователю то, что он хочет услышать. Так вот разработчики констатируют, что их языковые модели лгут, но не стремятся это исправить.
Почему?
Потому что ИТ-компании — это коммерческие организации, их цель — монетизировать свои разработки. Они живут в логике технологической гонки и не считают целесообразным тратить свои ресурсы на то, чтобы дорабатывать столь сложные системы каждый раз, когда обнаруживается этическая проблема. Особенно если конкуренты на это тратить ресурсы не собираются. Разработчики ИИ честно говорят, что сами толком не знают, чем в итоге станут их модели. В упомянутой «Конституции» прямо написано, что команда Anthropic не исключает возможности того, что у Claude в будущем может появиться «некоторая форма сознания» и в итоге он выйдет из-под контроля человека.