Как в России и мире пытаются регулировать ИИ

РБКHi-Tech

Между выгодой и риском

Как в России и мире пытаются регулировать ИИ

Автор: Марат Селезнев

В 2023 году США, ЕС и Китай сделали первые важные шаги в сторону регулирования искусственного интеллекта. Государства пытаются найти баланс между выгодой, которую может принести технология, и заложенными в ней рисками. Рассказываем о регулировании нейросетей в России и других странах мира, о том, почему ИИ-разработчики могут быть против технологической гонки, и о перспективах международного сотрудничества в этой области.

Почему ИИ нужно регулировать

Бурное развитие инструментов искусственного интеллекта часто связывают с многочисленными рисками: от кажущихся фантастическими, вроде восстания машин и уничтожения человечества, до вполне приземленных, касающихся прикладных аспектов внедрения технологии.

Ко второй категории рисков можно отнести большой пласт этических проблем. Например, «проблему вагонетки»: кого искусственный разум, управляющий беспилотным автомобилем, оставит в живых в экстренной ситуации — пассажиров или пешеходов?

Другая проблема — дискриминация со стороны ИИ. Алгоритмы могут наследовать предвзятость обучающих их людей. Нередко при распознавании изображений нейросеть становится расистом и сексистом, определяя женщин в категорию «домохозяйка», а представителей этнических меньшинств — в категорию «преступник».

Наконец, есть много вопросов к безопасности хранения персональных данных. Нейросети, генерирующие картинки, обучают на огромных массивах исходных изображений с описаниями. Совместное исследование Принстона, Беркли, Швейцарской высшей технической школы, Google и DeepMind показало, что утечки данных из таких нейросетей вполне возможны, поскольку иногда они выдают оригинальные изображения, например фото людей, почти без изменений.

«Главные риски — злоупотребление данными людей при создании и использовании ИИ, изменение рынка труда при внедрении ИИ во многие профессии и «галлюцинирование» алгоритмов, при котором ИИ придумывает несуществующие тексты, факты и документы, на которые ссылается, — говорит директор АНО «Инфокультура» Иван Бегтин. — Также важны риски военного применения ИИ и использования его для создания современных цифровых диктатур, со слежкой за гражданами с помощью ИИ-инструментов».

Где и как собираются регулировать ИИ

Правительства разных стран по-разному оценивают риски, которые несет ИИ. Исходя из собственного видения они и пытаются создать системы регулирования.

США

В конце октября 2023 года президент США Джо Байден подписал указ о мерах безопасности, связанных с развитием ИИ. Объемный документ создает базу под формирование новых правительственных учреждений, которые будут специально заниматься вопросами ИИ, и новых федеральных стандартов в области искусственного интеллекта. Кроме того, указ обязывает разработчиков предоставлять правительству результаты тестирования крупных моделей ИИ, прежде чем публиковать их.

Среди ключевых рисков, которые беспокоят власти США, — крупные генеративные модели, содержащие десятки миллиардов параметров. Вполне вероятно, что новые правила могут быть применены к следующей версии GPT от OpenAI. Кроме того, правительство считает, что продвинутые модели ИИ, способные создавать дипфейки, усугубляют проблему дезинформации. Также в США серьезно относятся к дискриминации со стороны ИИ и к проблемам с защитой конфиденциальной информации. Наконец, ИИ рассматривается как угроза национальной безопасности. В частности, алгоритмы могут быть использованы для ускорения разработки новых видов химического оружия.

Эксперты, опрошенные Scientific American, называют указ Байдена «несколькими первыми шагами в разных направлениях». По их мнению, пока это не полноценное регулирование, а скорее попытка властей понять, что происходит в сфере ИИ. В правительстве слишком мало людей, которые имеют научные степени в области ИИ, поэтому может возникнуть сильный разрыв между ожиданиями политиков и техническим осуществлением регулирования, указывают скептики. Тем не менее, указ важен, поскольку заполняет вакуум, подчеркивают эксперты.

ЕС

Летом 2023 года Европарламент проголосовал за принятие закона об искусственном интеллекте (Artificial intelligence act). Его главные цели — регулирование развития систем ИИ и защита людей от них. Ожидается, что он вступит в силу не ранее 2025 года.

Закон разделяет системы ИИ на группы в зависимости от риска, который они несут европейским гражданам и потребителям. Так, к группе неприемлемого риска относятся:

  • системы, созданные для воздействия на подсознание людей;
  • системы социального рейтинга, разделяющие людей по их поведению, социально-экономическому положению и другим личным характеристикам;
  • системы распознавания людей в реальном времени.

В Европе все это планируют запретить. Единственное исключение — использование систем распознавания правоохранителями после разрешения суда.

В группу с высоким риском попадает ИИ, используемый для управления критически важной инфраструктурой, для охраны границ, применяемый в образовательных учреждениях, правоохранительных органах и в работе с персоналом. Эти решения нужно будет регистрировать в специальной базе ЕС, а власти будут оценивать их как до внедрения, так и в процессе эксплуатации.

По оценке АНО «Цифровая экономика», органы ЕС пытаются создать законодательство, регламентирующее этичные принципы разработки и внедрения ИИ. В Евросоюзе искусственный интеллект должен пользоваться доверием граждан и отвечать принципам прозрачности.

КНР

В августе 2023 года правительство Китая опубликовало 24 правила для регулирования искусственного интеллекта. Например, ИИ должен соответствовать социалистическим ценностям. Кроме того, алгоритмы нельзя использовать для подрыва государственной власти и свержения Коммунистической партии, они не должны наносить ущерб имиджу Китая и способствовать сепаратизму.

Новые правила затрагивают и генеративные модели. Фото и видео, которые создаются с их помощью, необходимо помечать, чтобы не вводить в заблуждение людей. При этом создатели моделей должны будут проверить их безопасность до вывода на рынок. Также китайский бизнес должен создать четкие механизмы рассмотрения жалоб от пользователей и клиентов.

Регулировать ИИ в Китае будут сразу семь ведомств, в частности, Государственная канцелярия интернет-информации (Cyberspace Administration of China, CAC), Министерство образования, Министерство науки и технологий и Национальная комиссия по развитию и реформам (National Development and Reform Commission).

Примечательно, что финальную редакцию правил смягчили. Изначально они предполагали штрафы размером до 100 тыс. юаней (около $14 тыс.) для нарушителей. Впоследствии от этого решили отказаться, чтобы не наносить серьезный финансовый ущерб ИИ-стартапам.

РФ

В России на данный момент нет единого документа, который бы полноценно регулировал сферу ИИ. Но есть несколько отдельных норм и рекомендаций.

Закон №408-ФЗ о регулировании рекомендательных технологий, вступивший в силу 1 октября 2023 года, обязывает владельцев сайтов и приложений раскрывать, какие данные используются для работы рекомендательных систем, откуда их взяли, а также уведомлять пользователей о работе таких систем. Роскомнадзор может заблокировать ресурс до устранения нарушений.

Концепция развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года декларирует приоритет благополучия и безопасности человека, защиту его прав и свобод, подконтрольность ИИ человеку, описывает цели и задачи регулирования ИИ, а также процедуру формирования экспериментальных правовых режимов, так называемых регуляторных песочниц.

До 2025 года в Москве действует регуляторная песочница для ИИ. Ею, в частности, пользуется «Яндекс» для тестирования беспилотных автомобилей.

Наконец, есть Кодекс этики в сфере ИИ. Он содержит призывы к ответственности при создании и использовании искусственного интеллекта. Главным приоритетом развития ИИ называется защита интересов и прав людей и отдельного человека. Кодекс подписали 247 компаний и организаций, среди которых «Сбер», «Яндекс», VK, МТС, «Ростелеком», «Росатом» и др. Кодекс носит рекомендательный характер.

Директор по аналитике АНО «Цифровая экономика» Карен Казарян отмечает, что не всегда попытки ввести избыточное регулирование, как, скажем в ЕС, являются показателем прогресса, потому что зачастую это тормозит собственные цифровые индустрии. «В России, на мой взгляд, прекрасный, осторожный подход, стимулирование саморегулирования и экспериментальных правовых режимов для внедрения ИИ в различных отраслях», — уверен эксперт.

Иван Бегтин из АНО «Инфокультура», наоборот, считает вопрос регулирования ИИ в России недостаточно проработанным: «Европейский союз, США и развитые страны — члены G7 и ОЭСР  — сильнее всего продвинулись в деле регулирования ИИ. Регулирование несколько отличается, но во всех случаях в его основе лежит безопасность использования—в значении safety, а не security. В России регулирование не только недостаточно, но и в целом далеко от ожидания граждан, обеспокоенных применением ИИ, в первую очередь крупными корпорациями».

Ограничение прогресса: за и против

Представители бизнеса и научного сообщества по-разному смотрят на проблему регулирования ИИ.

В марте 2023 года больше тысячи предпринимателей, инженеров и исследователей подписали открытое письмо с требованием срочно приостановить обучение ИИ-систем, более производительных, чем GPT-4. Требование поддержали Илон Маск (гендиректор SpaceX), Стив Возняк (соучредитель Apple Computer), сооснователи Skype, Pinterest и Ripple, а также разработчики ИИ-решений Stability AI, Scale AI, Character.ai и профессора многочисленных университетов. В письме сказано, что продвинутые модели с искусственным интеллектом, сопоставимым с человеческим, могут представлять серьезную угрозу. При этом подписанты не призывают полностью затормозить развитие технологии, а лишь на время остановиться и выйти из опасной гонки за более мощными моделями.

Несколько месяцев спустя Центр безопасности ИИ (Center for AI Safety) выпустил заявление с приглашением к дискуссии. «Риск вымирания из-за ИИ должен рассматриваться так же, как и другие масштабные риски, например, пандемии или ядерная война», — гласит документ. Под этим заявлением подписались представители Google, Microsoft, OpenAI, Stability AI, а также исследователи в области ИИ.

Впрочем, бизнес не всегда готов принимать во внимание риски, связанные с технологией. Представители европейского делового сообщества — Siemens, Airbus, Renault, Heineken, Henkel, Danone, Ubisoft и др. — выступили против слишком жесткого, по их мнению, регулирования ИИ в Евросоюзе. Главы и основатели компаний полагают, что регулирование подорвет конкурентоспособность Европы, а инновационные компании просто убегут в страны с более благоприятным правовым режимом.

Иван Бегтин соглашается: регулирование может сильно сказаться на прогрессе в области ИИ. «Но многие исследования человечества были приостановлены по разным причинам. Самый понятный пример — эксперименты на людях. Приостановил ли запрет экспериментов на людях прогресс? Хотим ли мы прогресса в этой области? Аналогично и в случае с ИИ. Не все измеряется прогрессом», — комментирует эксперт.

Возможен ли международный регулятор ИИ

Все страны, которые пытаются заниматься регулированием ИИ, призывают к тесному международному сотрудничеству ради ответственного развития технологии. Во избежание катастрофических последствий Китай также хочет добиться международного консенсуса и в отношении военного применения ИИ.

Развитие искусственного интеллекта находит отражение и в деятельности крупных международных организаций. Например, ООН запустила инициативу «ИИ для всеобщего блага» (AI for Good). Она направлена на использование ИИ для достижения целей устойчивого развития. ОЭСР приняла руководящие принципы управления системами ИИ. Основная цель принципов — стремление к доверенному ИИ, который является справедливым, прозрачным, объяснимым, надежным, безопасным и подотчетным. НАТО разработало собственную стратегию развития ИИ, призванную создать основу для ответственной разработки и использования ИИ в целях обороны и безопасности союзников.

Тем не менее, эксперты, опрошенные РБК, сомневаются, что можно создать международную организацию, которая бы занималась регулированием и надзором в сфере ИИ. Унифицированный подход к регулированию искусственного интеллекта — это утопия, считает Карен Казарян. «Технологическое регулирование эффективно, только когда оно принимается с учетом мнения всех заинтересованных сторон», — говорит он.

Различные организации будут создаваться в первую очередь для стандартизации, полагает Иван Бегтин. Но в мире и сейчас нет наднациональных образований, из которых суверенные государства не могут выйти или которые не могут проигнорировать, заключает он.

Фото: Kevin Frayer / Getty Images, Kevin Frayer / Getty Images, Morris MacMatzen / Getty Images

Хочешь стать одним из более 100 000 пользователей, кто регулярно использует kiozk для получения новых знаний?
Не упусти главного с нашим telegram-каналом: https://kiozk.ru/s/voyrl

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Для него и для нее. Гид по презервативам Для него и для нее. Гид по презервативам

Тест-драйв лучших образцов презервативов

Playboy
Все хотят Настю Ивлееву — самую горячую девушку декабря Все хотят Настю Ивлееву — самую горячую девушку декабря

Настя Ивлеева всенародно и единогласно избрана верховной фэшн-дивой!

Собака.ru
Александр Крайнов: «Нейросеть не заменит людей в общении, размышлении и умении договариваться» Александр Крайнов: «Нейросеть не заменит людей в общении, размышлении и умении договариваться»

Как нейросети повлияют на профессии и когда они станут привычным инструментом

РБК
Миссис Харрис едет в Нью-Йорк Миссис Харрис едет в Нью-Йорк

«Миссис Харрис едет в Нью-Йорк»: винтажная комедия, греющая душу

Правила жизни
Павильонный зал Павильонный зал

Памяти Людмилы Николаевны Воронихиной, чьё имя — история и легенда Эрмитажа

Дилетант
Сколько секса нужно для счастья? Сколько секса нужно для счастья?

Сколько секса нам нужно?

Добрые советы
Петлюра. Куст Петлюра. Куст

Александр Петлюра, Симона Куст и семейный панк-вайб

Собака.ru
Мусор оптом: проблема стихийных свалок на Южном Урале Мусор оптом: проблема стихийных свалок на Южном Урале

Как устранить очаги захламления земель?

ФедералПресс
Геннадий Хазанов: «Ничто так не разъединяет людей, как юмор» Геннадий Хазанов: «Ничто так не разъединяет людей, как юмор»

Геннадий Хазанов — о юмористических жанрах в советский период и сейчас

Монокль
Новогодняя столица Новогодняя столица

Суздаль отмечает тысячелетний юбилей в статусе столицы Нового года

Лиза
Александра Ребенок Александра Ребенок

Александра Ребенок берется за очень странные дела в сериале «Сны Алисы»

Собака.ru
Метаморфозы Иракли Метаморфозы Иракли

Ираклий Пирцхалава редкий гость в Москве, но интервью получилось интересным!

OK!
Что такое поколение «альфа»: разбираем, чем эти дети отличаются от своих родителей Что такое поколение «альфа»: разбираем, чем эти дети отличаются от своих родителей

Поведение поколения альфа: чего ждать от тех, кто придет на смену зумерам

Psychologies
Реальность под знаком рыбы Реальность под знаком рыбы

Она — рыбка-кормилица — без всякого преувеличения, поистине Золотая рыбка

Знание – сила
Зооразвод. Как не попасть в ловушку из-за любви к животным? Зооразвод. Как не попасть в ловушку из-за любви к животным?

4 уловки зоомошенников, которые угрожают не только кошельку владельца

Лиза
Философия нового времени Философия нового времени

Современное пространство в стиле минимализм для комфортной жизни большой семьи

SALON-Interior
Как продвигать товары внутри маркетплейсов: инструкция для начинающих селлеров Как продвигать товары внутри маркетплейсов: инструкция для начинающих селлеров

Как начинающим предпринимателям продвигать свои товары и какие инструменты есть

Inc.
Анализ экспорта вооружений КНР в страны Ближнего Востока Анализ экспорта вооружений КНР в страны Ближнего Востока

Продукция китайского оборонно-промышленного комплекса для ближневосточных стран

Обозрение армии и флота
Новые отношения Новые отношения

После развода кажется, что новый брак почти невозможен, да и нужен ли?

Новый очаг
О свойствах страсти О свойствах страсти

Поэт Лев Рубинштейн всю жизнь исследует страсти, которые нас (и его) обуревают

СНОБ
Шестой и чувства Шестой и чувства

Что есть «Москвич 6»

Автопилот
Революция Ноама Хомского Революция Ноама Хомского

7 декабря 2023 года исполняется 95 лет Ноаму Хомскому

Наука
И как это возможно? Прыщи – от бульона, отеки – от молока И как это возможно? Прыщи – от бульона, отеки – от молока

Иногда даже самые полезные на первый взгляд продукты могут оказаться вредными

Лиза
Залечь на дно в Брабанте Залечь на дно в Брабанте

«Ферри»: комедия о становлении бандитского капитала

Weekend
«Необъятный мир: Как животные ощущают скрытую от нас реальность» «Необъятный мир: Как животные ощущают скрытую от нас реальность»

Головастики лягушек спасаются из икринок, улавливая присутствие хищника

N+1
Моделист-конструктор Моделист-конструктор

Как в России создали лучшие в мире вездеходы

ТехИнсайдер
Где начинались эпидемии чумы, поражавшие античный мир Где начинались эпидемии чумы, поражавшие античный мир

Был ли Египет источником распространения патогенов в Средиземноморье?

ТехИнсайдер
Сахар, ты где? Сахар, ты где?

Как производители маскируют сахар в своих продуктах

Лиза
Российская память о Первой мировой войне: от раскола к консенсусу? Российская память о Первой мировой войне: от раскола к консенсусу?

Долгие десятилетия память о Первой мировой войне была на задворках истории

Знание – сила
Кто позолотил яйца Кто позолотил яйца

Ведомства не хотят верить в объективные экономические причины удорожания яиц

Монокль
Открыть в приложении