Искусственный интеллект на службе политиков

ForbesHi-Tech

ИИ массового поражения: Генри Киссинджер и Эрик Шмидт об угрозах кибервойны

Редакция Forbes

Фото Getty Images

Контроль над кибервооружением невозможен, а чем выше уровень технологического развития общества, тем более уязвимым оно становится. Кроме того, опасность искусственного интеллекта на службе политиков в том, что у него нет ни психологии, ни морали, а есть только цели и задачи. Вот что о будущем человечества, а также о проблемах, возможностях и угрозах ИИ рассказывают бывшие госсекретарь США, глава Google и директор Amazon.

У книги «Искусственный разум и новая эра человечества» (выходит в июне в издательстве «Альпина PRO») три автора: экс-госсекретарь США и лауреат Нобелевской премии мира 1973 года Генри Киссинджер, бывший CEO Google, экс-председатель совета директоров Alphabet и миллиардер Эрик Шмидт и декан Колледжа компьютерных наук имени Шварцмана в Массачусетском технологическом институте, бывший директор Amazon Дэниел Хаттенлокер. Втроем эти тяжеловесы пытаются ответить на вопрос, как трансформируется человечество и каким образом на него влияют новые технологии, в том числе в области политики и безопасности.

В книге не уточняется, все ли главы написаны тремя авторами совместно, или кто-то из них внес больший вклад в отдельные из них. Можно было бы предположить, что глава о безопасности и роли искусственного интеллекта (ИИ) в современных войнах в основном написана Киссинджером. Правда, Эрик Шмидт тоже обладает достаточно глубокими знаниями в этой области — он, например, является главой Комиссии национальной безопасности США по искусственному интеллекту и соавтором главного доклада комиссии. Forbes публикует отрывок из этой главы, посвященный теме кибероружия и проблемам, связанным с применением ИИ в ходе конфликтов.

Война в цифровую эпоху

На протяжении всей истории человечества политическое влияние нации, как правило, примерно соотносилось с ее военной мощью и стратегическими возможностями — ее потенциальной способностью наносить ущерб другим странам. Проблема, однако, в том, что равновесие, основанное на расчете силы, непостоянно и не поддерживает само себя — оно опирается прежде всего на общее понимание того, что считать силой и каковы законные границы ее применения. Соответственно, поддержание этого равновесия требует общего для всех участников системы международных отношений — особенно противников — понимания относительных возможностей и намерений государств, а также последствий агрессии. Наконец, сохранение равновесия требует фактического и признанного паритета. Когда один из участников системы непропорционально усиливает свою мощь, система попытается приспособиться — либо организуя противоборствующую силу, либо подстраиваясь к новой реальности. Если равновесие неустойчиво или не признается участниками международных отношений, риск конфликта резко возрастает. В наше время расчет равновесия стал еще более абстрактным. Причина тому — кибероружие, класс оружия с неясным статусом. В некоторых случаях кибероружие усиливает военную мощь страны тем, что эта страна не признает его использования и даже существования. Раньше, если начиналась война, сразу становилось известно, что произошло столкновение и какие стороны воюют. Противники оценивали силы участников и темп, в котором эти силы могли быть развернуты. С кибероружием все это не работает.

Даже ядерное оружие существует в обычном мире, где его развертывание может быть замечено, а его возможности определены — хотя бы приблизительно. Напротив, одно из главных свойств кибероружия — его непрозрачность, раскрытие информации о нем может в той или иной степени препятствовать его применению. Например, так называемые атаки нулевого дня используют ранее неизвестные недостатки в программном обеспечении, получая доступ к сети или системе без разрешения или ведома авторизованного пользователя. В случае распределенных DDoS-атак делается множество информационных запросов, блокирующих системы. Истинные источники атак маскируются, что затрудняет или делает невозможной идентификацию атакующего. Один из самых известных случаев промышленного саботажа с использованием кибернетических технологий — атака вируса Stuxnet, которая вывела из строя компьютеры, управлявшие иранскими ядерными разработками, — не обсуждался публично странами, которые, как считается, его осуществили. Моральные и правовые нормы предписывают использовать обычное и ядерное оружие только против военных сил и объектов. В отличие от этого, кибероружие широко воздействует на вычислительные и коммуникационные сети, часто поражая гражданские системы. Кроме того, кибероружие могут взять на вооружение другие стороны для других целей, включая использование против напавшей стороны. В некоторых отношениях это делает кибероружие похожим на биологическое или химическое оружие, которое может распространяться непреднамеренными и неизвестными способами. Во многих случаях оно воздействует на широкий срез общества, а не только на боевые цели. Например, атаки вредоносной программы Petya против украинских финансовых учреждений и государственных организаций в 2017 году вскоре распространились за пределы Украины — на электростанции, больницы, поставщиков транспортных и логистических услуг, а также энергетические компании в других странах, включая Россию. Таким образом, те самые свойства кибероружия, которые обеспечивают его эффективность, делают практически невозможным контроль над кибервооружениями. Когда участники переговоров по контролю над ядерным оружием раскрывали или описывали классы боеголовок, они не отрицали возможностей этого оружия. Переговорщикам по кибервооружениям предстоит столкнуться с интересным парадоксом — само обсуждение возможностей кибероружия может означать как его сокращение (если противник устранит уязвимости, против которых оно направлено), так и более широкое распространение (если противник скопирует его код или использует тот же принцип действия).

Эти проблемы усложняются неоднозначностью ключевых терминов и концепций. Различные формы кибервторжений, онлайн-пропаганды и информационной войны разные наблюдатели могут в тех или иных случаях назвать «кибервойной», «кибератакой» и даже «военными действиями», но этот словарь необщепринят и иногда используется непоследовательно. Одни действия, такие как вторжение в сеть для сбора информации, могут быть аналогичны традиционному шпионажу, хотя и в новых масштабах. Другие атаки, такие как цифровые кампании по вмешательству в выборы в социальных сетях, скорее относятся к пропаганде, дезинформации и политическому воздействию — но благодаря вездесущей цифровизации и сетевым платформам это возможно в более широких масштабах и с более высокой эффективностью, чем в предыдущие эпохи. Существуют также формы кибернетического воздействия, которые способны нанести физические потери, сходные с традиционными боевыми потерями. Но как выяснить, началась ли кибервойна, какова ее природа и как далеко она может зайти? Очевидно, что крупнейшие страны в настоящее время вовлечены в некий киберконфликт, природу или масштаб которого невозможно однозначно определить.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Три страницы ненаписанной летописи: как виноделы боролись за вино в годы ВОВ Три страницы ненаписанной летописи: как виноделы боролись за вино в годы ВОВ

Проверку на соответствие системе ценностей вино прошло в годы ВОВ

Forbes
В выходные и не только: как провести время вдвоем В выходные и не только: как провести время вдвоем

Мы подготовили список из 100 вариантов, как провести время вдвоем с любимым

VOICE
Работа с умом: каков потенциал генеративного ИИ для роста производительности в России Работа с умом: каков потенциал генеративного ИИ для роста производительности в России

Ученые проанализировали влияние генеративного ИИ на задачи и профессии

Forbes
Рогатый, водяной, королевский: 7 жутких, но прекрасных пауков Рогатый, водяной, королевский: 7 жутких, но прекрасных пауков

Наша подборка поможет победить боязнь пауков (но это не точно)

Вокруг света
Любовь или зависимость? 7 признаков нездоровых отношений Любовь или зависимость? 7 признаков нездоровых отношений

Как отличить истинные чувства от зависимости, способной разрушать нас изнутри?

VOICE
Разные, но равные: ученые по ДНК восстановили внешность живших 1700 лет назад корейцев Разные, но равные: ученые по ДНК восстановили внешность живших 1700 лет назад корейцев

Местное население Корейского полуострова было очень разнообразным

Вокруг света
Татьяна Затравина Татьяна Затравина

Бизнесвумен Татьяна Затравина создала полноценного конкурента зарубежному люксу

Собака.ru
20 лет в больнице: почему миллионерша Югетта Кларк осталась в палате после успешной операции 20 лет в больнице: почему миллионерша Югетта Кларк осталась в палате после успешной операции

Почему одна из самых богатых женщин Америки предпочла стать затворницей?

VOICE
10 неожиданных привычек нашего мозга 10 неожиданных привычек нашего мозга

Порой даже человеческий мозг допускает ошибки

ТехИнсайдер
«Дом — это не только деревяшки, но еще и память». Как житель Петербурга восстанавливает деревню и пытается спасти древний народ от вымирания «Дом — это не только деревяшки, но еще и память». Как житель Петербурга восстанавливает деревню и пытается спасти древний народ от вымирания

Как путешественники спасают древний народ от вымирания

СНОБ
Найден источник Черной Смерти — одной из самых смертоносных пандемий за всю историю Найден источник Черной Смерти — одной из самых смертоносных пандемий за всю историю

Черная смерть была первой волной 500-летней пандемии

ТехИнсайдер
Почему стиральная машина плохо отжимает: проблемы и решения Почему стиральная машина плохо отжимает: проблемы и решения

Проблемы с отжимом можно решить самостоятельно. Рассказываем, как

CHIP
Поздравление на свадьбе: что и как говорить молодоженам Поздравление на свадьбе: что и как говорить молодоженам

Есть ли универсальный рецепт хорошего тоста на свадьбе?

Psychologies
Разговорная речь заставила выбрать между умными словами и сложными предложениями Разговорная речь заставила выбрать между умными словами и сложными предложениями

Оказалось, что чем проще используемые в речи слова, тем сложнее грамматика

N+1
Оракул маркетинга: как актер Эдвард Нортон пытается победить старомодные телерейтинги Оракул маркетинга: как актер Эдвард Нортон пытается победить старомодные телерейтинги

Как Эдвард Нортон бросил вызов привычному положению дел на телевидении

Forbes
Мертвые лошади и запрет на почесывание: самые абсурдные правила дорожного движения в Северной и Южной Америке Мертвые лошади и запрет на почесывание: самые абсурдные правила дорожного движения в Северной и Южной Америке

Иногда правила дорожного движения не имеют никакого смысла

ТехИнсайдер
Новые виды паразитов вызвали вспышку кожного заболевания у антарктических рыб Новые виды паразитов вызвали вспышку кожного заболевания у антарктических рыб

Биологи обнаружили у антарктических рыб неизвестное кожное заболевание

N+1
Чувствуют агрессию: выявлена способность животных распознавать эмоции людей Чувствуют агрессию: выявлена способность животных распознавать эмоции людей

Лошади и свиньи оказались куда более проницательны, чем считалось раньше

Вокруг света
От Окинавы до Сардинии: чем питаются народы-долгожители и как это помогает не стареть От Окинавы до Сардинии: чем питаются народы-долгожители и как это помогает не стареть

Глава из книги «Код долголетия» Джейсона Фанга и Джеймса Диниколантонио

Forbes
Не думайте об оценках: как помочь ребенку освоиться в школе за границей Не думайте об оценках: как помочь ребенку освоиться в школе за границей

Как облегчить ребенку переход в зарубежное учебное заведение и к чему готовиться

Forbes
Книги, способные прокачать ваш мозг: лучшие научно-популярные издания о том, как устроен мир Книги, способные прокачать ваш мозг: лучшие научно-популярные издания о том, как устроен мир

Книги, которые приоткроют тайны удивительного мира вокруг

ТехИнсайдер
Австралопитекам из Колыбели человечества оказалось 3,4–3,7 миллиона лет Австралопитекам из Колыбели человечества оказалось 3,4–3,7 миллиона лет

Археологи пересмотрели датировку находок из Стеркфонтейна

N+1
Как переехать в Бразилию, открыть там бизнес и не дать себя ограбить Как переехать в Бразилию, открыть там бизнес и не дать себя ограбить

Бразилия привлекает россиян, которые находятся в поиске страны для релокации

Forbes
Модифицировать риск — благородное дело Модифицировать риск — благородное дело

Нездоровый образ жизни — основная причина большого количества заболеваний

Наука
Археологи разобрались в хронологии испанского памятника с палеолитическим искусством Археологи разобрались в хронологии испанского памятника с палеолитическим искусством

Ученые получили 62 радиоизотопные датировки материалов из пещеры Ардалес

N+1
5 мест в Солнечной системе, в которых вам точно стоит побывать. Или хотя бы посмотреть на них 5 мест в Солнечной системе, в которых вам точно стоит побывать. Или хотя бы посмотреть на них

Куда лучше всего отправиться в Солнечной системе?

ТехИнсайдер
Это не бумажки! Как строить отношения с деньгами, чтобы их было много Это не бумажки! Как строить отношения с деньгами, чтобы их было много

Никто никогда не объясняет, как правильно построить отношения с деньгами

VOICE
Тело, сексуальность и борьба. Отрывок из новой книги Оливии Лэнг Тело, сексуальность и борьба. Отрывок из новой книги Оливии Лэнг

Глава «Мерцающая сеть» из книги Оливии Лэнг — рассказ о художнице Агнес Мартин

Правила жизни
Белые медведи с юго-востока Гренландии из-за нехватки морского льда перешли на пресный Белые медведи с юго-востока Гренландии из-за нехватки морского льда перешли на пресный

Как белые медведи приспосабливаются к глобальному потеплению?

N+1
Свободное владение оружием: четыре аргумента против и всего один — за Свободное владение оружием: четыре аргумента против и всего один — за

Право граждан на владение оружием — это добро или зло?

Maxim
Открыть в приложении