Искусственный интеллект на службе политиков

ForbesHi-Tech

ИИ массового поражения: Генри Киссинджер и Эрик Шмидт об угрозах кибервойны

Редакция Forbes

Фото Getty Images

Контроль над кибервооружением невозможен, а чем выше уровень технологического развития общества, тем более уязвимым оно становится. Кроме того, опасность искусственного интеллекта на службе политиков в том, что у него нет ни психологии, ни морали, а есть только цели и задачи. Вот что о будущем человечества, а также о проблемах, возможностях и угрозах ИИ рассказывают бывшие госсекретарь США, глава Google и директор Amazon.

У книги «Искусственный разум и новая эра человечества» (выходит в июне в издательстве «Альпина PRO») три автора: экс-госсекретарь США и лауреат Нобелевской премии мира 1973 года Генри Киссинджер, бывший CEO Google, экс-председатель совета директоров Alphabet и миллиардер Эрик Шмидт и декан Колледжа компьютерных наук имени Шварцмана в Массачусетском технологическом институте, бывший директор Amazon Дэниел Хаттенлокер. Втроем эти тяжеловесы пытаются ответить на вопрос, как трансформируется человечество и каким образом на него влияют новые технологии, в том числе в области политики и безопасности.

В книге не уточняется, все ли главы написаны тремя авторами совместно, или кто-то из них внес больший вклад в отдельные из них. Можно было бы предположить, что глава о безопасности и роли искусственного интеллекта (ИИ) в современных войнах в основном написана Киссинджером. Правда, Эрик Шмидт тоже обладает достаточно глубокими знаниями в этой области — он, например, является главой Комиссии национальной безопасности США по искусственному интеллекту и соавтором главного доклада комиссии. Forbes публикует отрывок из этой главы, посвященный теме кибероружия и проблемам, связанным с применением ИИ в ходе конфликтов.

Война в цифровую эпоху

На протяжении всей истории человечества политическое влияние нации, как правило, примерно соотносилось с ее военной мощью и стратегическими возможностями — ее потенциальной способностью наносить ущерб другим странам. Проблема, однако, в том, что равновесие, основанное на расчете силы, непостоянно и не поддерживает само себя — оно опирается прежде всего на общее понимание того, что считать силой и каковы законные границы ее применения. Соответственно, поддержание этого равновесия требует общего для всех участников системы международных отношений — особенно противников — понимания относительных возможностей и намерений государств, а также последствий агрессии. Наконец, сохранение равновесия требует фактического и признанного паритета. Когда один из участников системы непропорционально усиливает свою мощь, система попытается приспособиться — либо организуя противоборствующую силу, либо подстраиваясь к новой реальности. Если равновесие неустойчиво или не признается участниками международных отношений, риск конфликта резко возрастает. В наше время расчет равновесия стал еще более абстрактным. Причина тому — кибероружие, класс оружия с неясным статусом. В некоторых случаях кибероружие усиливает военную мощь страны тем, что эта страна не признает его использования и даже существования. Раньше, если начиналась война, сразу становилось известно, что произошло столкновение и какие стороны воюют. Противники оценивали силы участников и темп, в котором эти силы могли быть развернуты. С кибероружием все это не работает.

Даже ядерное оружие существует в обычном мире, где его развертывание может быть замечено, а его возможности определены — хотя бы приблизительно. Напротив, одно из главных свойств кибероружия — его непрозрачность, раскрытие информации о нем может в той или иной степени препятствовать его применению. Например, так называемые атаки нулевого дня используют ранее неизвестные недостатки в программном обеспечении, получая доступ к сети или системе без разрешения или ведома авторизованного пользователя. В случае распределенных DDoS-атак делается множество информационных запросов, блокирующих системы. Истинные источники атак маскируются, что затрудняет или делает невозможной идентификацию атакующего. Один из самых известных случаев промышленного саботажа с использованием кибернетических технологий — атака вируса Stuxnet, которая вывела из строя компьютеры, управлявшие иранскими ядерными разработками, — не обсуждался публично странами, которые, как считается, его осуществили. Моральные и правовые нормы предписывают использовать обычное и ядерное оружие только против военных сил и объектов. В отличие от этого, кибероружие широко воздействует на вычислительные и коммуникационные сети, часто поражая гражданские системы. Кроме того, кибероружие могут взять на вооружение другие стороны для других целей, включая использование против напавшей стороны. В некоторых отношениях это делает кибероружие похожим на биологическое или химическое оружие, которое может распространяться непреднамеренными и неизвестными способами. Во многих случаях оно воздействует на широкий срез общества, а не только на боевые цели. Например, атаки вредоносной программы Petya против украинских финансовых учреждений и государственных организаций в 2017 году вскоре распространились за пределы Украины — на электростанции, больницы, поставщиков транспортных и логистических услуг, а также энергетические компании в других странах, включая Россию. Таким образом, те самые свойства кибероружия, которые обеспечивают его эффективность, делают практически невозможным контроль над кибервооружениями. Когда участники переговоров по контролю над ядерным оружием раскрывали или описывали классы боеголовок, они не отрицали возможностей этого оружия. Переговорщикам по кибервооружениям предстоит столкнуться с интересным парадоксом — само обсуждение возможностей кибероружия может означать как его сокращение (если противник устранит уязвимости, против которых оно направлено), так и более широкое распространение (если противник скопирует его код или использует тот же принцип действия).

Эти проблемы усложняются неоднозначностью ключевых терминов и концепций. Различные формы кибервторжений, онлайн-пропаганды и информационной войны разные наблюдатели могут в тех или иных случаях назвать «кибервойной», «кибератакой» и даже «военными действиями», но этот словарь необщепринят и иногда используется непоследовательно. Одни действия, такие как вторжение в сеть для сбора информации, могут быть аналогичны традиционному шпионажу, хотя и в новых масштабах. Другие атаки, такие как цифровые кампании по вмешательству в выборы в социальных сетях, скорее относятся к пропаганде, дезинформации и политическому воздействию — но благодаря вездесущей цифровизации и сетевым платформам это возможно в более широких масштабах и с более высокой эффективностью, чем в предыдущие эпохи. Существуют также формы кибернетического воздействия, которые способны нанести физические потери, сходные с традиционными боевыми потерями. Но как выяснить, началась ли кибервойна, какова ее природа и как далеко она может зайти? Очевидно, что крупнейшие страны в настоящее время вовлечены в некий киберконфликт, природу или масштаб которого невозможно однозначно определить.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Порез»: как девушки-подростки живут с ментальными расстройствами «Порез»: как девушки-подростки живут с ментальными расстройствами

Отрывок из романа «Порез» о долгом пути к преодолению душевных травм

Forbes
Как снять боль, если вы обожгли язык: 8 проверенных методов Как снять боль, если вы обожгли язык: 8 проверенных методов

Обжечь язык легко, но как справиться с этой болью?

ТехИнсайдер
Как сделать удаленный рабочий стол и какой софт для этого использовать Как сделать удаленный рабочий стол и какой софт для этого использовать

Как сделать подключение к удаленному рабочему столу под управлением Windows

CHIP
Гороскоп нового времени: как предсказать свое будущее с помощью ДНК-тестов Гороскоп нового времени: как предсказать свое будущее с помощью ДНК-тестов

Люди запрашивают множество разных тестов, но ситуация с ними весьма запутанна

Вокруг света
Кружок, два глаза и улыбка: кто и когда придумал первый смайлик Кружок, два глаза и улыбка: кто и когда придумал первый смайлик

Как родилась идея смайлика, которая впоследствии изменила мир

ТехИнсайдер
«Ноев ковчег» для семян: как устроено «хранилище Судного дня» «Ноев ковчег» для семян: как устроено «хранилище Судного дня»

Стратегический запас семян на черный день — идея не новая

Вокруг света
Экспериментатор, мелодист и романтик. Полу Маккартни — 80 Экспериментатор, мелодист и романтик. Полу Маккартни — 80

Разбираемся в музыкальной биографии Пола Маккартни

Правила жизни
Африканские автомобили, о которых вы скорее всего не слышали Африканские автомобили, о которых вы скорее всего не слышали

Мало кто знает, что в Африке тоже есть автомобилестроение

ТехИнсайдер
«Дорого заплатила за опыт»: как Василиса Волкова ушла из банка и стала ресторатором «Дорого заплатила за опыт»: как Василиса Волкова ушла из банка и стала ресторатором

Основательница S.I.D.R Group о том, как меняется гастрономический маркетинг

Forbes
Как найти смысл жизни при любых обстоятельствах: примеры из практики Виктора Франкла Как найти смысл жизни при любых обстоятельствах: примеры из практики Виктора Франкла

Отрывок из книги Виктора Франкла «О смысле жизни»

Psychologies
Какие бывают пищевые добавки, и стоит ли их бояться Какие бывают пищевые добавки, и стоит ли их бояться

Стоит ли избегать продуктов с «Е» в составе?

ТехИнсайдер
Шокирующие факты из документального фильма про Дженнифер Лопес: тяжелое выступление с Шакирой на Супербоуле, сексизм и политика Шокирующие факты из документального фильма про Дженнифер Лопес: тяжелое выступление с Шакирой на Супербоуле, сексизм и политика

Как прошло выступление Дженнифер Лопес и Шакиры на Супербоуле в 2020 году

Правила жизни
Сицилийский галстук, испанский стыд и другие интересные выражения-иностранцы Сицилийский галстук, испанский стыд и другие интересные выражения-иностранцы

Идиомы с иностранными отсылками, которые прописались в нашем словаре

Maxim
Палеоантропологи обнаружили в Колыбели человечества 15 зубов парантропов Палеоантропологи обнаружили в Колыбели человечества 15 зубов парантропов

Палеоантропологи исследовали зубы, обнаруженные в комплексе пещер Дримолен

N+1
Плохой коп и очень плохой коп Плохой коп и очень плохой коп

Татьяна Алешичева о новом сериале Дэвида Саймона

Weekend
Как стать везунчиком: психологи назвали 10 способов приманить к себе удачу Как стать везунчиком: психологи назвали 10 способов приманить к себе удачу

На самом деле везучесть — это своего рода скилл, который тоже можно «прокачать»

Psychologies
Полезен ли сельдерей: правда и мифы о его влиянии Полезен ли сельдерей: правда и мифы о его влиянии

Сельдерей — растение, которое используют в кулинарии целиком, от семян до корня

РБК
Самые умные породы кошек, которые могут удивить своим интеллектом Самые умные породы кошек, которые могут удивить своим интеллектом

Кошки — невероятно умные существа

ТехИнсайдер
Завтрак от громовой птицы: ученые раскрыли секрет древней австралийской яичницы Завтрак от громовой птицы: ученые раскрыли секрет древней австралийской яичницы

Аборигены Зеленого континента знали толк в сытной еде

Вокруг света
Нужен ли вам мозг на самом деле? Нужен ли вам мозг на самом деле?

«Кора головного мозга отвечает за гораздо меньшее, чем думают большинство людей»

Вокруг света
5 способов прокачать знание иностранных языков с помощью музыки 5 способов прокачать знание иностранных языков с помощью музыки

Можно ли использовать музыку для изучения иностранных языков?

ТехИнсайдер
Совместность рождает небывалое Совместность рождает небывалое

Как выстраивать здоровые партнерские отношения, вести бизнес с друзьями и семьей

Seasons of life
Ментоловые слезы. О фильме «Главная роль» Ментоловые слезы. О фильме «Главная роль»

«Главная роль» — фильм аргентинских режиссеров Мариано Кона и Гастона Дюпра

СНОБ
Как галактики превращаются в ярчайшие квазары: загадка, о которой спорят до сих пор Как галактики превращаются в ярчайшие квазары: загадка, о которой спорят до сих пор

Что-то странное происходит во Вселенной

ТехИнсайдер
Крепостное право в России: когда крестьянин мог надеяться на вольную жизнь и мог ли вообще Крепостное право в России: когда крестьянин мог надеяться на вольную жизнь и мог ли вообще

Не надо путать крепостного с рабом. Раб себя выкупить не мог

ТехИнсайдер
Что делать для сохранения ментального здоровья: советы и лайфхаки от психолога Что делать для сохранения ментального здоровья: советы и лайфхаки от психолога

Чувствуешь, что уже "не вывозишь"? Что же делать?

VOICE
Классика для жизни Классика для жизни

«Следовать за мыслями великого человека есть наука самая занимательная»

Seasons of life
Как управлять эффектом бабочки и динозаврами, выходящими из-за угла: интервью с математиком, которому любопытно Как управлять эффектом бабочки и динозаврами, выходящими из-за угла: интервью с математиком, которому любопытно

Разговор с ученым и популяризатором науки Сергеем Самойленко

ТехИнсайдер
Когда надежды были большими Когда надежды были большими

Что нам осталось от Виктора Цоя

Weekend
Ученые: люди на Марсе будут строить дома с помощью мочевины и пить комбучу Ученые: люди на Марсе будут строить дома с помощью мочевины и пить комбучу

Стали известны подробности жизни на Красной планете

Вокруг света
Открыть в приложении