Как научиться распознавать технологические манипуляции

ForbesРепортаж

Цифровой сценарист: как ИИ создает иллюзию свободы выбора

Иван Серов

Фото Getty Images

Согласно данным исследования американского психолога Эллен Лангер, которая впервые описала феномен иллюзии контроля, люди часто переоценивают степень собственного контроля и уверены, что принимают решения самостоятельно. На самом деле нашим выбором все чаще управляют алгоритмы рекомендаций, таргетированная реклама и персонализированный контент из рассылок, созданные искусственным интеллектом. О том, можно ли защитить личную свободу выбора и как научиться распознавать технологические манипуляции, в колонке для Forbes рассуждает эксперт в области машинного обучения и ИИ Иван Серов.

Как алгоритмы формируют ложные ориентиры

Человек быстро привыкает к технологиям, воспринимает их как должное и начинает им чрезмерно доверять. При этом когнитивные способности людей, постоянно использующих вспомогательную технологию, ухудшаются. Наглядный пример — использование GPS. Навигаторы часто обманывают водителей, а те слепо следуют указаниям программы, не обращая внимания на реальную обстановку на дороге. Если водитель всегда слушается систему навигации, он теряет способность ориентироваться на местности и быстро принимать правильные решения в опасных ситуациях за рулем. Так привычка полагаться на технологии снижает критичность восприятия.

Аналогичный эффект оказывают алгоритмы ИИ, управляющие соцсетями. Согласно исследованию Pew Research Center, они направляют огромное количество людей к контенту, который вовлекает их просто потому, что вызывает злость и разжигает эмоции. Так людей подталкивают к мыслям и решениям, которые они могли бы не совершать, наблюдая другой контекст.

Вижу то, что нравится

Алгоритмы формируют информационный пузырь вокруг каждого из нас. Иногда контраст между реальностями, в которых живут члены одной семьи, поражает. Многие не видят, насколько досконально и незаметно алгоритмы изучают их поведение, эмоции и предпочтения. Человек полагает, что самостоятельно выбирает контент в Instagram (принадлежит Meta, которая признана в России экстремистской и запрещена), хотя на самом деле его предлагает рекомендация, построенная ИИ после детального изучения вкусов. И когда алгоритм подсовывает пользователям то, что выгодно кому-то, но прячет альтернативную информацию, которая могла бы пробудить осознанность, человек видит мир через фильтр своих предыдущих предпочтений. А это ограничивает возможность свободного выбора и выхода за рамки привычного. Так алгоритмы контролируют нас, препятствуют росту осознанности и расширению мировоззрения. Причем это окружает нас повсюду:

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Вредно ли заряжать телефон по ночам? Вредно ли заряжать телефон по ночам?

Как и когда заряжать смартфон наилучшим образом

CHIP
Зажигая маяки Зажигая маяки

Зимнее бездорожье длиной в 2 недели: что манит участников «Экспедиции-Трофи»?

Отдых в России
Сидеть по-русски… Сидеть по-русски…

Кресло, созданное Шутовым, — самый патриотичный предмет мебели для сидения

Дилетант
Войны сыновей Войны сыновей

Как потомки Вильгельма I делили его наследие

Дилетант
Кто победил бы в битве звезд боевиков 80-х про единоборства Кто победил бы в битве звезд боевиков 80-х про единоборства

Кто самый сильный — Брюс Ли или Джеки Чан? Стивен Сигал или Чак Норрис?

Maxim
Если села батарейка Если села батарейка

20 способов восстановиться за 15 минут

Лиза
Ученые говорят, что наши мышцы стареют не так быстро, как нам кажется Ученые говорят, что наши мышцы стареют не так быстро, как нам кажется

У пожилых людей мышечные повреждения после спортивных нагрузок не так серьезны

ТехИнсайдер
Заглянули под капот: ученые выяснили, как ИИ принимает решения на разных этапах Заглянули под капот: ученые выяснили, как ИИ принимает решения на разных этапах

Что такое метод SAE Match и как он поможет заглянуть в «душу» ИИ?

Forbes
Давай поженимся! Разбираемся, как подтолкнуть любимого к разговору на эту тему Давай поженимся! Разбираемся, как подтолкнуть любимого к разговору на эту тему

Вы уже вместе не один год, а предложения руки и сердца не поступало. Что делать?

Лиза
Минимум риска Минимум риска

5 финансовых рисков, которые случаются в жизни каждой женщины

Лиза
Секрет похудения, который заключается не в голодании или подсчете калорий Секрет похудения, который заключается не в голодании или подсчете калорий

Какое воздействие на организм окажет один день без углеводов?

ТехИнсайдер
Не ешь пирожок! Не ешь пирожок!

Составляем правильное меню для тебя (без булочек!)

VOICE
Терапия будущего Терапия будущего

Марк Бартон — про ИИ-психолога и инновации в сфере психологической помощи

Psychologies
Падая в пропасть Падая в пропасть

Страхи мешают жить? Познакомьтесь с ними и попытайтесь приручить

Psychologies
В ритме сердца: что такое HRV и так ли он важен В ритме сердца: что такое HRV и так ли он важен

Разбираем все, что нужно знать о вариабельности сердечного ритма

РБК
Исследование показало что удовлетворенность жизнью имеет генетические корни Исследование показало что удовлетворенность жизнью имеет генетические корни

Черты личности и удовлетворенность жизнью в большей степени наследуются

Inc.
Верни мой каменный топор Верни мой каменный топор

Вновь изобрести технологии каменного века занимательно, но зачем это нужно?

Вокруг света
6 причин, по которым простыни становятся серыми, и способы это исправить 6 причин, по которым простыни становятся серыми, и способы это исправить

Как предотвратить изменение цвета простыней

VOICE
Как преобразить ногти за 30 дней: советы мастера маникюра Как преобразить ногти за 30 дней: советы мастера маникюра

Как укрепить и подпитать ногти всего за четыре недели?

VOICE
Доступная и комфортная Арктика Доступная и комфортная Арктика

Какие архитектурные новации стоит внедрять в полярных городах

Эксперт
52 дня под водой: чем закончился рекордный эксперимент советской глубоководной станции «Черномор» 52 дня под водой: чем закончился рекордный эксперимент советской глубоководной станции «Черномор»

Как проходил эксперимент по самому длительному пребыванию акванавтов под водой

ТехИнсайдер
Энергостратегия-2050: поддадим газу, дадим угля! Энергостратегия-2050: поддадим газу, дадим угля!

Перспективы развития топливно-энергетического комплекса России

Монокль
Победители и побеждённые Победители и побеждённые

Противоречивый мир Англии: норманны властвовали землей, а саксы её возделывали

Дилетант
«Огонь-батареи»: как изменились космические солнечные батареи за 67 лет «Огонь-батареи»: как изменились космические солнечные батареи за 67 лет

Какой путь прошли солнечные элементы космического типа с момента изобретения?

ТехИнсайдер
Минеральные льготы: как работает господдержка производителей удобрений Минеральные льготы: как работает господдержка производителей удобрений

Нуждаются ли компании отрасли удобрений в дополнительной поддержке?

Forbes
Квазивалютный бизнес Квазивалютный бизнес

Что такое квазивалютные кредиты в китайских юанях и как они работают

Ведомости
Диктатура и женские форумы: как жительницы Латинской Америки боролись за свои права Диктатура и женские форумы: как жительницы Латинской Америки боролись за свои права

Как латиноамериканки прошлого боролись за гендерное равенство

Forbes
Олег Липовецкий: Режиссер – это бог в пределах своих компетенций Олег Липовецкий: Режиссер – это бог в пределах своих компетенций

Олег Липовецкий рассказал, как руководящая должность сделала его мизантропом

Ведомости
Кто такие «бежевые» мамы и чем опасен новый тренд? Кто такие «бежевые» мамы и чем опасен новый тренд?

Почему «бежевое материнство» стало популярным и в чем его опасность для ребенка?

VOICE
«Перезапуск будущего. Как „починить“ нематериальную экономику» «Перезапуск будущего. Как „починить“ нематериальную экономику»

Связь между нематериальной экономикой и усугублением проблемы неравенства

N+1
Открыть в приложении