Как научиться распознавать технологические манипуляции

ForbesРепортаж

Цифровой сценарист: как ИИ создает иллюзию свободы выбора

Иван Серов

Фото Getty Images

Согласно данным исследования американского психолога Эллен Лангер, которая впервые описала феномен иллюзии контроля, люди часто переоценивают степень собственного контроля и уверены, что принимают решения самостоятельно. На самом деле нашим выбором все чаще управляют алгоритмы рекомендаций, таргетированная реклама и персонализированный контент из рассылок, созданные искусственным интеллектом. О том, можно ли защитить личную свободу выбора и как научиться распознавать технологические манипуляции, в колонке для Forbes рассуждает эксперт в области машинного обучения и ИИ Иван Серов.

Как алгоритмы формируют ложные ориентиры

Человек быстро привыкает к технологиям, воспринимает их как должное и начинает им чрезмерно доверять. При этом когнитивные способности людей, постоянно использующих вспомогательную технологию, ухудшаются. Наглядный пример — использование GPS. Навигаторы часто обманывают водителей, а те слепо следуют указаниям программы, не обращая внимания на реальную обстановку на дороге. Если водитель всегда слушается систему навигации, он теряет способность ориентироваться на местности и быстро принимать правильные решения в опасных ситуациях за рулем. Так привычка полагаться на технологии снижает критичность восприятия.

Аналогичный эффект оказывают алгоритмы ИИ, управляющие соцсетями. Согласно исследованию Pew Research Center, они направляют огромное количество людей к контенту, который вовлекает их просто потому, что вызывает злость и разжигает эмоции. Так людей подталкивают к мыслям и решениям, которые они могли бы не совершать, наблюдая другой контекст.

Вижу то, что нравится

Алгоритмы формируют информационный пузырь вокруг каждого из нас. Иногда контраст между реальностями, в которых живут члены одной семьи, поражает. Многие не видят, насколько досконально и незаметно алгоритмы изучают их поведение, эмоции и предпочтения. Человек полагает, что самостоятельно выбирает контент в Instagram (принадлежит Meta, которая признана в России экстремистской и запрещена), хотя на самом деле его предлагает рекомендация, построенная ИИ после детального изучения вкусов. И когда алгоритм подсовывает пользователям то, что выгодно кому-то, но прячет альтернативную информацию, которая могла бы пробудить осознанность, человек видит мир через фильтр своих предыдущих предпочтений. А это ограничивает возможность свободного выбора и выхода за рамки привычного. Так алгоритмы контролируют нас, препятствуют росту осознанности и расширению мировоззрения. Причем это окружает нас повсюду:

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Управляющая компания: как бактерии руководят людьми Управляющая компания: как бактерии руководят людьми

Нашей жизнью управляют триллионы крошечных существ

Вокруг света
Индейка на взлете Индейка на взлете

Российское производство мяса индейки выросло почти на 4%

Агроинвестор
«Огонь-батареи»: как изменились космические солнечные батареи за 67 лет «Огонь-батареи»: как изменились космические солнечные батареи за 67 лет

Какой путь прошли солнечные элементы космического типа с момента изобретения?

ТехИнсайдер
Щедры на дивиденды Щедры на дивиденды

Какие компании в этом году поделятся прибылью с акционерами

Деньги
5 неожиданных технологий, которые изменили 3D-графику 5 неожиданных технологий, которые изменили 3D-графику

Какие технологии стояли у истоков современной 3D-графики

ТехИнсайдер
Савва и Мария Савва и Мария

Мария Червоткина о материнском фэшн-пути и окситоциновых слезах

Собака.ru
Мужчина мечты Мужчина мечты

Хочет ли Ярослав Могильников остаться в кино и как проходят его первые свидания

VOICE
Дочери феи и дракона: как сестры Чынг собрали армию и освободили Древний Вьетнам Дочери феи и дракона: как сестры Чынг собрали армию и освободили Древний Вьетнам

Как сестры Чынг освободили Вьетнам из-под гнета Китая?

Forbes
Гита, жена Мономаха Гита, жена Мономаха

Первой женой Мономаха была дочь Гарольда Годвинсона, павшего при Гастингсе

Дилетант
Миниатюрный орнитоптер стал одноногим прыгуном Миниатюрный орнитоптер стал одноногим прыгуном

Как инженеры создали робота-прыгуна массой меньше грамма

N+1
Аграрный PR как часть стратегии развития компании Аграрный PR как часть стратегии развития компании

Какие эффективные инструменты маркетинговых коммуникаций используют в 2025 году

Агроинвестор
Если бабушка балует ребенка Если бабушка балует ребенка

Как тактично склонить старшее поколение на свою линию воспитания

Лиза
Если на месте не сидится Если на месте не сидится

Все существа, начиная с самых первых, неустанно пытались обрести движение

Наука и жизнь
Цена свободы Цена свободы

Свобода от российских энергоресурсов обошлась экономике Евросоюза в €1,3 трлн

Ведомости
Читай Читай

5 захватывающих графических романов

VOICE
От бронирования переговорной до входа в бизнес-зал: где используется биометрия в России От бронирования переговорной до входа в бизнес-зал: где используется биометрия в России

Зачем нужна биометрия и как ее использовать в России

ТехИнсайдер
Экологическая головоломка: как правильно убирать за собакой в 21 веке Экологическая головоломка: как правильно убирать за собакой в 21 веке

Как поддерживать чистоту после своей собаки, не нанося вреда окружающей среде?

Inc.
От «Больницы Питт» до «Терапии»: 8 лучших новых медицинских сериалов От «Больницы Питт» до «Терапии»: 8 лучших новых медицинских сериалов

Медицинские драмы переживают новую волну популярности! А вот их подборка

Forbes
Кто такая пикми: разбираем феномен пикми-герл с психологами Кто такая пикми: разбираем феномен пикми-герл с психологами

Что стоит за пикми-поведением?

РБК
Культура сбережений: зачем откладывать на завтра то, что можно потратить сегодня? Культура сбережений: зачем откладывать на завтра то, что можно потратить сегодня?

Зачем каждому гражданину нужно выработать у себя привычку делать сбережения?

Наука и техника
Как крупнейшая в мире миротворческая организация вызвала эпидемию, от которой погибли 10 000 человек Как крупнейшая в мире миротворческая организация вызвала эпидемию, от которой погибли 10 000 человек

Как в 2010 году миротворческая организация вызвала на Гаити эпидемию холеры

ТехИнсайдер
Недоросли, скотинины, бригадиры и Стародум Недоросли, скотинины, бригадиры и Стародум

И спустя 200 лет пьесы Дениса Фонвизина остаются интересны и востребованы

Знание – сила
Путь от бастарда до монарха Путь от бастарда до монарха

Как бастарду Вильгельму I удалось превратить свою мечту о короне в реальность?

Дилетант
Юродивый из Лефортова Юродивый из Лефортова

Почему смерть рэпера обсуждала вся страна и что не так с молодежной политикой?

Монокль
Золотые гривы Золотые гривы

Как в Ивашкове появилось ранчо с золотогривыми лошадьми

Отдых в России
Одуванчик на голове: почему от влажности волосы пушатся и завиваются Одуванчик на голове: почему от влажности волосы пушатся и завиваются

Почему же влажность «пушит» наши локоны и можно ли с этим что-то сделать?

ТехИнсайдер
Тонкости переобувки: чем опасны старые шины и как избежать штрафов за утилизацию Тонкости переобувки: чем опасны старые шины и как избежать штрафов за утилизацию

Чем опасна пыль от истирания колес и почему покрышки нельзя сжигать в костре?

ТехИнсайдер
Непростая материя Непростая материя

Секреты, которые скрывают узоры ивановских тканей

Вокруг света
Месть и немного любви: пять лучших фильмов этой весны о женщинах Месть и немного любви: пять лучших фильмов этой весны о женщинах

Рассказываем о пяти фильмах про женщин, которые стоит посмотреть

Forbes
На высшей точке На высшей точке

В чем причины холодности женщины и как сделать наслаждение ярким

Лиза
Открыть в приложении