Как научиться распознавать технологические манипуляции

ForbesРепортаж

Цифровой сценарист: как ИИ создает иллюзию свободы выбора

Иван Серов

Фото Getty Images

Согласно данным исследования американского психолога Эллен Лангер, которая впервые описала феномен иллюзии контроля, люди часто переоценивают степень собственного контроля и уверены, что принимают решения самостоятельно. На самом деле нашим выбором все чаще управляют алгоритмы рекомендаций, таргетированная реклама и персонализированный контент из рассылок, созданные искусственным интеллектом. О том, можно ли защитить личную свободу выбора и как научиться распознавать технологические манипуляции, в колонке для Forbes рассуждает эксперт в области машинного обучения и ИИ Иван Серов.

Как алгоритмы формируют ложные ориентиры

Человек быстро привыкает к технологиям, воспринимает их как должное и начинает им чрезмерно доверять. При этом когнитивные способности людей, постоянно использующих вспомогательную технологию, ухудшаются. Наглядный пример — использование GPS. Навигаторы часто обманывают водителей, а те слепо следуют указаниям программы, не обращая внимания на реальную обстановку на дороге. Если водитель всегда слушается систему навигации, он теряет способность ориентироваться на местности и быстро принимать правильные решения в опасных ситуациях за рулем. Так привычка полагаться на технологии снижает критичность восприятия.

Аналогичный эффект оказывают алгоритмы ИИ, управляющие соцсетями. Согласно исследованию Pew Research Center, они направляют огромное количество людей к контенту, который вовлекает их просто потому, что вызывает злость и разжигает эмоции. Так людей подталкивают к мыслям и решениям, которые они могли бы не совершать, наблюдая другой контекст.

Вижу то, что нравится

Алгоритмы формируют информационный пузырь вокруг каждого из нас. Иногда контраст между реальностями, в которых живут члены одной семьи, поражает. Многие не видят, насколько досконально и незаметно алгоритмы изучают их поведение, эмоции и предпочтения. Человек полагает, что самостоятельно выбирает контент в Instagram (принадлежит Meta, которая признана в России экстремистской и запрещена), хотя на самом деле его предлагает рекомендация, построенная ИИ после детального изучения вкусов. И когда алгоритм подсовывает пользователям то, что выгодно кому-то, но прячет альтернативную информацию, которая могла бы пробудить осознанность, человек видит мир через фильтр своих предыдущих предпочтений. А это ограничивает возможность свободного выбора и выхода за рамки привычного. Так алгоритмы контролируют нас, препятствуют росту осознанности и расширению мировоззрения. Причем это окружает нас повсюду:

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

10 самых ядовитых растений 10 самых ядовитых растений

Большинство растений кажутся безобидными, но их не стоит недооценивать

Популярная механика
В средневековом европейском борделе похоронили трехмесячного мальчика В средневековом европейском борделе похоронили трехмесячного мальчика

Ученые описали захоронение младенца в средневековом борделе Бельгии

N+1
Культурный виноград появился на Сардинии больше трех тысяч лет назад Культурный виноград появился на Сардинии больше трех тысяч лет назад

Самый ранний культурный виноград выращивали на Сардинии

N+1
Астрономы впервые достоверно нашли экзопланету с кратной полярной орбитой Астрономы впервые достоверно нашли экзопланету с кратной полярной орбитой

Ученые впервые подтвердили существование экзопланеты с кратной полярной орбитой

N+1
Не ешь пирожок! Не ешь пирожок!

Составляем правильное меню для тебя (без булочек!)

VOICE
Трактор заедет в конкурентную нишу Трактор заедет в конкурентную нишу

Производство тракторов во Владимире: инвестиции, технологии, команда

Монокль
Там, где свет слушает звук Там, где свет слушает звук

Как и для чего создаются гиперспектрометры и мультиспектральные камеры

Наука и жизнь
Система Юпитера: Ганимед и Каллисто Система Юпитера: Ганимед и Каллисто

Что делает Ганимед и Каллисто очень интересными космическими телами?

Наука и техника
«Мы можем подобрать рекламные механики для любого бизнеса» «Мы можем подобрать рекламные механики для любого бизнеса»

Дмитрий Константин о том, как создать эффективную рекламную платформу

Деньги
Верни мой каменный топор Верни мой каменный топор

Вновь изобрести технологии каменного века занимательно, но зачем это нужно?

Вокруг света
Умер Зураб Церетели: вспоминаем 11 самых грандиозных и неоднозначных работ скульптора Умер Зураб Церетели: вспоминаем 11 самых грандиозных и неоднозначных работ скульптора

Самые яркие его шедевры художника-монументалиста Зураба Церетели

Maxim
Голодные игры: как российским компаниям выжить в борьбе за последних специалистов Голодные игры: как российским компаниям выжить в борьбе за последних специалистов

Как радикально повысить производительности труда?

Forbes
Взлетная полоса Взлетная полоса

Брутальный и динамичный интерьер для молодого человека

SALON-Interior
Библиотекам подключат рекомендации Библиотекам подключат рекомендации

Как помочь библиотекам выявлять нарушающие законы издания?

Ведомости
Ольга Виниченко: «Беременность случилась тогда, когда я была к ней готова» Ольга Виниченко: «Беременность случилась тогда, когда я была к ней готова»

Ольга Виниченко: «Это были слезы радости и абсолютного удивления»

Караван историй
Олег Липовецкий: Режиссер – это бог в пределах своих компетенций Олег Липовецкий: Режиссер – это бог в пределах своих компетенций

Олег Липовецкий рассказал, как руководящая должность сделала его мизантропом

Ведомости
Суперсила любви Суперсила любви

Как чувство любви формирует нашу жизнь и влияет на развитие цивилизации?

Psychologies
5 полезных устройств для тех, кто затеял ремонт 5 полезных устройств для тех, кто затеял ремонт

Подборка полезной и надежной техники для ремонта

CHIP
Стремительный разгон и быстрый взлет: самые короткие взлетно-посадочные полосы в мире Стремительный разгон и быстрый взлет: самые короткие взлетно-посадочные полосы в мире

Аэропорты, взлетно-посадочные полосы которых проверяют пилотов на прочность

ТехИнсайдер
Жуткая история Крис Кремерс и Лизанны Фрун, которые исчезли во время похода в Панаме Жуткая история Крис Кремерс и Лизанны Фрун, которые исчезли во время похода в Панаме

Жуткая история туристок, от которых остались только кости

ТехИнсайдер
Лошади стали прекрасными бегунами из-за генетической ошибки Лошади стали прекрасными бегунами из-за генетической ошибки

Мутация, из-за которой лошади должны были вымереть, но стали отличными бегунами

ТехИнсайдер
Вячеслав Богдан: «Бизнес – это искусство вовремя отпускать» Вячеслав Богдан: «Бизнес – это искусство вовремя отпускать»

Спорт всегда был важной частью жизни сооснователя Flowwow Вячеслава Богдана

Ведомости
За 10 лет арктические дафнии не смогли приспособиться к потеплению За 10 лет арктические дафнии не смогли приспособиться к потеплению

Почему особи бесполых дафний плохо переносят потепление

N+1
Новое исследование: мат улучшает спортивные результаты Новое исследование: мат улучшает спортивные результаты

Как «матюки» во время физических нагрузок помогают превзойти свои возможности

Maxim
Жизнь без конца Жизнь без конца

Как секс делает нас бессмертными

Men Today
8 советов стоматологов, как быстро и просто улучшить состояние зубов 8 советов стоматологов, как быстро и просто улучшить состояние зубов

Как поддерживать красоту и здоровье зубов

ТехИнсайдер
Как называют самцов мухи, божьей коровки и других животных Как называют самцов мухи, божьей коровки и других животных

Как называют самцов и самок разных животных?

Maxim
Маме не говори Маме не говори

О чем не стоит рассказывать даже маме? Вернее – особенно ей?

VOICE
Шебби-шик Шебби-шик

Особенности самого уютного стиля и его применение в интерьере

Лиза
Аграрный PR как часть стратегии развития компании Аграрный PR как часть стратегии развития компании

Какие эффективные инструменты маркетинговых коммуникаций используют в 2025 году

Агроинвестор
Открыть в приложении