Как научиться распознавать технологические манипуляции

ForbesРепортаж

Цифровой сценарист: как ИИ создает иллюзию свободы выбора

Иван Серов

Фото Getty Images

Согласно данным исследования американского психолога Эллен Лангер, которая впервые описала феномен иллюзии контроля, люди часто переоценивают степень собственного контроля и уверены, что принимают решения самостоятельно. На самом деле нашим выбором все чаще управляют алгоритмы рекомендаций, таргетированная реклама и персонализированный контент из рассылок, созданные искусственным интеллектом. О том, можно ли защитить личную свободу выбора и как научиться распознавать технологические манипуляции, в колонке для Forbes рассуждает эксперт в области машинного обучения и ИИ Иван Серов.

Как алгоритмы формируют ложные ориентиры

Человек быстро привыкает к технологиям, воспринимает их как должное и начинает им чрезмерно доверять. При этом когнитивные способности людей, постоянно использующих вспомогательную технологию, ухудшаются. Наглядный пример — использование GPS. Навигаторы часто обманывают водителей, а те слепо следуют указаниям программы, не обращая внимания на реальную обстановку на дороге. Если водитель всегда слушается систему навигации, он теряет способность ориентироваться на местности и быстро принимать правильные решения в опасных ситуациях за рулем. Так привычка полагаться на технологии снижает критичность восприятия.

Аналогичный эффект оказывают алгоритмы ИИ, управляющие соцсетями. Согласно исследованию Pew Research Center, они направляют огромное количество людей к контенту, который вовлекает их просто потому, что вызывает злость и разжигает эмоции. Так людей подталкивают к мыслям и решениям, которые они могли бы не совершать, наблюдая другой контекст.

Вижу то, что нравится

Алгоритмы формируют информационный пузырь вокруг каждого из нас. Иногда контраст между реальностями, в которых живут члены одной семьи, поражает. Многие не видят, насколько досконально и незаметно алгоритмы изучают их поведение, эмоции и предпочтения. Человек полагает, что самостоятельно выбирает контент в Instagram (принадлежит Meta, которая признана в России экстремистской и запрещена), хотя на самом деле его предлагает рекомендация, построенная ИИ после детального изучения вкусов. И когда алгоритм подсовывает пользователям то, что выгодно кому-то, но прячет альтернативную информацию, которая могла бы пробудить осознанность, человек видит мир через фильтр своих предыдущих предпочтений. А это ограничивает возможность свободного выбора и выхода за рамки привычного. Так алгоритмы контролируют нас, препятствуют росту осознанности и расширению мировоззрения. Причем это окружает нас повсюду:

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

История купальника: как борьба за право раздеться привела к обратному результату История купальника: как борьба за право раздеться привела к обратному результату

Раньше женщинам запрещали раздеваться, а теперь — одеваться

Forbes
Сезон айс-латте начался, а полезно ли вообще пить холодный кофе? Спойлер: еще как! Сезон айс-латте начался, а полезно ли вообще пить холодный кофе? Спойлер: еще как!

О пользе обычного кофе известно немало, а что насчет пользы холодного напитка?

ТехИнсайдер
Право на смелость Право на смелость

Певица Люся Чеботина и психолог Анетта Орлова — о любви к себе и сепарации

Psychologies
Зуб мудрости: удалять нельзя оставить Зуб мудрости: удалять нельзя оставить

Все «за» и «против» удаления зубов мудрости

Здоровье
От Петра I до коней на Манежной площади: главные работы Зураба Церетели От Петра I до коней на Манежной площади: главные работы Зураба Церетели

Ключевые работы Зураба Церетели, без которых сложно представить облик городов

Forbes
8 вещей, которые нашатырный спирт сделает идеально чистыми 8 вещей, которые нашатырный спирт сделает идеально чистыми

Аммиак — один из самых мощных и недорогих бытовых очистителей

VOICE
Как на облаке Как на облаке

Чистим матрас в домашних условиях

Лиза
Малые города для большого потока Малые города для большого потока

Российские туристы стали больше интересоваться малыми городами страны

Ведомости
Липецк: за рулем и пешком Липецк: за рулем и пешком

Как в Липецкой области мастера восстанавливают связь между прошлым и настоящим

Вокруг света
Поднять ставки Поднять ставки

Высокие проценты по вкладам в банке: в чем подвох

Лиза
Территория детства Территория детства

7 особенностей дизайна, которые точно понравятся твоему ребенку

Лиза
В средневековом европейском борделе похоронили трехмесячного мальчика В средневековом европейском борделе похоронили трехмесячного мальчика

Ученые описали захоронение младенца в средневековом борделе Бельгии

N+1
«Мы можем подобрать рекламные механики для любого бизнеса» «Мы можем подобрать рекламные механики для любого бизнеса»

Дмитрий Константин о том, как создать эффективную рекламную платформу

Деньги
Самые научно точные фильмы про космос Самые научно точные фильмы про космос

Существуют ли достоверные художественные фильмы про космос?

Maxim
Кто победил бы в битве звезд боевиков 80-х про единоборства Кто победил бы в битве звезд боевиков 80-х про единоборства

Кто самый сильный — Брюс Ли или Джеки Чан? Стивен Сигал или Чак Норрис?

Maxim
Куда приводят мечты инженеров Куда приводят мечты инженеров

Маршрут выходного дня по Калужской области

Weekend
Зарплатно-гендерный вопрос Зарплатно-гендерный вопрос

Удовлетворенность размером зарплаты среди мужчин и женщин практически сравнялась

Ведомости
Святая вода из Эфиопии вызвала семь случаев устойчивой холеры в Европе Святая вода из Эфиопии вызвала семь случаев устойчивой холеры в Европе

Вспышка холеры в Европе: во всем виновата святая вода из Эфиопии

N+1
5 неожиданных технологий, которые изменили 3D-графику 5 неожиданных технологий, которые изменили 3D-графику

Какие технологии стояли у истоков современной 3D-графики

ТехИнсайдер
«Санкционный механизм — это “Титаник”, но Трамп хочет договориться» «Санкционный механизм — это “Титаник”, но Трамп хочет договориться»

О том, как выстраиваются отношения российского и американского бизнеса

Эксперт
Бурялом Бурялом

Перед ним появилась огромная голова зверя с вытянутой мордой и острыми ушами...

Наука и жизнь
50 самых высокооплачиваемых спортсменов в истории с учетом инфляции 50 самых высокооплачиваемых спортсменов в истории с учетом инфляции

Самые высокооплачиваемые и успешные спортсменов в истории

Forbes
Как Мэй Хабиб заработала $285 млн на ИИ-агентах, способных заменить 90% работников Как Мэй Хабиб заработала $285 млн на ИИ-агентах, способных заменить 90% работников

Как Мэй Хабиб создает ПО на базе ИИ, которое берет на себя рутинные задачи

Forbes
Как USAID научило армян ненавидеть Россию Как USAID научило армян ненавидеть Россию

Операция USAID под кодовым названием «Армения» войдет в учебники

Монокль
Почему беспроводные наушники быстро разряжаются Почему беспроводные наушники быстро разряжаются

Причины, по которым беспроводные наушники быстро разряжаются

CHIP
Социальные круги: почему мы не можем дружить со всеми Социальные круги: почему мы не можем дружить со всеми

Отрывок из книги «Homo Amicus. Деловой человек в поисках друга»

Forbes
Осень картеля Осень картеля

Почему ОПЕК+ решил ускорить восстановительный рост нефтедобычи

Монокль
Мужчина мечты Мужчина мечты

Хочет ли Ярослав Могильников остаться в кино и как проходят его первые свидания

VOICE
От жуткого хоррора до ироничной пародии: как кино переосмысливает классические сказки на новый лад От жуткого хоррора до ироничной пародии: как кино переосмысливает классические сказки на новый лад

Оригинальные проекты, переосмысливающие классические сказки в неожиданном ключе

Правила жизни
К чему приведет отмена лимитов по IT-ипотеке К чему приведет отмена лимитов по IT-ипотеке

Банки положительно оценивают отмену лимитов по IT-ипотеке

Ведомости
Открыть в приложении