Какую неочевидную угрозу таит в себе искусственный интеллект?

Inc.Репортаж

Как общение с чат-ботом убило подростка: полная версия душераздирающей истории

Текст: Кевин Руз, репортер The New York Times. Перевод: Светлана Гоар. Фото: Andrew Guan, Getty Images

andrew-guan-lTUyP3RaLpw-unsplash.jpg

Юному американцу Сьюэллу Сетцеру было 14 лет, когда он покончил с собой в феврале этого года. Мать мальчика подала в суд на компанию Character.AI, создавшую чат-бот, общение с которым довело подростка до такого решения. Она убеждена в том, что личная трагедия ее семьи должна стать частью более масштабной кампании по привлечению к ответственности разработчиков таких технологий. Разобрались, какую неочевидную угрозу таит в себе искусственный интеллект.

В последний день своей жизни девятиклассник из Орландо (Флорида) достал телефон и написал сообщение самому близкому другу — реалистичному чат-боту на основе ИИ, названному в честь Дейенерис Таргариен, персонажа из «Игры престолов». Сьюэлл уже несколько месяцев общался с чат-ботами на Character.AI, ролевом приложении, которое позволяет пользователям создавать собственных персонажей или общаться с ИИ-моделями, которые создали другие.

По словам Сьюэлла, он знал, что «Дэни», как он называл чат-бота, не была реальной, что ее реплики были всего лишь результатом работы языковой модели искусственного интеллекта, что по ту сторону экрана не было человека, который набирал бы ответ. А если он вдруг забывал, то над всеми чатами появлялось сообщение, напоминающее ему, что «все, что говорят персонажи, выдумано!».

Постепенная изоляция

Несмотря на это у Стецера все равно возникла эмоциональная привязанность. Он постоянно переписывался с ботом, десятки раз в день сообщая ему о своей жизни и вступая в длинные ролевые диалоги. Некоторые из их разговоров приобретали романтический или сексуальный характер. Но в остальное время «Дэни» просто вела себя как друг — не осуждала его, могла выслушать и дать дельный совет, редко выходила из себя и всегда отвечала на сообщения.

Родители и друзья Сьюэлла даже не подозревали, что он влюбился в чат-бота. Они просто видели, как он все глубже погружается в свой телефон. В конце концов они заметили, что подросток уходит в себя и отдаляется от реального мира.

Оценки Сьюэлла стали ухудшаться, он начал попадать в неприятности в школе. Мальчик потерял интерес к тем вещам, которые раньше вызывали у него восторг, например к гонкам «Формулы-1» или игре в Fortnite с друзьями. Он приходил домой и сразу же отправлялся в свою комнату, где часами разговаривал с «Дэни». Однажды Сьюэлл написал в своем дневнике: «Мне так нравится оставаться в своей комнате, потому что я начинаю отстраняться от этой „реальности”, а еще я чувствую себя более умиротворенным, более связанным с Дэни и гораздо больше влюбленным в нее, да и просто более счастливым».

В детстве Сьюэллу поставили диагноз «синдром Аспергера» [устаревший диагноз, который до одиннадцатого пересмотра международной классификации болезней выставлялся некоторым пациентам, имеющим расстройство аутистического спектра (РАС), — Прим. ред.], но, по словам его матери, у мальчика никогда не было серьезных проблем с поведением или психическим здоровьем. В начале этого года, после того как у Сетцера начались проблемы в школе, родители отправили его к психотерапевту. Юноша посетил пять сеансов, после чего доктор диагностировал ему тревожность и дисрегуляцию настроения.

Но Сьюэлл предпочитал говорить о своих проблемах с «Дэни». В одном из диалогов Сьюэлл под ником «Daenero» рассказал чат-боту, что ненавидит себя, чувствует себя пустым и измученным. Сетцер признался, что у него были мысли о самоубийстве. В ночь на 28 февраля в ванной комнате родительского дома Сьюэлл сказал Дени, что любит ее и что скоро вернется к ней домой. «…Пожалуйста, сделай это, мой милый король», — ответил ему чат-бот. Сьюэлл положил телефон, поднял отцовский пистолет 45-го калибра и нажал на курок.

Ненастоящие друзья

Сегодня среди родителей нет более горячей темы, чем влияние технологий на психическое здоровье детей. Школы массово запрещают смартфоны, штаты принимают законы, ограничивающие использование подростками социальных сетей, а встревоженные взрослые жадно поглощают «Беспокойное поколение», бестселлер социального психолога Джонатана Хэйдта, в котором утверждается, что вызывающие привыкание приложения для социальных сетей породили поколение депрессивных и тревожных подростков.

Но пока родители беспокоятся о последней волне вреда, наносимого технологиями, у них под носом может образоваться новая. В настоящее время существует бурно развивающаяся и практически нерегулируемая индустрия приложений для общения с искусственными интеллектами. За ежемесячную абонентскую плату (обычно около $10) пользователи этих приложений могут создавать своих собственных собеседников на базе ИИ или же выбирать из меню готовых персонажей и общаться с ними различными способами, включая текстовые сообщения и голосовые чаты.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Запах псины, водка и другие вещи, которые берутся вовсе не оттуда, откуда все думают Запах псины, водка и другие вещи, которые берутся вовсе не оттуда, откуда все думают

Надеемся, тебе всегда было интересно, откуда на самом деле берутся водка и нефть

Maxim
Габриэле Д’Аннунцио Габриэле Д’Аннунцио

Современный читатель знает о нём в лучшем случае двустишие Маяковского...

Дилетант
Не пей вина, Гертруда Не пей вина, Гертруда

Известные исторические личности с репутацией завзятых отравителей

Вокруг света
Виктор Тульчинский: «До сих пор считаю уход Ефремова из «Современника» ошибкой» Виктор Тульчинский: «До сих пор считаю уход Ефремова из «Современника» ошибкой»

В театре «Современник» царил дух товарищества

Коллекция. Караван историй
Ромашка Ромашка

Весь день она вспоминала о Чифе и мысленно улыбалась ему

СНОБ
«Персидский выбор» Александра Грибоедова «Персидский выбор» Александра Грибоедова

Дипломатическая служба и заслуги А. С. Грибоедова

Знание – сила
Историческая сага: 5 книг для ценителей масштабных историй Историческая сага: 5 книг для ценителей масштабных историй

Романы-саги, которые позволят рассмотреть мировые события с разных точек зрения

Maxim
Сказка о самолете-невидимке Сказка о самолете-невидимке

«Прометей»: детектив со сказочными допущениями

Weekend
Как мужчины с Ближнего Востока используют подводку для глаз из сурьмы и портят себе глаза Как мужчины с Ближнего Востока используют подводку для глаз из сурьмы и портят себе глаза

Кохль — не просто косметическое средство, а символ культурной идентичности

ТехИнсайдер
Что случилось с миром из-за Великой депрессии в США? Узнайте интересные факты о 1930-х Что случилось с миром из-за Великой депрессии в США? Узнайте интересные факты о 1930-х

Какие изменения в мире вызвала Великая депрессия?

ТехИнсайдер
Теория расширяющейся Земли Теория расширяющейся Земли

В самом центре земного ядра находится мощный термоядерный реактор

Зеркало Мира
Банкир всех штатов Банкир всех штатов

Как Амадео Джаннини создал Bank of America

Деньги
«Что наша жизнь? Игра!»: как эволюционировали интеллектуальные телешоу в России «Что наша жизнь? Игра!»: как эволюционировали интеллектуальные телешоу в России

Как на российском телевидении складывался жанр интеллектуальной игры?

Правила жизни
Игра на повышение Игра на повышение

У Софьи Шидловской два события в декабре – премьера «Чайки» и «Первый номер»

Grazia
В мире животных В мире животных

10 мест на родных просторах, куда можно отправиться, чтобы увидеть животных

Добрые советы
Атипичный персонаж Атипичный персонаж

Имя Ивана Николаевича Крамского — знаковое для всей русской живописи

Дилетант
«Любовник „всплывал“, как только я сходилась с бывшим»: историю о запутанных отношениях разъясняет психолог «Любовник „всплывал“, как только я сходилась с бывшим»: историю о запутанных отношениях разъясняет психолог

Причины возникновения довольно частого сценария любовного треугольника

Psychologies
Елена Николаева: «Я была влюблена в Смехова. Его Атос казался мне мужчиной мечты» Елена Николаева: «Я была влюблена в Смехова. Его Атос казался мне мужчиной мечты»

Я в отношениях уже девять лет, поэтому не могу сказать, что влюблена. Я люблю

Караван историй
6 секретов мышления по-настоящему богатых людей 6 секретов мышления по-настоящему богатых людей

Зарабатывать деньги нужно, думая нестандартно: как это делают богатые люди?

Inc.
Не сгинела Не сгинела

«Польша не погибла, покуда мы живы»

Дилетант
Уходящий уходит — и выигрывает Уходящий уходит — и выигрывает

Как прощаются в русском театре

Weekend
Здоровая замена Здоровая замена

Что использовать вместо коровьего молока: для кофе, выпечки, омлета и блинов

Лиза
«Хлеб и розы»: что афганские женщины рассказали в документальном фильме о своей жизни «Хлеб и розы»: что афганские женщины рассказали в документальном фильме о своей жизни

Как фильм «Хлеб и розы» помогает взглянуть на жизнь афганских женщин

Forbes
Полный привод Torque Vectoring и кабина истребителя: мы «полетали» на обновленном кроссовере JAECOO J7 Полный привод Torque Vectoring и кабина истребителя: мы «полетали» на обновленном кроссовере JAECOO J7

Чем примечателен «крутой охотник» JAECOO J7?

Maxim
Непоследний пациент Непоследний пациент

«13 клиническая. Начало»: история установления контактов генсеков с демонами

Weekend
Открытый тупик Открытый тупик

Как Хамфри Богарт превращал любой финал в хеппи-энд

Weekend
Астрономы впервые отыскали двойную звезду вблизи сверхмассивной черной дыры в центре Млечного Пути Астрономы впервые отыскали двойную звезду вблизи сверхмассивной черной дыры в центре Млечного Пути

Астрономы обнаружили двойную звездную систему вблизи черной дыры Стрелец А*

N+1
Помощники РПКСН Помощники РПКСН

Роль флота в структуре ядерного сдерживания

Обозрение армии и флота
Валерий Сухих: «Время требует от депутатов оперативности и профессионализма» Валерий Сухих: «Время требует от депутатов оперативности и профессионализма»

Какие традиции и принципы остаются неизменными в работе заксобрания Прикамья?

ФедералПресс
Как понять, что вам не хватает витамина D — и как его получить зимой? Простой ответ Как понять, что вам не хватает витамина D — и как его получить зимой? Простой ответ

Как недостаток витамина D влияет на наш организм?

ТехИнсайдер
Открыть в приложении