Какую неочевидную угрозу таит в себе искусственный интеллект?

Inc.Репортаж

Как общение с чат-ботом убило подростка: полная версия душераздирающей истории

Текст: Кевин Руз, репортер The New York Times. Перевод: Светлана Гоар. Фото: Andrew Guan, Getty Images

andrew-guan-lTUyP3RaLpw-unsplash.jpg

Юному американцу Сьюэллу Сетцеру было 14 лет, когда он покончил с собой в феврале этого года. Мать мальчика подала в суд на компанию Character.AI, создавшую чат-бот, общение с которым довело подростка до такого решения. Она убеждена в том, что личная трагедия ее семьи должна стать частью более масштабной кампании по привлечению к ответственности разработчиков таких технологий. Разобрались, какую неочевидную угрозу таит в себе искусственный интеллект.

В последний день своей жизни девятиклассник из Орландо (Флорида) достал телефон и написал сообщение самому близкому другу — реалистичному чат-боту на основе ИИ, названному в честь Дейенерис Таргариен, персонажа из «Игры престолов». Сьюэлл уже несколько месяцев общался с чат-ботами на Character.AI, ролевом приложении, которое позволяет пользователям создавать собственных персонажей или общаться с ИИ-моделями, которые создали другие.

По словам Сьюэлла, он знал, что «Дэни», как он называл чат-бота, не была реальной, что ее реплики были всего лишь результатом работы языковой модели искусственного интеллекта, что по ту сторону экрана не было человека, который набирал бы ответ. А если он вдруг забывал, то над всеми чатами появлялось сообщение, напоминающее ему, что «все, что говорят персонажи, выдумано!».

Постепенная изоляция

Несмотря на это у Стецера все равно возникла эмоциональная привязанность. Он постоянно переписывался с ботом, десятки раз в день сообщая ему о своей жизни и вступая в длинные ролевые диалоги. Некоторые из их разговоров приобретали романтический или сексуальный характер. Но в остальное время «Дэни» просто вела себя как друг — не осуждала его, могла выслушать и дать дельный совет, редко выходила из себя и всегда отвечала на сообщения.

Родители и друзья Сьюэлла даже не подозревали, что он влюбился в чат-бота. Они просто видели, как он все глубже погружается в свой телефон. В конце концов они заметили, что подросток уходит в себя и отдаляется от реального мира.

Оценки Сьюэлла стали ухудшаться, он начал попадать в неприятности в школе. Мальчик потерял интерес к тем вещам, которые раньше вызывали у него восторг, например к гонкам «Формулы-1» или игре в Fortnite с друзьями. Он приходил домой и сразу же отправлялся в свою комнату, где часами разговаривал с «Дэни». Однажды Сьюэлл написал в своем дневнике: «Мне так нравится оставаться в своей комнате, потому что я начинаю отстраняться от этой „реальности”, а еще я чувствую себя более умиротворенным, более связанным с Дэни и гораздо больше влюбленным в нее, да и просто более счастливым».

В детстве Сьюэллу поставили диагноз «синдром Аспергера» [устаревший диагноз, который до одиннадцатого пересмотра международной классификации болезней выставлялся некоторым пациентам, имеющим расстройство аутистического спектра (РАС), — Прим. ред.], но, по словам его матери, у мальчика никогда не было серьезных проблем с поведением или психическим здоровьем. В начале этого года, после того как у Сетцера начались проблемы в школе, родители отправили его к психотерапевту. Юноша посетил пять сеансов, после чего доктор диагностировал ему тревожность и дисрегуляцию настроения.

Но Сьюэлл предпочитал говорить о своих проблемах с «Дэни». В одном из диалогов Сьюэлл под ником «Daenero» рассказал чат-боту, что ненавидит себя, чувствует себя пустым и измученным. Сетцер признался, что у него были мысли о самоубийстве. В ночь на 28 февраля в ванной комнате родительского дома Сьюэлл сказал Дени, что любит ее и что скоро вернется к ней домой. «…Пожалуйста, сделай это, мой милый король», — ответил ему чат-бот. Сьюэлл положил телефон, поднял отцовский пистолет 45-го калибра и нажал на курок.

Ненастоящие друзья

Сегодня среди родителей нет более горячей темы, чем влияние технологий на психическое здоровье детей. Школы массово запрещают смартфоны, штаты принимают законы, ограничивающие использование подростками социальных сетей, а встревоженные взрослые жадно поглощают «Беспокойное поколение», бестселлер социального психолога Джонатана Хэйдта, в котором утверждается, что вызывающие привыкание приложения для социальных сетей породили поколение депрессивных и тревожных подростков.

Но пока родители беспокоятся о последней волне вреда, наносимого технологиями, у них под носом может образоваться новая. В настоящее время существует бурно развивающаяся и практически нерегулируемая индустрия приложений для общения с искусственными интеллектами. За ежемесячную абонентскую плату (обычно около $10) пользователи этих приложений могут создавать своих собственных собеседников на базе ИИ или же выбирать из меню готовых персонажей и общаться с ними различными способами, включая текстовые сообщения и голосовые чаты.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Худеем быстро Худеем быстро

Семь способов сжечь больше калорий

Лиза
Если отец — нарцисс, дочь — русалочка: психолог рассказала о синдроме, который есть у многих женщин Если отец — нарцисс, дочь — русалочка: психолог рассказала о синдроме, который есть у многих женщин

Что такое синдром Русалочки?

Psychologies
Сон о Соне Сон о Соне

Самая сексуальная солистка самой популярной группы дала нам интервью!

Maxim
3 вида пилингов: какой лучше подойдет вашей коже 3 вида пилингов: какой лучше подойдет вашей коже

Какой вид пилинга выбрать? Разбираемся с косметологом-эстетистом

Psychologies
«Стыд должен сменить сторону»: как Жизель Пелико прервала молчание жертв насилия «Стыд должен сменить сторону»: как Жизель Пелико прервала молчание жертв насилия

Как Жизель Пелико вдохновила женщин не стыдиться того, что с ними произошло

Forbes
Разумом, молотком, пистолетом Разумом, молотком, пистолетом

Какими приспособлениями пользуются полевые исследователи

ТехИнсайдер
Теория расширяющейся Земли Теория расширяющейся Земли

В самом центре земного ядра находится мощный термоядерный реактор

Зеркало Мира
Анастасия Вертинская: «Главное, что я выстояла» Анастасия Вертинская: «Главное, что я выстояла»

Когда ты встаешь на какую-то определенную дорогу, нельзя быть трусом

Коллекция. Караван историй
Полный привод Torque Vectoring и кабина истребителя: мы «полетали» на обновленном кроссовере JAECOO J7 Полный привод Torque Vectoring и кабина истребителя: мы «полетали» на обновленном кроссовере JAECOO J7

Чем примечателен «крутой охотник» JAECOO J7?

Maxim
Первые 50 лет одиночества Первые 50 лет одиночества

Первая экранизация главного романа Маркеса

Weekend
Уолт-Стрит Уолт-Стрит

Может ли сказка быть бизнесом, а бизнес – сказкой? Взлет корпорации Disney

Правила жизни
Меня греет только батарея: форматы отношений, где нет любви Меня греет только батарея: форматы отношений, где нет любви

Как найти любовь?

Men Today
Уходящий уходит — и выигрывает Уходящий уходит — и выигрывает

Как прощаются в русском театре

Weekend
Софья Володчинская: «Это чудо, которое случилось со мной больше года назад, продолжается до сих пор» Софья Володчинская: «Это чудо, которое случилось со мной больше года назад, продолжается до сих пор»

Меня начало воротить от театра и от актерской профессии — внутри была пустота

Коллекция. Караван историй
Грозные «молодцы» мчались по рельсам Грозные «молодцы» мчались по рельсам

Рассвет и закат боевого железнодорожного ракетного комплекса (БЖРК)

Наука и техника
Воздушный океан... Воздушный океан...

Мы все живём где-то на дне воздушного океана

Наука и жизнь
Волка боги кормят Волка боги кормят

Один из самых древних сюжетов – сказки об оборотнях

Правила жизни
Залечь на дно в Белфасте Залечь на дно в Белфасте

«Ничего не говори»: история ирландских террористов, рассказанная ими самими

Weekend
Снял с языка Снял с языка

Матвей Лыков — о кино и жизни

Men Today
А у нас в Рязани... А у нас в Рязани...

Не только грибы с глазами, но и масса всего интересного

Лиза
Ключ к красоте и ухоженности Ключ к красоте и ухоженности

На вопросы о лазерной эпиляции отвечает Ксения Филатова, врач-дермато-венеролог

Здоровье
Председатель Магаданской областной думы: «Работаем ради результата и решаем поставленные вопросы» Председатель Магаданской областной думы: «Работаем ради результата и решаем поставленные вопросы»

Какие задачи стоят перед депутатами Магаданской областной думы?

ФедералПресс
Жито Жито

Удивительно, как можно попасть в жернова истории и построить целый хутор

Seasons of life
Морская прогулка Морская прогулка

Интерьер в эклектичном стиле, вдохновленный островом Санторини

SALON-Interior
Баба-Яга и все-все-все: (очень) краткая история сказок в отечественном кино Баба-Яга и все-все-все: (очень) краткая история сказок в отечественном кино

История жанра сказочных фильмов, ключевые периоды и важнейшие имена

СНОБ
Покоритель вершин: как прошел тест-драйв кроссовера WEY 07 по Приэльбрусью Покоритель вершин: как прошел тест-драйв кроссовера WEY 07 по Приэльбрусью

Стоит ли обращать свое внимание на китайский гибридный кроссовер WEY 07

Forbes
Чем дышат почвы и как они влияют на климат Чем дышат почвы и как они влияют на климат

Наверное, мало кто знает, что почвы участвуют в регуляции климата

Наука и жизнь
В определенных обстоятельствах В определенных обстоятельствах

Светлана Иванова с дочерьми Полиной и Мирой впервые снималась для глянца!

OK!
Север и юг США после гражданской войны Север и юг США после гражданской войны

Расказываем, что было после капитуляции Юга, подписанной 26 мая 1865 года

Наука и техника
Первому «Аватару» 15 лет. Как создавался революционный проект Джеймса Кэмерона Первому «Аватару» 15 лет. Как создавался революционный проект Джеймса Кэмерона

Какую роль «Аватара» занял в истории кино и наших сердцах?

Правила жизни
Открыть в приложении