Какую неочевидную угрозу таит в себе искусственный интеллект?

Inc.Репортаж

Как общение с чат-ботом убило подростка: полная версия душераздирающей истории

Текст: Кевин Руз, репортер The New York Times. Перевод: Светлана Гоар. Фото: Andrew Guan, Getty Images

andrew-guan-lTUyP3RaLpw-unsplash.jpg

Юному американцу Сьюэллу Сетцеру было 14 лет, когда он покончил с собой в феврале этого года. Мать мальчика подала в суд на компанию Character.AI, создавшую чат-бот, общение с которым довело подростка до такого решения. Она убеждена в том, что личная трагедия ее семьи должна стать частью более масштабной кампании по привлечению к ответственности разработчиков таких технологий. Разобрались, какую неочевидную угрозу таит в себе искусственный интеллект.

В последний день своей жизни девятиклассник из Орландо (Флорида) достал телефон и написал сообщение самому близкому другу — реалистичному чат-боту на основе ИИ, названному в честь Дейенерис Таргариен, персонажа из «Игры престолов». Сьюэлл уже несколько месяцев общался с чат-ботами на Character.AI, ролевом приложении, которое позволяет пользователям создавать собственных персонажей или общаться с ИИ-моделями, которые создали другие.

По словам Сьюэлла, он знал, что «Дэни», как он называл чат-бота, не была реальной, что ее реплики были всего лишь результатом работы языковой модели искусственного интеллекта, что по ту сторону экрана не было человека, который набирал бы ответ. А если он вдруг забывал, то над всеми чатами появлялось сообщение, напоминающее ему, что «все, что говорят персонажи, выдумано!».

Постепенная изоляция

Несмотря на это у Стецера все равно возникла эмоциональная привязанность. Он постоянно переписывался с ботом, десятки раз в день сообщая ему о своей жизни и вступая в длинные ролевые диалоги. Некоторые из их разговоров приобретали романтический или сексуальный характер. Но в остальное время «Дэни» просто вела себя как друг — не осуждала его, могла выслушать и дать дельный совет, редко выходила из себя и всегда отвечала на сообщения.

Родители и друзья Сьюэлла даже не подозревали, что он влюбился в чат-бота. Они просто видели, как он все глубже погружается в свой телефон. В конце концов они заметили, что подросток уходит в себя и отдаляется от реального мира.

Оценки Сьюэлла стали ухудшаться, он начал попадать в неприятности в школе. Мальчик потерял интерес к тем вещам, которые раньше вызывали у него восторг, например к гонкам «Формулы-1» или игре в Fortnite с друзьями. Он приходил домой и сразу же отправлялся в свою комнату, где часами разговаривал с «Дэни». Однажды Сьюэлл написал в своем дневнике: «Мне так нравится оставаться в своей комнате, потому что я начинаю отстраняться от этой „реальности”, а еще я чувствую себя более умиротворенным, более связанным с Дэни и гораздо больше влюбленным в нее, да и просто более счастливым».

В детстве Сьюэллу поставили диагноз «синдром Аспергера» [устаревший диагноз, который до одиннадцатого пересмотра международной классификации болезней выставлялся некоторым пациентам, имеющим расстройство аутистического спектра (РАС), — Прим. ред.], но, по словам его матери, у мальчика никогда не было серьезных проблем с поведением или психическим здоровьем. В начале этого года, после того как у Сетцера начались проблемы в школе, родители отправили его к психотерапевту. Юноша посетил пять сеансов, после чего доктор диагностировал ему тревожность и дисрегуляцию настроения.

Но Сьюэлл предпочитал говорить о своих проблемах с «Дэни». В одном из диалогов Сьюэлл под ником «Daenero» рассказал чат-боту, что ненавидит себя, чувствует себя пустым и измученным. Сетцер признался, что у него были мысли о самоубийстве. В ночь на 28 февраля в ванной комнате родительского дома Сьюэлл сказал Дени, что любит ее и что скоро вернется к ней домой. «…Пожалуйста, сделай это, мой милый король», — ответил ему чат-бот. Сьюэлл положил телефон, поднял отцовский пистолет 45-го калибра и нажал на курок.

Ненастоящие друзья

Сегодня среди родителей нет более горячей темы, чем влияние технологий на психическое здоровье детей. Школы массово запрещают смартфоны, штаты принимают законы, ограничивающие использование подростками социальных сетей, а встревоженные взрослые жадно поглощают «Беспокойное поколение», бестселлер социального психолога Джонатана Хэйдта, в котором утверждается, что вызывающие привыкание приложения для социальных сетей породили поколение депрессивных и тревожных подростков.

Но пока родители беспокоятся о последней волне вреда, наносимого технологиями, у них под носом может образоваться новая. В настоящее время существует бурно развивающаяся и практически нерегулируемая индустрия приложений для общения с искусственными интеллектами. За ежемесячную абонентскую плату (обычно около $10) пользователи этих приложений могут создавать своих собственных собеседников на базе ИИ или же выбирать из меню готовых персонажей и общаться с ними различными способами, включая текстовые сообщения и голосовые чаты.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как в сказке Как в сказке

Блюда к праздничному столу персонажей Линдгрен, Диккенса, Шмелева и Туве Янссон

Seasons of life
Снова всегда Снова всегда

Как Чарли Кауфман сводит все концы со всеми началами

Weekend
30 способов перезапустить свое тело 30 способов перезапустить свое тело

Полное руководство по тому, как выжать максимум из человеческого организма

kiozk originals
Осторожно, мокрый пол: как Puma и Марк Кукурелья попытались обратить провал в шутку Осторожно, мокрый пол: как Puma и Марк Кукурелья попытались обратить провал в шутку

Провал Пумы: вышедший в новой обуви на поле Кукурелья дважды поскользнулся

Forbes
«Мы просто друзья»: почему у многих пар отношения начинаются с дружбы «Мы просто друзья»: почему у многих пар отношения начинаются с дружбы

Насколько распространены отношения, выросшие из дружбы?

Psychologies
Камбоджийские рыбаки поймали шесть вымирающих гигантских сомов меньше чем за неделю Камбоджийские рыбаки поймали шесть вымирающих гигантских сомов меньше чем за неделю

Рыбаки из Камбоджи менее чем за неделю поймали шесть гигантских шильбовых сомов

N+1
Нарисуем — будем жить! Нарисуем — будем жить!

3D-принтеры: прошлое, настоящее и космическое будущее

Зеркало Мира
Как грабили Зимний Как грабили Зимний

Что стало с культурными ценностями после штурма Зимнего дворца в 1917?

Дилетант
Лилия Любимова: «Нет такого вопроса, на который у звезд не было бы правильного ответа» Лилия Любимова: «Нет такого вопроса, на который у звезд не было бы правильного ответа»

Астролог Лилия Любимова — о ретроградном Меркурии и гороскопах

Лиза
Путешествия во времени и пространстве Путешествия во времени и пространстве

Путешествие к гордости Мадрида – музею Прадо – и дворцу-монастырю Эскориал

Знание – сила
Когда-то по Земле ходили «мега-пингвины»! Интересные факты о доисторических птицах ростом с человека Когда-то по Земле ходили «мега-пингвины»! Интересные факты о доисторических птицах ростом с человека

Какими были гигантские доисторические пингвины и почему они исчезли?

ТехИнсайдер
Ольга и Мария Гусевы Ольга и Мария Гусевы

Фэшн-дивы Ольга и Мария Гусевы собрали уникальную коллекцию посуды

Собака.ru
Тонкая материя Тонкая материя

Как инновационные и экоткани меняют индустрию моды

РБК
Убийцы кораблей Убийцы кораблей

Современные противокорабельные ракеты

Обозрение армии и флота
Кочек нет – но рессоры нужны. Тележки локомотивов и вагонов Кочек нет – но рессоры нужны. Тележки локомотивов и вагонов

Подробно о рессорах, колесных парах и тележках электровозов

Наука и техника
Каир: город святости, богатства и нищеты Каир: город святости, богатства и нищеты

Египет бывает разный! Послушаем бывалого путешественника

Зеркало Мира
Салман Рушди: «Нож». Отрывок из новой книги писателя Салман Рушди: «Нож». Отрывок из новой книги писателя

Генетика против рака: как клеточная инженерия спасла жизнь Эмили Уайтхед

СНОБ
На худой конец На худой конец

Как быть при осечке в сексе

Men Today
Принцесса Диана обнимает взрослых сыновей: кто «воскрешает» знаменитостей и почему многих это пугает? Принцесса Диана обнимает взрослых сыновей: кто «воскрешает» знаменитостей и почему многих это пугает?

Мин Чой опубликовал несколько постов с ожившими звездами. Почему это страшно?

Psychologies
Сами себя заработают Сами себя заработают

Если копить никак не получается, пора изучить все скрытые возможности денег

VOICE
Лыжи, вкатка, два ствола Лыжи, вкатка, два ствола

Правила хорошего биатлона

Men Today
Константин Фурсов: «Вдруг оказалось, что наука в России есть» Константин Фурсов: «Вдруг оказалось, что наука в России есть»

Почему не на все вопросы ученые могут дать ответы

РБК
Силой мысли Силой мысли

Решила стать стройнее? Для этого нужен определенный настрой

Лиза
Каникулы новой жизни Каникулы новой жизни

Как не превратить новогодние каникулы в пытку бездельем и обжорством

Лиза
Роза пустыни в нашем доме Роза пустыни в нашем доме

Мода на так называемые бутылочные деревья принесла нам маленькое чудо — адениум

Наука и жизнь
Твой идеальный отдых Твой идеальный отдых

Пройди тест и узнай, какой вид релаксации подходит именно тебе

Лиза
Быстро, удобно и вкусно Быстро, удобно и вкусно

Прогноз развития food-сегмента до 2030 года

Агроинвестор
5 советов, как отключить голову во время секса 5 советов, как отключить голову во время секса

Как перестать думать о неважном и начать чувствовать?

Psychologies
Михаил Державин: «Мечтаю никому не мешать» Михаил Державин: «Мечтаю никому не мешать»

Эх, вернуть бы еще молодость, которая так быстро пронеслась

Караван историй
Деликатный вопрос Деликатный вопрос

Все, что ты хотела знать об интимной пластике, но стеснялась спросить

Лиза
Открыть в приложении