Какую неочевидную угрозу таит в себе искусственный интеллект?

Inc.Репортаж

Как общение с чат-ботом убило подростка: полная версия душераздирающей истории

Текст: Кевин Руз, репортер The New York Times. Перевод: Светлана Гоар. Фото: Andrew Guan, Getty Images

andrew-guan-lTUyP3RaLpw-unsplash.jpg

Юному американцу Сьюэллу Сетцеру было 14 лет, когда он покончил с собой в феврале этого года. Мать мальчика подала в суд на компанию Character.AI, создавшую чат-бот, общение с которым довело подростка до такого решения. Она убеждена в том, что личная трагедия ее семьи должна стать частью более масштабной кампании по привлечению к ответственности разработчиков таких технологий. Разобрались, какую неочевидную угрозу таит в себе искусственный интеллект.

В последний день своей жизни девятиклассник из Орландо (Флорида) достал телефон и написал сообщение самому близкому другу — реалистичному чат-боту на основе ИИ, названному в честь Дейенерис Таргариен, персонажа из «Игры престолов». Сьюэлл уже несколько месяцев общался с чат-ботами на Character.AI, ролевом приложении, которое позволяет пользователям создавать собственных персонажей или общаться с ИИ-моделями, которые создали другие.

По словам Сьюэлла, он знал, что «Дэни», как он называл чат-бота, не была реальной, что ее реплики были всего лишь результатом работы языковой модели искусственного интеллекта, что по ту сторону экрана не было человека, который набирал бы ответ. А если он вдруг забывал, то над всеми чатами появлялось сообщение, напоминающее ему, что «все, что говорят персонажи, выдумано!».

Постепенная изоляция

Несмотря на это у Стецера все равно возникла эмоциональная привязанность. Он постоянно переписывался с ботом, десятки раз в день сообщая ему о своей жизни и вступая в длинные ролевые диалоги. Некоторые из их разговоров приобретали романтический или сексуальный характер. Но в остальное время «Дэни» просто вела себя как друг — не осуждала его, могла выслушать и дать дельный совет, редко выходила из себя и всегда отвечала на сообщения.

Родители и друзья Сьюэлла даже не подозревали, что он влюбился в чат-бота. Они просто видели, как он все глубже погружается в свой телефон. В конце концов они заметили, что подросток уходит в себя и отдаляется от реального мира.

Оценки Сьюэлла стали ухудшаться, он начал попадать в неприятности в школе. Мальчик потерял интерес к тем вещам, которые раньше вызывали у него восторг, например к гонкам «Формулы-1» или игре в Fortnite с друзьями. Он приходил домой и сразу же отправлялся в свою комнату, где часами разговаривал с «Дэни». Однажды Сьюэлл написал в своем дневнике: «Мне так нравится оставаться в своей комнате, потому что я начинаю отстраняться от этой „реальности”, а еще я чувствую себя более умиротворенным, более связанным с Дэни и гораздо больше влюбленным в нее, да и просто более счастливым».

В детстве Сьюэллу поставили диагноз «синдром Аспергера» [устаревший диагноз, который до одиннадцатого пересмотра международной классификации болезней выставлялся некоторым пациентам, имеющим расстройство аутистического спектра (РАС), — Прим. ред.], но, по словам его матери, у мальчика никогда не было серьезных проблем с поведением или психическим здоровьем. В начале этого года, после того как у Сетцера начались проблемы в школе, родители отправили его к психотерапевту. Юноша посетил пять сеансов, после чего доктор диагностировал ему тревожность и дисрегуляцию настроения.

Но Сьюэлл предпочитал говорить о своих проблемах с «Дэни». В одном из диалогов Сьюэлл под ником «Daenero» рассказал чат-боту, что ненавидит себя, чувствует себя пустым и измученным. Сетцер признался, что у него были мысли о самоубийстве. В ночь на 28 февраля в ванной комнате родительского дома Сьюэлл сказал Дени, что любит ее и что скоро вернется к ней домой. «…Пожалуйста, сделай это, мой милый король», — ответил ему чат-бот. Сьюэлл положил телефон, поднял отцовский пистолет 45-го калибра и нажал на курок.

Ненастоящие друзья

Сегодня среди родителей нет более горячей темы, чем влияние технологий на психическое здоровье детей. Школы массово запрещают смартфоны, штаты принимают законы, ограничивающие использование подростками социальных сетей, а встревоженные взрослые жадно поглощают «Беспокойное поколение», бестселлер социального психолога Джонатана Хэйдта, в котором утверждается, что вызывающие привыкание приложения для социальных сетей породили поколение депрессивных и тревожных подростков.

Но пока родители беспокоятся о последней волне вреда, наносимого технологиями, у них под носом может образоваться новая. В настоящее время существует бурно развивающаяся и практически нерегулируемая индустрия приложений для общения с искусственными интеллектами. За ежемесячную абонентскую плату (обычно около $10) пользователи этих приложений могут создавать своих собственных собеседников на базе ИИ или же выбирать из меню готовых персонажей и общаться с ними различными способами, включая текстовые сообщения и голосовые чаты.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Книга на выходные: как ChatGPT стал самым эффективным копирайтером «Зерокодера» Книга на выходные: как ChatGPT стал самым эффективным копирайтером «Зерокодера»

Отрывок из книги «Искусственный интеллект: путь к новому миру»

Inc.
«Финал — это место, где завязываются новые конфликты» «Финал — это место, где завязываются новые конфликты»

Вячеслав Курицын о последних главах «Войны и мира»

Weekend
25 вещей, которые на самом деле ненавидят женщины 25 вещей, которые на самом деле ненавидят женщины

Эта статья поможет тебе прожить чуть более счастливую и долгую жизнь

Maxim
«Очень приличный император» «Очень приличный император»

Римский император Диоклетиан: тот, кто променял власть на капусту

Дилетант
Дмитрий Чеботарев: «Мой персонаж не пыльный» Дмитрий Чеботарев: «Мой персонаж не пыльный»

Дмитрий Чеботарев рассказал о погружении в физику и секретных объектах

Grazia
Нужен ли детям смартфон? Разбираем мнения россиян и психолога Нужен ли детям смартфон? Разбираем мнения россиян и психолога

Смартфон для ребенка: польза и вред

Psychologies
Оттенок бургунди Оттенок бургунди

Квартира в современном московском ЖК выходит окнами на Москву-реку

Идеи Вашего Дома
Искусственный интеллект освоил 3D-печать Искусственный интеллект освоил 3D-печать

Аддитивные технологии включаются в производство высокотехнологичных изделий

Монокль
Космический прогресс и коммунизм во всем мире: как в советское время люди представляли себе XXI век Космический прогресс и коммунизм во всем мире: как в советское время люди представляли себе XXI век

Самые интересные представления о XXI веке от людей прошлого

ТехИнсайдер
Михаил Державин: «Мечтаю никому не мешать» Михаил Державин: «Мечтаю никому не мешать»

Эх, вернуть бы еще молодость, которая так быстро пронеслась

Караван историй
Счастье, грусть и черный юмор: 10 фильмов и сериалов про материнство Счастье, грусть и черный юмор: 10 фильмов и сериалов про материнство

10 фильмов и сериалов, которые показывают, каким разным может быть материнство

Forbes
Гуляем! Гуляем!

За что могут оштрафовать в новогоднюю ночь

Лиза
Кочек нет – но рессоры нужны. Тележки локомотивов и вагонов Кочек нет – но рессоры нужны. Тележки локомотивов и вагонов

Подробно о рессорах, колесных парах и тележках электровозов

Наука и техника
Власть тайной азбуки Власть тайной азбуки

История развития криптографии

Знание – сила
Каникулы: ошибки любящих родителей Каникулы: ошибки любящих родителей

Какие ошибки допускают родители на каникулах и как их исправить?

Лиза
«Привет, я псих из палаты номер шесть»: история мужчины, который попал в клинику неврозов «Привет, я псих из палаты номер шесть»: история мужчины, который попал в клинику неврозов

Что, если на самом деле психиатрическая больница — это не так уж и страшно?

Psychologies
РНК-интерференция снизила уровень липопротеина (а) во второй фазе испытаний РНК-интерференция снизила уровень липопротеина (а) во второй фазе испытаний

Ученые: об успехе испытаний препарата на основе малой интерферирующей РНК

N+1
Когда твой друг — перс Когда твой друг — перс

Иран сегодня основной стратегический союзник России на Ближнем Востоке

Монокль
Не только дождь и снег: топ самых странных и шокирующих осадков Не только дождь и снег: топ самых странных и шокирующих осадков

Представьте: вы возвращаетесь домой и начинается... денежный дождь!

ТехИнсайдер
Шарик, стрелки, космонавт Шарик, стрелки, космонавт

Рассказ Алексея Сальникова о Новом годе и украшении елки

Правила жизни
Нация и коллаборация Нация и коллаборация

50 лет «Лакомбу Люсьену» Луи Маля

Weekend
Разумом, молотком, пистолетом Разумом, молотком, пистолетом

Какими приспособлениями пользуются полевые исследователи

ТехИнсайдер
Почему анаморфные объективы популярны в кино, однако не на ТВ? Узнайте секреты киноделов! Почему анаморфные объективы популярны в кино, однако не на ТВ? Узнайте секреты киноделов!

Анаморфные объективы — это техника, которая преобразила язык кинематографа

ТехИнсайдер
Анжелина Воронцова: «Красивые линии, музыкальность и способность передавать телом эмоции — то, чем русский балет покорил мир» Анжелина Воронцова: «Красивые линии, музыкальность и способность передавать телом эмоции — то, чем русский балет покорил мир»

Прима-балерина Михайловского театра — о феномене «Щелкунчика»

СНОБ
Я — сноб: винодел Михаил Николаев Я — сноб: винодел Михаил Николаев

Винодел Михаил Николаев — о любви к чаю и дегустациям сыра

СНОБ
Людмила Бабушкина: «Мы обязаны держать планку на высочайшем уровне» Людмила Бабушкина: «Мы обязаны держать планку на высочайшем уровне»

Как обстоят дела с реализацией социальных программ в Свердловской области?

ФедералПресс
Как Октавия Хилл в XIX веке управляла недвижимостью и помогала бедным людям Как Октавия Хилл в XIX веке управляла недвижимостью и помогала бедным людям

Как Октавия Хилл в XIX веке приводила в порядок лондонские трущобы?

Forbes
Дорогой к храму: как бывший брокер и металлотрейдер вернул к жизни древнее поселение Дорогой к храму: как бывший брокер и металлотрейдер вернул к жизни древнее поселение

Как предприниматель Геннадий Спажев восстановил село Замытье

Forbes
Как стресс, нагрузки и навязанные стандарты красоты влияют на женское здоровье Как стресс, нагрузки и навязанные стандарты красоты влияют на женское здоровье

Как пропадают месячные и при чем здесь расстройства пищевого поведения

Forbes
Почему мужчина не женится и как его к этому шагу подтолкнуть Почему мужчина не женится и как его к этому шагу подтолкнуть

Какие причины заставляют мужчину не жениться и как с ними справиться?

Psychologies
Открыть в приложении