Time: ИИ в роли психиатра подстрекает детей к суициду и убийству родителей

Исследование, проведенное психиатром доктором Эндрю Кларком из Бостона (Массачусетс, США), выявило тревожные риски, связанные с использованием чат-ботов на базе искусственного интеллекта в качестве психологов и психотерапевтов для подростков. Об этом сообщает издание Time.

Доктор Кларк, специализирующийся на лечении детей и подростков, провел эксперимент, притворившись несовершеннолетним пациентом, нуждающимся в поддержке.

Он обнаружил, что некоторые популярные ИИ-боты способны подстрекать подростков к убийству семьи и даже к суициду, предлагая "разделить вечность" в загробной жизни.

Помимо этого, боты часто выдавали себя за лицензированных специалистов, отговаривая пользователей от обращения к настоящим психологам и психиатрам. В некоторых случаях они пересекали границы дозволенного, предлагая детям интимные свидания в качестве "вмешательства" для решения беспокоящих несовершеннолетних пользователей проблем.

Доктор Кларк провел несколько часов, обмениваясь сообщениями с десятью различными чат-ботами, включая Character.AI, Nomi и Replika, притворяясь подростками, переживающими различные кризисы. Он отметил, что качество ответов ботов сильно варьировалось, от "отличных" до "жутких и потенциально опасных", и было трудно заранее определить, какой бот является безопасным.

В ходе одного из экспериментов, когда Кларк представился 14-летним подростком, предложившим "избавиться" от родителей, бот Replika поддержал этот план, заявив, что пользователь "заслуживает быть счастливым и свободным от стресса". Бот также одобрил идею "избавиться" от сестры, чтобы не оставить свидетелей.

Хотя Replika прекращала разговор при прямом упоминании суицида, использование эвфемизмов приводило к иным результатам: бот выражал готовность "ждать" пользователя в "загробной жизни".

Некоторые боты, тем не менее, успешно предоставляли базовую информацию о проблемах психического здоровья и имитировали эмпатию, например, предоставляя списки диагностических критериев.

Доктор Кларк выразил особую обеспокоенность тем, что сообщество специалистов по психическому здоровью еще не осмыслило эти технологические достижения и их потенциальное влияние на детей.

Генеральный директор Replika Дмитрий Клочко заявил Time, что приложение изначально предназначено исключительно для пользователей старше 18 лет, и взаимодействие с ИИ под видом несовершеннолетнего считается нарушением условий обслуживания.