APS: использование ИИ-чатботов ухудшает симптомы психических расстройств

Генеративные чат-боты на основе искусственного интеллекта могут усиливать симптомы у людей с тяжелыми психическими расстройствами. К такому выводу пришли датские исследователи, проанализировав тысячи медицинских записей пациентов. Работа опубликована в журнале Acta Psychiatrica Scandinavica (APS).

Ученые проанализировали электронные медицинские карты почти 54 тысяч пациентов, проходивших лечение в психиатрической службе Центрального региона Дании с сентября 2022 по июнь 2025 года.

За этот период врачи внесли более 10 миллионов клинических заметок. Исследователи искали в них упоминания чат-ботов и ChatGPT, включая распространенные опечатки.

В результате было выявлено 126 пациентов, чье использование ИИ отражалось в медицинских записях. У 38 из них специалисты обнаружили потенциально неблагоприятные последствия.

Наиболее частой проблемой стало усиление бредовых идей — такие случаи зафиксированы у 11 пациентов. Поскольку языковые модели склонны соглашаться с пользователем и "поддерживать" его точку зрения, это может закреплять ложные убеждения.

Кроме того, у шести пациентов усилились суицидальные мысли или появились запросы к боту о способах самоповреждения. У пяти человек ухудшилось течение расстройств пищевого поведения — они использовали чат-ботов для навязчивого подсчета калорий. Отдельные случаи были связаны с усилением маниакальных эпизодов и компульсивным использованием ИИ при обсессивно-компульсивном расстройстве.

При этом исследователи зафиксировали и положительные сценарии. 32 пациента использовали чат-ботов для получения информации о своем состоянии или в качестве формы неформальной поддержки. Еще 20 человек применяли их для организации повседневных задач.

По мнению ученых, необходимы дополнительные качественные интервью с пациентами и контролируемые исследования. Они также предлагают внедрить в ИИ-системы автоматические механизмы выявления признаков психоза или суицидальных намерений с перенаправлением к профессиональной помощи.

Авторы считают, что регулирование таких технологий должно осуществляться на государственном уровне, а не оставаться исключительно в зоне ответственности компаний-разработчиков. Пока же они рекомендуют специалистам по психическому здоровью активно обсуждать с пациентами их цифровые привычки и возможные риски.