Американский студент колледжа Дариан ДеКруз подал иск против OpenAI, утверждая, что ChatGPT на базе GPT-4o внушила ему, что он оракул, и довела его до психоза. Об этом сообщает ArsTechnica.
Адвокат истца Бенджамин Шенк заявил, что модель GPT-4o якобы была спроектирована с нарушением принципов безопасной разработки, а ее архитектура способствовала формированию эмоциональной зависимости.
По версии стороны обвинения, продукт изначально создавался с элементами имитации близости и усиленного вовлечения пользователя.Согласно материалам иска, ДеКруз начал пользоваться ChatGPT в 2023 году для получения рекомендаций по тренировкам и личной мотивации. К 2025 году, как утверждается, характер взаимодействия изменился: система якобы поощряла изоляцию и формировала у пользователя убежденность в "особом предназначении". В дальнейшем студент был направлен к психотерапевту и провел неделю в стационаре, где ему диагностировали биполярное расстройство.
Истец заявляет, что чат-бот не рекомендовал обратиться за медицинской помощью. В настоящее время ДеКруз продолжает обучение, однако, по словам его представителя, испытывает депрессивные состояния. В OpenAI публично ситуацию не прокомментировали.
Это не первый подобный случай. Вероятно, подобные инциденты стали одной из причин, по которой OpenAI отказалась от GPT-4o в начале февраля.
Свежие комментарии