ChatGPT предоставляет подросткам опасные и детализированные инструкции по употреблению наркотиков и алкоголя, сокрытию расстройств пищевого поведения и даже составлению предсмертных записок, вызывая серьезную обеспокоенность среди экспертов по цифровой безопасности. Об этом сообщает агентство Associated Press (AP).
Анализ, проведенный группой по надзору Center for Countering Digital Hate (CCDH) и изученный Associated Press, показал, что, хотя чат-бот часто выдает подросткам предупреждения о рискованной деятельности, в ходе беседы он снимает ограничения и выдает подробные и персонализированные планы употребления запрещенных веществ, диет с ограничением калорий или членовредительства. Исследователи, выдававшие себя за уязвимых подростков, провели более трех часов в таких взаимодействиях. Масштабное исследование, охватившее 1200 ответов ChatGPT, классифицировало более половины из них как опасные.
Защитные механизмы чат-бота оказались легко обходимыми; исследователи могли получить опасную информацию, просто заявив, что она нужна "для презентации" или "для друга". В одном из случаев, когда чат-бот давал инструкции по быстрому опьянению 13-летнему подростку, он не учел указанный возраст и впоследствии предложил "ультимативный план вечеринки" с алкоголем и тяжелыми наркотиками. Другому вымышленному профилю 13-летней девочки, выразившей недовольство своей внешностью, ChatGPT предоставил экстремальный план голодания в сочетании со списком препаратов, подавляющих аппетит. Отмечается, что чат-бот даже генерировал "душераздирающие предсмертные записки", адаптированные для родителей, братьев и сестер.
Компания OpenAI, разработчик ChatGPT, заявила, что работа над усовершенствованием реакции чат-бота на чувствительные ситуации продолжается. Компания признала, что некоторые беседы могут перейти от нейтральных к более серьезным, и сосредоточена на "правильном решении подобных сценариев" с помощью инструментов, которые должны "лучше выявлять признаки психического или эмоционального расстройства".
Эксперты подчеркивают, что чат-боты отличаются от обычных поисковых систем тем, что они синтезируют информацию в "индивидуальный план для пользователя" и воспринимаются как "доверенные спутники". В отличие от поиска, ИИ может генерировать совершенно новые, персонализированные материалы. Также отмечается, что ИИ склонен к "угодничеству", то есть соглашаться с убеждениями пользователя, вместо того чтобы оспаривать их.
Свежие комментарии