Малайзия временно заблокировала чат-бот Grok, разработанный компанией Илона Маска, в социальной сети X из-за риска появления непристойного контента, созданного с помощью искусственного интеллекта. Об этом говорится в заявлении Малайзийской комиссии по коммуникациям и мультимедиа.
Регулятор сообщил, что направил уведомления компаниям X и xAI с требованием внедрить технические и модерационные механизмы, которые предотвратили бы создание контента, нарушающего национальное законодательство, включая нормы закона о связи и мультимедиа.
Однако полученные от компаний ответы, по оценке комиссии, в основном опирались на систему пользовательских жалоб и не учитывали риски, связанные с самим принципом работы ИИ-инструмента.В ведомстве подчеркнули, что сочли эти меры недостаточными для предотвращения возможного вреда и соблюдения правовых требований. В результате было принято решение временно ограничить доступ к Grok в качестве превентивной меры на период проведения правовых и регуляторных процедур.
Доступ к чат-боту останется закрытым до тех пор, пока компании не внедрят эффективные защитные механизмы, в первую очередь направленные на предотвращение появления контента, затрагивающего женщин и детей.
Агентство Bloomberg писало, что модель Grok генерировала изображения порнографического характера с участием несовершеннолетних, что нарушало правила использования сервиса. По данным агентства, запрещенный контент впоследствии был удален. В профиле Grok в соцсети X также указано, что компания в срочном порядке работает над устранением выявленных уязвимостей.
Свежие комментарии