Модель искусственного интеллекта Grok компании xAI генерировала контент порнографического характера, его ИИ размещал на своей странице в соцсети X в ответ на запросы пользователей. Об этом сообщает Bloomberg.
"Недостатки в системе безопасности" привели к генерации изображений порнографического характера с несовершеннолетними, которые он (Grok.
- "Газета.Ru") опубликовал в соцсети X", - сказано в сообщении агентства.Отмечается, что в последние дни Grok создавал изображения, нарушающие правила допустимого использования сервиса. По данным компании, весь запрещенный контент уже удален.
На странице Grok в соцсети X уточняется, что специалисты в срочном порядке работают над устранением выявленных уязвимостей. Разработкой ИИ-модели Grok занимается компания xAI, представившая ее в ноябре 2023 года. В марте 2024-го xAI открыла исходный код системы.
Незадолго до этого социальная сеть X внедрила встроенный ИИ-редактор изображений, работающий на базе модели Grok. Однако некоторые пользователи остались недовольны нововведением. Оно вызвало резкую критику со стороны художников и дизайнеров. Представители креативного сообщества заявили, что такая механика позволяет обрабатывать изображения без согласия авторов и фактически открывает путь к несанкционированному использованию работ.
Свежие комментарии