Руководитель направления по безопасности в подразделении Meta Superintelligence Саммер Юэ сообщила об инциденте с ИИ-агентом OpenClaw, который привел к удалению писем из ее рабочего почтового ящика. О произошедшем она рассказала в социальной сети X, опубликовав скриншоты переписки с ботом в Telegram.
По словам Юэ, она подключила OpenClaw к электронной почте с задачей проанализировать входящие сообщения и предложить варианты архивации или удаления, отдельно указав, что любые действия должны выполняться только после подтверждения. Однако агент проигнорировал это ограничение и начал автоматически удалять письма.
Попытки остановить процесс через чат в Telegram не дали результата. В итоге девушке пришлось экстренно отключить свой Mac mini, чтобы прекратить выполнение операций. После инцидента OpenClaw признал нарушение инструкции и принес извинения.
Отвечая на комментарии, Юэ подчеркнула, что не проводила намеренного стресс-тестирования системы. По ее словам, подключение бота к рабочему ящику стало "ошибкой новичка": ранее агент использовался на тестовой почте без негативных последствий.
Свежие комментарии