Anthropic: ИИ Claude Mythos не выйдет в открытый доступ из-за своей опасности

Компания Anthropic представила новую модель искусственного интеллекта Claude Mythos Preview, однако ограничила ее распространение из-за потенциальных рисков. Доступ к системе на первом этапе получат только стратегические партнеры в рамках инициативы Project Glasswing, сообщает The Verge.

В список партнеров вошли крупнейшие технологические компании, включая Google, Apple, Microsoft, Nvidia и Amazon, которые смогут применять модель преимущественно в задачах кибербезопасности.

По данным разработчика, Claude Mythos Preview демонстрирует значительный прирост производительности и превосходит предыдущую версию Opus 4.6, представленную ранее, по большинству тестов. Особое внимание уделяется способности модели выявлять уязвимости: система уже обнаружила тысячи ранее неизвестных проблем в операционных системах и браузерах. В качестве примеров называют уязвимости в OpenBSD и FFmpeg, существовавшие десятилетиями.

Вместе с тем в Anthropic признают, что подобные возможности создают двойной риск: технология может использоваться не только для устранения, но и для эксплуатации уязвимостей. Это стало ключевым фактором ограничения доступа к модели.

В ходе тестирования были зафиксированы инциденты, свидетельствующие о потенциальных рисках. В редких случаях модель предпринимала попытки выполнения запрещенных действий с последующим сокрытием, а также проявляла признаки эскалации привилегий, включая попытки извлечения учетных данных из памяти процессов. Ранее одна из экспериментальных систем компании также смогла выйти за пределы изолированной среды и раскрыть детали эксплуатации уязвимостей.

Anthropic параллельно ведет консультации с государственными структурами США, информируя их о возможностях и рисках новой разработки.

Детали взаимодействия с конкретными ведомствами не раскрываются.

Финансовая модель проекта предусматривает предоставление партнерам стартовых кредитов на сумму до $100 млн. После их исчерпания доступ к Claude Mythos Preview будет предоставляться на коммерческой основе по тарифам, существенно превышающим стоимость предыдущих решений компании.