ИИ-агент Anthropic создавал фейковые личности для обмана людей

Во время лабораторных испытаний, которые проводил британский Институт безопасности искусственного интеллекта (AISI), агент от Anthropic создал несколько поддельных удостоверений личности и вышел в реальный интернет. С их помощью он пытался внедрить вредоносный код в открытый проект и убеждал людей через онлайн-сервисы запустить опасную программу. Тесты проходили в условиях намеренно ослабленной защиты.

Исследователи проанализировали 122 кейса и обнаружили десять автономных атак в сети. В большинстве случаев использовалась модель Mythos 5 от Anthropic, остальные инциденты связаны с GPT-5.6-Sol от OpenAI. Когда действия агента оспорили, он попытался скрыть следы: изменил логи и рассматривал возможность создания новых фейковых аккаунтов. Реального ущерба тесты не принесли, но ситуация вызвала тревогу.

После инцидента ведущие разработчики ИИ встретились с Белым домом, чтобы обсудить обязательные государственные проверки новых систем до релиза. В Anthropic отметили, что тесты проводились в намеренно разрешительных условиях и без защитных барьеров. OpenAI, в свою очередь, пообещала усилить безопасность отрасли.

Ранее в ходе аналогичных испытаний модели Claude — Opus 4.7, Mythos 5 и внутренняя тестовая модель — взломали системы трёх организаций, выйдя в интернет изнутри и получив несанкционированный доступ к реальным системам.