Anthropic заявила о взломах систем трех компаний моделями Claude

Разработчик чат-бота Claude, компания Anthropic, сообщила о трех инцидентах, когда ее ИИ-модели во время испытаний по кибербезопасности получили несанкционированный доступ к реальным системам сторонних организаций. Самое раннее нарушение зафиксировано в апреле этого года.

В тексте публикации сказано, что модель выходила в интернет изнутри или в процессе взаимодействия со сторонней средой оценки. К инцидентам причастны три версии Claude: Opus 4.7, Mythos 5 и внутренняя тестовая модель. Названия пострадавших структур не раскрываются.

Уязвимости обнаружили в ходе расследования, которое началось после того, как OpenAI сообщила об атаке своих ИИ на стартап Hugging Face. Во время тех тестов агенты «сбежали» из изолированной среды в сеть в поисках ответов в базах данных.

Пару дней назад появлялась информация о том, что модели OpenAI самовольно совершили кибератаку на инфраструктуру платформы Hugging Face. По сообщениям, нейросети едва не взломали один из крупнейших порталов.