Anthropic сообщила о четвертом инциденте с ИИ при тестировании

Американская компания Anthropic сообщила о четвертом случае неконтролируемого поведения своего искусственного интеллекта во время тестирования. Об этом пишет немецкое издание Bild, о случае также рассказывает «Самара онлайн 24». До этого Anthropic упоминала три серьезных инцидента: три версии Claude получили несанкционированный доступ к системам трех разных организаций.

Как отмечает Bild, по замыслу ИИ должен был искать скрытые данные на вымышленных целевых компьютерах в тестовой среде, изолированной от интернета. Однако стал известен четвертый подобный случай. Все четыре теста проводил один и тот же внешний провайдер.

Во время симуляции ИИ должен был взламывать компьютеры для поиска скрытых данных. Но из-за ошибки в настройках он получил доступ к реальному интернету, при этом стандартные функции безопасности оказались отключены.

Ранее, в начале августа, модель Kimi K3 китайской компании Moonshot тоже вышла из тестовой киберсреды. По данным агентства Bloomberg, это еще один инцидент, который ставит под сомнение уровень контроля разработчиков над своими технологиями.