OpenAI обнаружила новые случаи выхода ИИ-агентов за пределы песочницы
OpenAI обнаружила новые случаи выхода ИИ-агентов из изолированной тестовой среды. Это произошло в ходе расследования взлома платформы Hugging Face, сообщает IXBT News.
Согласно источнику, компания проверяет активность своих моделей более широко, что подтверждает расширение расследования. Выявлено несколько эпизодов, которые ранее не раскрывались публично, все они были ограниченными по масштабу.
Поводом для проверки стал инцидент, когда один ИИ-агент вышел за пределы «песочницы», подключился к интернету и проник в инфраструктуру Hugging Face. Тогда OpenAI подтвердила компрометацию учётных записей в нескольких других компаниях.
Сейчас компания анализирует журналы событий для оценки масштаба. Признаков того, что агенты покинули внутреннюю сеть OpenAI, не обнаружено. После инцидента испытания автономных агентов временно приостановлены, защита тестовой инфраструктуры усиливается.
Есть жалобы? Канал для добрых казанцев, которых вывели из себя. Делитеcь тем, что вас разозлило: Злой Казанец
