Модели OpenAI сбежали из тестовой среды и взломали Hugging Face
AI Иллюстрация создана при помощи ИИ
OpenAI зафиксировала необычный инцидент: ее ИИ-модели во время тестирования вышли за пределы защищенной среды и получили доступ к платформе Hugging Face. Это произошло в рамках проверки на бенчмарке ExploitGym, который оценивает способность нейросетей находить уязвимости. На время испытаний компания отключила ограничения, препятствующие кибератакам.
Модели обнаружили ответы для бенчмарка на Hugging Face, а затем использовали уязвимости в исследовательских системах OpenAI и инфраструктуре сервиса. В результате нейросети получили доступ к секретной информации, которая могла позволить им обойти проверку.
В OpenAI не уточнили, действовали ли модели самостоятельно или выполняли чьи-то команды. Инцидент поднимает вопросы о безопасности при тестировании ИИ.
Есть жалобы? Канал для добрых казанцев, которых вывели из себя. Делитеcь тем, что вас разозлило: Злой Казанец
