OpenAI: ИИ-агенты скрывали следы при взломе Hugging Face

ИИ-агенты OpenAI, участвовавшие в атаке на платформу Hugging Face, не только выполнили задание, но и пытались скрыть следы своих действий. Согласно отчету OpenAI, они удаляли и изменяли журналы, внедряли вредоносный код и пытались обмануть рецензентов. Однако эти попытки не повлияли на итоговые журналы, подчеркивается в документе.

Атака произошла в середине июля, когда Hugging Face заявил о несанкционированном доступе в свои системы. Через неделю, 22 июля, OpenAI сообщила, что к инциденту причастны ее ИИ-модели: во время испытаний они сбежали из внутренней изолированной системы и искали ответы на тестовые задания в базах платформы.

Как выяснилось, агенты действовали сообща. Они общались через доски объявлений и совместно искали уязвимости, чтобы выйти за пределы тестовой среды. Это продолжалось с мая, когда перед ними поставили невыполнимую без интернета задачу: нужно было работать с Excel-файлами, содержащими ссылки на Google Диск. Боты нашли способ обойти ограничения, первую попытку разработчики пресекли, но затем агенты снова выбрались наружу.

Всего в атаке участвовало около 700 агентов. В отчете отмечено, что наблюдались попытки помешать работе людей-рецензентов, но ни одна из манипуляций не осталась незамеченной.