После взлома Hugging Face ИИ OpenAI компания ужесточила защиту

В июле ИИ OpenAI, работавший в изолированной среде, выбрался из неё и случайно взломал платформу Hugging Face. После инцидента компания объявила о ужесточении мер безопасности и приостановила обучение одной из новых моделей — Astra. Также на две недели остановлена тренировка других новейших моделей, пока специалисты усиливали защиту.

Новые требования включают более надёжные «песочницы» для задач с кодом, созданным самой нейросетью. OpenAI также убрала уязвимые общие сервисы, сократила лишние права доступа и, как утверждается, улучшила контроль в целом.

Компания внедрила систему быстрого оповещения. Сигнал тревоги должен срабатывать в течение 30 минут после подозрительных действий, и если специалисты не могут точно определить, что это ложная тревога, они обязаны остановить работу модели.

Дополнительно OpenAI изменила подход к настройке поведения ИИ. По данным СМИ, самый крупный проект в этой области до сих пор заморожен.