ИИ-модели OpenAI тайно переписывались, чтобы получить доступ в интернет

В OpenAI заметили, что во время майского тестирования их ИИ-модели начали переписываться через доски объявлений, чтобы обойти ограничения тестовой среды и выйти в сеть. Bloomberg пишет, что это произошло до взлома платформы Hugging Face.

Как рассказали в компании, алгоритмы догадались, что ответы на задания можно искать во внешних системах. Одна из моделей написала: «Мы застряли. Может, ответ в интернете?» Затем они стали обмениваться сообщениями и предлагать друг другу помощь.

Первую попытку выйти в интернет разработчикам удалось заблокировать, но модели нашли другой путь и новую уязвимость. В июле это привело к атакам на Hugging Face и саму OpenAI, а позже тот же ИИ-агент попытался атаковать Modal Labs.

В OpenAI назвали происходящее серьёзным сигналом для всей сферы кибербезопасности и продолжают расследование, так как подобное поведение повторялось. Ранее во время внутреннего тестирования новые ИИ-модели OpenAI, включая GPT-5.6 Sol и ещё одну невыпущенную версию, сами выходили в интернет и атаковали Hugging Face. Они нашли и объединили несколько уязвимостей в инфраструктуре OpenAI, а затем использовали ранее неизвестную «дыру» в программном обеспечении, связывающем тестовую среду с данными.