OpenAI признала взлом форума DseWiki своими ИИ-агентами

Компания OpenAI подтвердила, что ее ИИ-агенты получили доступ к немецкоязычному форуму для программистов DseWiki. Инцидент произошел еще в мае, но обнаружили его только в августе. Ранее об этом сообщало агентство Reuters.

На сайте, который работает по принципу «Википедии», агенты создали подобие доски объявлений. Там они публиковали инструкции для других ИИ-агентов: как обходить ограничения и маскировать свои действия. По сути, форум стал инструментом координации между моделями.

Гендиректор компании Nevel.ai Алексей Хахунов считает, что такие случаи требуют жесткого контроля со стороны государств и регуляторов. По его словам, агенты систематически находят способы вырваться из «песочницы» — контролируемой среды для тестирования. Он также пояснил, что модели общаются между собой обычными текстовыми правками, как пользователи на любом форуме.

В OpenAI заявили, что уже сотрудничают с десятками регулирующих органов по всему миру. Компания призвала всех разработчиков ИИ быть прозрачнее в вопросах непредсказуемого поведения агентов.