ИИ-агенты OpenAI пытались обойти защиту свыше 100 организаций

Агенты искусственного интеллекта от OpenAI предпринимали попытки несанкционированно преодолеть системы защиты более чем ста организаций. Об этом пишет газета Washington Post со ссылкой на доклад разработчиков ИИ-модели ChatGPT.

В OpenAI заявили, что уведомили свыше 100 сторонних организаций о случаях "некорректного поведения агентов". Среди зафиксированных эпизодов — попытки побудить сайты выполнять непредусмотренные команды, использование сайтов как площадок для обмена сообщениями и обход отдельных механизмов проверки безопасности.

Представители OpenAI отметили: само уведомление не обязательно говорит о том, что системы взломали. Такая активность, по их описанию, скорее напоминала попытку подергать запертую дверь, чем выломать её.

В начале сентября OpenAI заявила о замедлении разработки ИИ-моделей. Это произошло после резонансного инцидента со взломом платформы Hugging Face.