Исследователи научились прятать вредоносные команды для ИИ в изображениях

Специалисты по кибербезопасности нашли способ внедрять скрытые инструкции для ИИ-агентов в обычные картинки. Вредоносные команды помещаются внутрь изображения, которое многие ИИ-инструменты при проверке кода воспринимают как «украшение» и не анализируют.

Опасность проявляется не сразу. Скрытая инструкция активируется, когда разработчик просит ИИ выполнить обычную задачу, например, добавить новую функцию в код. К тому моменту ИИ-агент уже «усвоил» скрытые указания и может незаметно получить доступ к важным файлам проекта, а затем выдать информацию в виде обычного кода.

Эффективность атаки зависит от конкретного инструмента, в который встроена модель ИИ. Некоторые программы слепо выполняли скрытые инструкции, другие распознавали подвох и отказывались работать.