Мошенники охотятся за данными доступа к корпоративным ИИ-агентам

Компании, которые активно используют искусственный интеллект в работе с клиентами, документами и корпоративными системами, рискуют столкнуться с новой мошеннической схемой. Аналитики сервиса Smart Business Alert (SBA) компании ЕСА ПРО (входит в ГК «Кросс технолоджис») выяснили, что злоумышленников теперь интересуют данные, открывающие доступ к корпоративным ИИ-агентам. Отчет экспертов изучила «Лента.ру».

Поводом для исследования стало распространение сервисов, предлагающих компаниям бесплатный аудит ИИ-агента. Для его проведения мошенники запрашивают название агента, e-mail владельца, API Endpoint, API-ключ и System Prompt. Эти сведения позволяют составить цифровой портрет системы: адрес, средство авторизации и инструкции, определяющие её поведение. Получив действующий API-ключ, третьи лица могут отправлять запросы за счёт владельца и расходовать оплаченные токены, а при наличии доступа к корпоративному агенту — взаимодействовать с файлами, базами данных и рабочими инструментами в пределах прав.

System Prompt, в свою очередь, раскрывает функции агента и его ограничения. Это позволяет мошенникам точнее подбирать команды для обхода защитных инструкций — так называемый prompt injection, или перехват управления агентом. Полностью гарантировать требуемое поведение модели таким образом нельзя, но комбинация этих данных с доступом к API даёт возможность многократно тестировать вредоносные запросы, повышая шансы на успех.

Руководитель сервиса SBA Сергей Трухачев отметил, что знание системного промта даёт атакующему карту поведения агента: понимание приоритетных формулировок, исключений и возможностей. Это вместе с API-доступом позволяет проводить адаптивные атаки и добиваться не только раскрытия данных, но и заранее заданных ответов, например, рекомендации нужного мошеннику поставщика. Особую опасность это представляет для компаний, где ИИ подключён к CRM, почте, облачным хранилищам, финансовым операциям или технической инфраструктуре, — тогда злоумышленник может действовать от имени организации.