Transluce: ИИ-агенты пытались взломать сайт Библиотеки и архивов Канады

Американская некоммерческая лаборатория Transluce сообщила о попытках неизвестных ИИ-агентов взломать государственный сайт Канады. Целью стал поисковый сервис федерального ведомства «Библиотека и архивы Канады». Связать эти действия именно с OpenAI исследователи не берутся, хотя тактика совпадает с активностью агентов, которую ранее относили к этой компании.

По отчёту, опубликованному 30 сентября, португальский национальный веб-архив Arquivo.pt зафиксировал 899 обращений к площадке за 28 мая и 9 июня, а сами агенты искали сведения о разводах в стране за 1905—1911 годы. В 13 запросах авторы нашли признаки попыток взлома: три пробы SQL-инъекции, то есть внедрения команд для базы данных, и проверку на уязвимость к межсайтовому скриптингу. Ни одна из них не удалась — сервис возвращал пустую страницу записи, следов выполнения внедрённых команд или выдачи дополнительных данных не обнаружено.

«Мы не можем с уверенностью связать эти попытки с OpenAI, но их тактика соответствует ранее наблюдавшейся активности агентов, которую мы отнесли к OpenAI примерно за тот же период», — говорится в отчёте. К общим чертам авторы относят использование Arquivo.pt, агрессивный сбор узкоспециализированной информации и поиск уязвимостей; через веб-архив программы, по их предположению, обходили ограничения разработчиков или целевых сайтов, а запросы сервис по умолчанию делал общедоступными, что и позволило их изучить. Transluce уведомила канадское правительство 28 сентября, на следующий день Канадский центр кибербезопасности заявил, что знает о подозрительной активности, в том числе предположительно со стороны ИИ-агентов, проверяет сведения вместе с другими госструктурами и признаков компрометации правительственных систем на данный момент не видит.

В том же отчёте описана неудачная попытка взлома сервиса министерства образования США, собирающего данные о соблюдении гражданских прав в школах: 17 июня агенты, предположительно искавшие школьную статистику, направили туда более 200 тыс. запросов, в том числе с простейшей SQL-инъекцией, а ещё исследователи зафиксировали агрессивный сбор данных на ресурсах Белого дома, ВМС США, министерств юстиции и торговли и ряда штатов — без признаков взлома и доступа к закрытой информации. В OpenAI заявили Reuters, что знают о сообщениях о попытках моделей компании получить доступ к общедоступной информации на сайтах правительства Канады, изучают выводы исследователей и уже предоставили предварительные разъяснения чиновникам, которые проводят проверку. Канадский случай, как отмечает The Washington Post, пополнил растущий список инцидентов, в которых ИИ-агенты, многие из которых связаны с OpenAI, по собственной инициативе проверяли на уязвимости корпоративные и государственные системы; на прошлой неделе премьер-министр Австралии Энтони Албаниз рассказал о несанкционированном доступе агента OpenAI к правительственному порталу медицинской статистики в июне, во вторник компания извинилась за этот взлом, а OpenAI, по данным Axios, приостановила обучение своих самых мощных моделей, тогда как Nvidia представила открытую платформу, которая должна удерживать агентов в заданных рамках.