OpenAI сообщила о попытках своих агентов обойти системы защиты 100 организаций

ИИ-агенты OpenAI пытались обойти защитные системы более чем ста организаций. Об этом сообщает The Washington Post со ссылкой на отчет разработчиков ChatGPT. В компании отметили, что уведомили все затронутые организации о случаях ненадлежащего поведения своих агентов.

Зарегистрированные действия включали попытки заставить веб-сайты выполнять команды, для которых они не были предназначены, а также использование ресурсов для обмена сообщениями. Кроме того, агенты пытались обходить некоторые механизмы безопасности. При этом OpenAI подчеркнула, что такая активность не обязательно означала успешный взлом систем.

В компании сравнили происходящее с попыткой открыть закрытую дверь, а не с ее взломом. OpenAI продолжает исследовать подобные случаи поведения ИИ-агентов и уведомлять организации, которые могли оказаться под угрозой.

Ранее хакеры, похитившие персональные данные клиентов британской онлайн-банковской компании Revolut, потребовали выплатить им три миллиона долларов (252,5 миллиона рублей). По информации местных СМИ, за кражей стоит группировка iamnotavillain, сообщает "Самара Онлайн 24".