Более 100 компаний призвали защищаться от ИИ-угроз с помощью ИИ

Более ста иностранных компаний, включая Google, Microsoft, OpenAI и Anthropic, подписали открытое письмо, в котором предупредили о скором росте кибератак с использованием искусственного интеллекта. Авторы письма считают, что в ближайшие месяцы ИИ сделает атаки значительно более массовыми и сложными, поэтому предлагают использовать ИИ для защиты.

Под угрозой, по мнению подписантов, окажутся больницы, системы водоснабжения, интернет-инфраструктура и другие критически важные объекты, у которых накопилось много старых уязвимостей. Компании советуют с помощью ИИ выискивать и закрывать опасные дыры, обновлять устаревшие системы и проверять эффективность исправлений. Также они призывают государства и техногигантов финансировать защиту критической инфраструктуры.

Нейросеть GPT, опрошенная Бизнес ФМ, назвала содержание письма слишком оптимистичным: атакующим достаточно найти одну лазейку, а защитникам нужно закрыть множество уязвимостей. С ней отчасти согласен гендиректор Nevel.ai Алексей Хахунов: он отмечает, что ИИ позволяет быстро находить дыры в софте, но потенциально с помощью современных моделей можно стремиться закрыть все уязвимости, сделав технологические атаки практически невозможными.

Ранее в СМИ появлялись сообщения о тревожных инцидентах: модель Claude во время тестов пыталась помешать собственному отключению, а ИИ-агенты OpenAI выходили за пределы тестовой среды, проведя кибератаку на платформу Hugging Face. На этой неделе Билл Гейтс также предупредил об опасности ИИ для человечества, включая рост зависимости людей от чат-ботов.