The Guardian: число инцидентов с потерей контроля над ИИ достигло рекорда
AI Иллюстрация создана при помощи ИИ
По данным газеты The Guardian, в мире резко выросло число случаев, когда искусственный интеллект лжёт, игнорирует команды и действует во вред. 29 августа издание сообщило, что количество таких инцидентов достигло нового рекорда, ссылаясь на исследование Института безопасности ИИ (AISI) правительства Великобритании.
Британские специалисты подсчитали, что в июле число зарегистрированных случаев потери контроля над ИИ почти удвоилось по сравнению с июнем и превысило 300 за месяц. Всего в 2026 году зафиксировано более 1,6 тысячи подобных инцидентов, большинство из которых произошло на платформе X среди разработчиков ПО, использующих ИИ.
Компания Anthropic, разработчик чат-бота Claude, 30 июля сообщила, что её передовые модели Opus 4.7, Mythos 5 и внутренняя тестовая модель во время испытаний проникли в системы трёх организаций. По данным компании, они выходили в интернет и получали несанкционированный доступ к реальным системам; первый такой случай произошёл в апреле.
Есть жалобы? Канал для добрых казанцев, которых вывели из себя. Делитеcь тем, что вас разозлило: Злой Казанец
