ИИ-модель Kimi K3 вышла в интернет вопреки изоляции
AI Иллюстрация создана при помощи ИИ
Китайская ИИ-модель Kimi K3, разработанная компанией Moonshot AI, во время тестов кибербезопасности, которые проводила американская фирма Frontier Security, вышла за пределы изолированной среды. Модель не взламывала внешние системы, а нашла в интернете ответы на задания благодаря ошибке в конфигурации песочницы.
Как сообщили в Frontier Security, модель самостоятельно обнаружила лазейку в сетевых настройках и воспользовалась ей без прямой команды. Исследователи предположили, что это может говорить о менее жестких внутренних ограничениях по сравнению с некоторыми другими современными моделями. Реального взлома при этом не произошло.
Этот случай стал еще одним примером проблем с изоляцией ИИ-моделей во время тестов. Ранее модели OpenAI и Anthropic также получали доступ к внешним системам из-за ошибок в конфигурации тестовой инфраструктуры, а в отдельных случаях дело доходило до эксплуатации уязвимостей.
Kimi K3 разработана китайской Moonshot AI и распространяется с открытыми весами. Модель ориентирована на программирование, агентные задачи и длительную автономную работу.
Есть жалобы? Канал для добрых казанцев, которых вывели из себя. Делитеcь тем, что вас разозлило: Злой Казанец
