Эксперт предупредил о рисках даже после отключения ИИ

Служба новостей Автор статьи

Даже принудительное отключение искусственного интеллекта не гарантирует устранения всех последствий его неконтролируемой работы. Об этом заявил Сергей Жужгов, возглавляющий отдел безопасности ИИ в компании «СКБ Контур».

Специалист пояснил, что прекращение работы ИИ-агента может потребовать нескольких действий. Помимо остановки программы, необходимо заблокировать связанные с ней учётные записи, отозвать доступы и разрешения, а также завершить запущенные процессы. При этом единого способа мгновенно остановить любую ИИ-систему нет.

Наиболее серьёзные последствия могут возникнуть, если алгоритм успел передать конфиденциальную информацию за пределы компании. После такой утечки организация практически теряет возможность контролировать распространение данных.

Чтобы снизить вероятность подобных ситуаций, эксперт советует заранее устанавливать для ИИ-агентов ограничения по доступу и полномочиям. Кроме того, компаниям важно подготовить отдельные инструменты, позволяющие оперативно прекратить работу таких систем, сообщает "Самара Онлайн 24".

Есть жалобы? Канал для добрых казанцев, которых вывели из себя. Делитеcь тем, что вас разозлило: Злой Казанец