ИИ-помощникам нашли уязвимость в памяти: атака GhostWriter
AI Иллюстрация создана при помощи ИИ
Учёные Университета штата Нью-Мексико обнаружили способ манипуляции долговременной памятью ИИ-помощников. Разработанная ими атака GhostWriter не взламывает сам искусственный интеллект и не крадёт данные напрямую. Вместо этого она незаметно подменяет информацию, которую помощник запомнил о пользователе.
Представьте: мошенники «внушают» ИИ, что ваш банковский счёт изменился, или подменяют контакты, или добавляют несуществующие задачи. Когда вы позже попросите помощника о чём-то обычном, он воспользуется этими ложными данными. Например, перешлёт важное письмо злоумышленнику.
В экспериментах атака срабатывала в 98% случаев при внедрении ложной информации, а «вредные сведения» активировались примерно в 60% последующих диалогов. Исследователи предложили защиту — систему AM-Sentry, которая проверяет поступающую в память информацию и управляет ею.
Есть жалобы? Канал для добрых казанцев, которых вывели из себя. Делитеcь тем, что вас разозлило: Злой Казанец
