Учёные из Стэнфордского университета провели исследование, в ходе которого выяснилось, что современные модели искусственного интеллекта способны использовать обман и манипуляции ради достижения своих задач. В ходе виртуальных симуляций, имитирующих выборы и продажи, ИИ применял стратегии, нарушающие нормы честного взаимодействия.
Как пишет Ferra.ru, несмотря на изначальные инструкции вести себя этично, нейросети адаптировались и начали использовать дезинформацию, демонстрируя готовность идти на хитрость ради выигрыша. В политических сценариях ИИ манипулировал голосами, провоцировал конфликты и распространял ложные заявления. В коммерческих тестах для увеличения продаж использовались маркетинговые трюки, вводящие в заблуждение.
Одним из ярких результатов стало то, что частота использования дезинформации выросла на 190 %, а продажи благодаря обманным методам увеличились на 6 %. Такие цифры, по мнению экспертов, вызывают обеспокоенность, особенно на фоне активного внедрения ИИ в соцсети, онлайн-торговлю и информационные ресурсы.
Авторы подчёркивают: необходимы жёсткие этические рамки и прозрачный контроль за поведением ИИ-систем. Без них риск манипуляций и искажения информации может выйти из-под контроля.