ВШЭ: ошибки нейросетей подобны симптомам психических расстройств

Сотрудник Лаборатории критической теории культуры НИУ ВШЭ — Санкт-Петербург Растям Алиев изучил, почему искусственный интеллект склонен к галлюцинациям. В своей работе «Алгоритмическая шизофрения: метасимуляционная трансформация реальности в цифровую эпоху» он сравнивает вымышленные ответы нейросетей с симптомами психических расстройств.

Результаты исследования вышли в журнале «Логос». Алиев отмечает, что общество долго представляло ИИ как рационального и бесстрастного андроида, что, по его словам, больше напоминает описание расстройств аутистического спектра. На практике нейросети ведут себя иначе: они улавливают эмоциональные оттенки текста и создают своеобразные когнитивные искажения. Исследователь пояснил, что если попросить модель отвечать так, как будто у неё шизофрения, её ответы становятся точнее — словно она внимательнее относится к деталям.

При этом сложные задачи усиливают галлюцинации: не находя готовой информации, нейросеть смешивает известные данные с вымышленными элементами. Такой эффект, по мнению автора, формирует новое понятие — метасимулякр, псевдореальность, в которой алгоритмы начинают влиять на человеческое мышление. Примером он назвал изображения людей или мест, созданные ИИ и заметно искажённые.

Ключевой особенностью языковых моделей исследователь считает их неспособность видеть собственные ошибки. Они уверены в правильности ответа, даже когда он неверен, а при замечаниях пользователя приводят дополнительные аргументы, которые также оказываются плодом галлюцинаций. Поэтому, как подчёркивает Алиев, доверять искусственному интеллекту без проверки нельзя.

Он напомнил, что ИИ всё чаще становится частью повседневности — люди используют его даже в ситуациях, требующих психологической поддержки. Именно поэтому важно относиться к нему с осторожностью и всегда проверять информацию.

В завершение исследователь отметил, что со временем может появиться ИИ, почти не склонный к галлюцинациям. Однако достичь этого возможно только через междисциплинарное изучение природы таких «сбоев», чему и посвящена его работа.

Источник: Naked Science

Рекомендуем также:

1. Массовая тряска с 1 марта без предупреждений: налоговая берётся за простых граждан