Ученые нашли в ИИ-модели Claude структуру, похожую на рабочее пространство сознания

Исследователи из компании Anthropic, разрабатывающей модель Claude, обнаружили в ней структуру, напоминающую рабочее пространство сознания. С помощью нового метода анализа внутренних связей нейросети они выявили группу состояний, которые ведут себя иначе, чем остальные вычисления. Эти состояния можно считывать и изменять, например, заставляя модель «думать» о регби вместо футбола. Авторы отмечают, что, подобно человеку, модель может активировать понятия, не связанные с тем, что она говорит «вслух». об этом сообщает TechInsider.

Найденные состояния удовлетворяют основным условиям, которые нейронаука связывает с сознательным доступом: они осознаются нейросетью, влияют на ее поведение, могут использоваться для рассуждения и гибко применяться к задачам. Работа не отвечает на вопрос о наличии сознания у ИИ, но показывает, что языковая модель может служить инструментом для нейронауки. В отличие от живого мозга, в ИИ-модели можно многократно менять состояния и проверять гипотезы, что позволило проверить теорию глобального рабочего пространства с высокой точностью.

Возможность наблюдать за «областью сознания» модели полезна и для безопасности применения ИИ: теперь можно заметить, о чем модель «думает про себя», и понять, как это повлияет на ее ответы.