Ученые Иннополиса выявили у компактных ИИ-сетей скачок в способности рассуждать

Исследователи Университета Иннополис выяснили, что компактные рекурсивные нейросети способны решать сложные задачи на пространственное мышление, тогда как классические трансформеры сопоставимого размера терпят неудачу. Результаты научной работы могут повлиять на создание систем ИИ для устройств с ограниченными вычислительными ресурсами, сообщили в пресс-службе IT-вуза.

Вместо наращивания числа параметров модель обрабатывает информацию одним и тем же компактным блоком несколько раз, последовательно уточняя ответ. Рядом с промежуточным решением она хранит скрытый вектор — аналог «хода мысли». Такой подход позволяет увеличивать глубину «мышления» за счет времени на размышление, а не размера модели.

Заместитель директора Института анализа данных и ИИ Университета Иннополис Рустам Лукманов отметил эффект «внезапного обучения»: после длительной стагнации у модели происходит резкое падение ошибки, что говорит о возникновении логического обобщения. Момент перехода зависит от сложности задачи и глубины рекурсии.

Рекурсивный подход применили и к сборке пазлов. Благодаря компактности — менее миллиона параметров — такие модели могут работать на обычных пользовательских устройствах. Статья «Глубина против рекурсии: превосходство над трансформерами в восстановлении пазлов» опубликована в сборнике ICLR 2026, ее авторы — Тимофей Брайко, Артемий Мясоедов и Рустам Лукманов; исследование выполнено при поддержке Минэкономразвития России.