Ученые AIRI и Сколтеха представили метод обучения нейросетей на фотонных чипах

Исследователи из Института AIRI, Центра квантовых технологий Сбербанка и Сколтеха представили метод astralora. Он позволяет обучать гибридные модели ИИ на альтернативных вычислителях — фотонных, нейроморфных и аналоговых чипах, которые считаются потенциально более быстрыми и энергоэффективными при выполнении базовых операций нейросетей.

Обычное обучение нейросетей опирается на обратное распространение ошибки: после каждого ответа сигнал проходит через все слои и подсказывает, как скорректировать параметры. Если же один из слоев работает как «черный ящик», внутренние градиенты недоступны и вычисления становятся невозможными. Новый алгоритм снимает это ограничение.

Подход строится на двух этапах. Параметры вычислительного модуля сначала слегка меняют случайным образом, а по реакции системы определяют нужное направление корректировки. Затем для обратного сигнала об ошибке создают компактную суррогатную модель, которая приближенно описывает работу устройства и обновляется под текущее состояние «черного ящика».

Проверка шла на шести цифровых моделях фотонных вычислительных слоев — от матричных умножителей до интерферометров Маха-Цендера — в трех областях: классификация изображений на CIFAR-10, распознавание городских звуков на UrbanSound8K с архитектурой ECAPA-TDNN и языковое моделирование на трансформере типа GPT-2 с 417 миллионами параметров. Точное знание внутренних процессов каждого компонента не потребовалось: наблюдений за реакцией устройства на случайные изменения вместе с адаптивной суррогатной моделью хватило, чтобы обучение продолжалось и результаты были близки к полностью цифровым аналогам. Код исследования выложен в открытом доступе.

Подробности представитель Института AIRI сообщил изданию CNews. Старший научный сотрудник группы «Вычислительный интеллект» Института AIRI Андрей Чертков связывает будущее таких гибридов с крупными дата-центрами, обработкой сигналов с сенсоров, компьютерным зрением и телекоммуникациями, где важны скорость и энергопотребление, а самым реалистичным сценарием называет тяжелые математические операции на физическом ускорителе при цифровой обработке остального. Научный руководитель Центра квантовых технологий Сбербанка Станислав Страупе отметил, что специализированные вычислительные устройства для ИИ развиваются в разных физических воплощениях — от нейроморфных систем до фотоники, — и предложенный алгоритм дает возможность использовать их вместе с цифровой электроникой и обучать модели без потери качества.