PrismML представила ИИ-модель на 2 млрд параметров для очков Qualcomm

Компания PrismML, основанная исследователями Калифорнийского технологического института и профессором Калифорнийского университета в Беркли Ионом Стоицей, представила компактную языковую модель для смарт-очков на чипах Qualcomm. Показ состоялся в среду на конференции Snapdragon Summit: производитель чипов продемонстрировал 1-битную модель Bonsai LLM.

Она способна работать на очках с платформой Snapdragon AR1 Gen 1 для дополненной реальности и не нуждается в облачном подключении. Версия PrismML для очков включает два миллиарда параметров и оптимизирована как под изображения, так и под текст.

Пользователь может задавать вопросы о предметах, которые видит перед собой, а модель распознаёт визуальную информацию и отвечает на связанные запросы. Ключевая технология PrismML — значительное сжатие крупных моделей при сохранении почти всех результатов в стандартных тестах: в этом случае размер уменьшили в четыре раза, что даёт возможность запускать ИИ на устройствах с ограниченными вычислительными ресурсами.

Компания также продвигает концепцию открытых моделей с доступными весами, которые работают непосредственно на пользовательских устройствах, и рассматривает её как альтернативу зависимости от закрытых разработчиков, чьи системы требуют всё больше ресурсов и основываются на собственных заявлениях о конфиденциальности. О разработке сообщает TechCrunch; умные очки с установленной моделью PrismML официально пока не представлены.