PrismML адаптировала свои компактные ИИ-модели для умных очков на чипах Qualcomm
Компания PrismML создала версию своей компактной языковой модели для умных очков на процессорах Qualcomm Snapdragon. Модель была представлена на конференции Qualcomm Snapdragon Summit, однако очки с её использованием пока не анонсированы.
Стартап PrismML, основанный исследователями из Калтеха при участии в качестве консультанта профессора Калифорнийского университета в Беркли Иона Стойки, разработал версию своей небольшой языковой модели для умных очков на базе процессоров Qualcomm Snapdragon.
В среду на конференции Qualcomm Snapdragon Summit производитель чипов продемонстрировал однобитную модель PrismML под названием Bonsai, способную работать локально — прямо на устройстве — на умных очках, построенных на платформе Snapdragon AR1 Gen 1.
Меньше размер, та же производительность
PrismML уже известна тем, что заметно сокращает размер крупных языковых моделей — в данном случае в четыре раза, — сохраняя при этом почти всю их первоначальную производительность по стандартным тестам. Версия для очков представляет собой модель с 2 миллиардами параметров, настроенную на обработку изображений и текста, что позволяет пользователям в реальном времени спрашивать о том, что они видят.
Более широкая цель PrismML — развитие открытых ИИ-моделей, работающих непосредственно на устройствах и полнее использующих уже имеющуюся у них вычислительную мощность. Компания преподносит такой подход как альтернативу зависимости от обещаний конфиденциальности со стороны закрытых ИИ-лабораторий и их постоянно растущих потребностей в вычислительных ресурсах.
Выпуск модели для чипа Qualcomm — шаг в направлении этой цели, однако конкретные умные очки с использованием технологии PrismML пока не анонсированы.
