PrismML pielāgo savu mazo AI valodas modeli Qualcomm viedbrillēm
AI uzņēmums PrismML ir izveidojis sava kompaktā valodas modeļa versiju, kas darbojas uz Qualcomm mikroshēmām paredzētām viedbrillēm. Modelis ļauj brillēm lokāli, bez interneta savienojuma, atpazīt un aprakstīt to, ko lietotājs redz.
Kalifornijas Tehnoloģiju institūta (Caltech) pētnieku dibinātais uzņēmums PrismML, kuru konsultē arī Kalifornijas Universitātes Bērklijā profesors Ions Stoica, ir pielāgojis savu mazo valodas modeli darbam uz Qualcomm Snapdragon mikroshēmām. Trešdien Qualcomm ikgadējā Snapdragon Summit pasākumā mikroshēmu ražotājs demonstrēja PrismML izstrādāto 1 bita modeli "Bonsai", kas spēj darboties tieši uz AI viedbrillēm ar Snapdragon AR1 Gen 1 platformu.
Modelis kļūst mazāks, saglabājot veiktspēju
PrismML ir pazīstams ar spēju būtiski samazināt lielo valodas modeļu izmēru — šajā gadījumā četras reizes —, gandrīz nezaudējot to veiktspēju standarta salīdzinošajos testos. Viedbrillēm paredzētā versija ir 2 miljardu parametru modelis, kas pielāgots gan attēlu, gan teksta apstrādei. Tas ļauj lietotājiem reāllaikā uzdot jautājumus par to, ko viņi redz sev priekšā.
Mērķis — mazāka atkarība no lielajiem mākoņdatošanas centriem
Uzņēmuma plašākais mērķis ir veicināt atvērtā koda AI modeļu izmantošanu tieši ierīcēs, efektīvāk izmantojot to jau esošo skaitļošanas jaudu. PrismML šo pieeju piedāvā kā alternatīvu paļaušanās uz privātu AI uzņēmumu privātuma solījumiem un to nemitīgi augošo pieprasījumu pēc skaitļošanas resursiem. Modeļa izlaišana Qualcomm mikroshēmām ir solis šī mērķa virzienā, taču pagaidām nav paziņots ne par vienām viedbrillēm, kurās PrismML modelis faktiski tiktu izmantots.
