PrismML pielāgo savus mazos AI modeļus Qualcomm viedbrillēm
Kompānija PrismML izveidojusi sava kompaktā valodas modeļa versiju, kas darbojas uz Qualcomm Snapdragon mikroshēmām viedbrillēm. Modelis tika demonstrēts Qualcomm Snapdragon Summit pasākumā, taču ierīces ar to vēl nav izziņotas.
Kompānija PrismML, ko dibinājuši Kaltehas universitātes pētnieki un kā konsultants darbojas Kalifornijas universitātes Bērklijā profesors Jons Stoika, ir izstrādājusi sava neliela valodas modeļa versiju, kas paredzēta viedbrillēm ar Qualcomm Snapdragon procesoriem.
Trešdien Qualcomm ikgadējā Snapdragon Summit pasākumā tehnoloģiju uzņēmums parādīja PrismML izstrādāto vienbita modeli ar nosaukumu Bonsai, kas spēj darboties lokāli — tieši ierīcē — uz viedbrillēm, kuru pamatā ir Snapdragon AR1 Gen 1 platforma.
Mazāks modelis, saglabāta veiktspēja
PrismML jau iepriekš pazīstams ar to, ka spēj būtiski samazināt lielu valodas modeļu apjomu, šajā gadījumā — četrkārtīgi, tomēr saglabājot gandrīz visu to sākotnējo veiktspēju standarta testos. Viedbriļu versija ir modelis ar diviem miljardiem parametru, kas pielāgots gan attēlu, gan teksta apstrādei, ļaujot lietotājiem reāllaikā jautāt par to, ko viņi redz.
PrismML plašākais mērķis ir attīstīt atvērtā koda AI, kas darbojas tieši ierīcēs un efektīvāk izmanto to jau esošo skaitļošanas jaudu. Uzņēmums šo pieeju piedāvā kā alternatīvu atkarībai no lielo, slēgto AI laboratoriju privātuma solījumiem un to nemitīgi augošajām skaitļošanas jaudas vajadzībām.
Modeļa izlaišana Qualcomm mikroshēmām ir solis šī mērķa virzienā, taču pagaidām nav paziņots ne par vienu konkrētu viedbriļu modeli, kas izmantotu PrismML tehnoloģiju.
