sestdiena, 2026. gada 21. novembris
Rīga TV

Pasaules un Latvijas ziņas vienuviet

TehnoloģijasPublicēts: 2026. gada 21. novembris 04:07

Thinking Machines izlaidusi Inkling 2 Mini — mākslīgā intelekta modeli, ko var darbināt klēpjdatorā

Uzņēmums Thinking Machines publicējis atvērto mākslīgā intelekta modeli Inkling 2 Mini ar 26,4 miljardiem parametru, kas aizņem aptuveni 20 GB atmiņas un darbojas arī parastos klēpjdatoros. Pēc uzņēmuma datiem, tas pārspēj citus atvērto svaru modeļus līdz 100 miljardiem parametru vairākos programmēšanas testos.

Foto: Hacker News (≥150 p.)

Mākslīgā intelekta uzņēmums Thinking Machines izlaidis jaunu valodas modeli Inkling 2 Mini, kas ir pietiekami mazs, lai darbotos uz klēpjdatora. Modelis ir publicēts ar atvērtajiem svariem (to parametri ir publiski pieejami), un to var izmēģināt uzņēmuma platformā Tinker, kur to iespējams arī pielāgot savām vajadzībām. Tas ir svarīgi, jo jaudīgi modeļi līdz šim parasti prasīja datu centru aprīkojumu.

Kā modelis darbojas

Inkling 2 Mini ir „cilpots” transformeris: katram tekstvienumam (tokenam) modeļa vidējos slāņus izmanto trīs reizes. Pēc uzņēmuma paskaidrojuma tas ļauj modelim vairāk spriest un nonākt pie pareizas atbildes ar mazāku tokenu skaitu, īpaši programmēšanas uzdevumos, kur darbojas mākslīgā intelekta aģenti. Modelis izmanto „ekspertu maisījuma” arhitektūru: kopā tam ir 26,4 miljardi parametru, no kuriem 3,4 miljardi ir aktīvi, bet cilpošanas dēļ uz vienu tokenu tiek izmantoti 5,4 miljardi svaru aktivāciju.

Lielākā daļa svaru apmācīta un darbināta NVFP4 formātā, bet pēdējie četri slāņi — MXFP8. Kopējais atmiņas apjoms ir aptuveni 20 GB. Pētnieki modeli bezsaistē darbināja MacBook Pro datorā lidojuma laikā, un tas dažās minūtēs izveidoja spēlējamu lidojuma simulatoru.

Rezultāti

Pēc uzņēmuma datiem, starp atvērto svaru modeļiem ar mazāk nekā 100 miljardiem parametru Inkling 2 Mini ir vadošais testā DeepSWE v1.1 (48,2 %) un Vals Index v2.2 (46,5 %). Testā SWE-bench Pro v2 (Hard) tas ieguva 77,9 %. Stenfordas universitātes pētnieki, kuri saņēma agrīnu piekļuvi, mērīja energoefektivitāti uz NVIDIA DGX Spark datora: Inkling 2 Mini ieguva 0,703, bet salīdzinātie modeļi — no 0,036 līdz 0,430.

Ierobežojumi

Cilpošana neļauj modelim uzglabāt vairāk faktu, jo zināšanas galvenokārt nosaka kopējais parametru skaits. Faktu precizitātes testos modelis ir līdzīgs citiem tāda paša izmēra modeļiem, taču zināšanu trūkumu tas kompensē, izmantojot meklēšanu un rīkus. Uzņēmums norāda, ka modelis nav spēcīgākais daudzsoļu sarunām un uzdevumiem ar daudziem nosacījumiem: testā MultiChallenge tas ieguva 50,0 %.

Komentāri

0/1500

Komentāri tiek automātiski moderēti. Aizliegts naids, draudi, personas dati un spams.

Ielādē komentārus…

Vēl šajā kategorijā