Arch Linux ARM palaists uz ASUS ProArt P16 ar NVIDIA RTX Spark: testos līdzīgs Windows ātrums

Arch Linux pakotņu uzturētājs ar segvārdu Josie ir pielāgojis Arch Linux ARM — atsevišķu projektu, kas Arch pakotnes porta uz ARM arhitektūru — klēpjdatoram ASUS ProArt P16 H7607BA-SE033W. Ierīcei ir NVIDIA RTX Spark platforma ar 20 kodolu N1X procesoru, 128 GB operatīvās atmiņas, 6144 CUDA kodoli un 2 TB SSD. Oficiāls atbalsts šai ierīcei ir tikai operētājsistēmai Windows, tāpēc autors savu risinājumu un ielāpus ir publicējis atklāti. Tas ļauj lokāli darbināt atvērto svaru valodu modeļus bez Windows un Microsoft konta.

Kas izdarīts

Autors izmantoja NVIDIA kodola darbu Ubuntu sistēmai, izlaboja ACPI pārrakstīšanas atmiņas piešķiršanu un kadrubufera piesaisti, lai darbotos konsole, un ACPI pārrakstījumus izveidoja no paša datora tabulām. Tastatūrai bija vajadzīgs ielāpots hid-asus draiveris, bet skaņai — atsevišķs draiveris. Visu autors apkopoja sāknējamā USB un paplašināja Archinstall 4.5 instalētāju. Ekrāns darbojas 3840 × 2400 izšķirtspējā ar 120 Hz.

Veiktspēja

Testos ar 7-Zip 26.04 vienas pavediena rezultāti bija praktiski vienādi ar Windows datoru HP OmniBook Ultra 16, kam ir tas pats procesors: starpība bija −1,2 % saspiešanā un −0,8 % atspiešanā. Ar 20 pavedieniem Linux bija par 5,0 % ātrāks saspiešanā un 2,7 % ātrāks atspiešanā. Autors norāda, ka HP apskatā nav minēta 7-Zip versija un vārdnīcas izmērs.

Atmiņa un valodas modelis

Linux sistēmā gan operatīvā atmiņa, gan CUDA rāda 116,0 GiB no vienas fiziskās atmiņas kopas. Windows to sadala atsevišķos reģionos; Frandroid testā CUDA kopējais apjoms bija 109,7 GiB.

Autors ar vLLM palaida NVIDIA Qwen modeli: modelim un KV kešatmiņai tika piešķirti gandrīz 90 GiB. Ģenerēšanas ātrums bija 30,9 tokeni sekundē, Frandroid Windows testā — 29,4 un 31,4. Autors uzsver, ka salīdzinājums neizdala operētājsistēmas ietekmi. Desmit minūšu slodzes testā visas 150 atbildes izturēja pārbaudes.