Anthropic dibinātājs Dario Amodei noliedz aicinājumus aizliegt atvērtās svara modeļus, bet pauž bažas par Ķīnas mākslīgo intelektu
Anthropic izpilddirektors Dario Amodei pirmdien skaidri norādījis, ka viņa uzņēmums nekad nav iestājies par atvērtās svara modeļu aizliegšanu, tomēr viņš baidās, ka autoritāras valdības, īpaši Ķīnas, varētu izmantot MI militārai pārspēkam vai represijām.
Anthropic dibinātājs un izpilddirektors Dario Amodei pirmdien atbildējis uz industrijā izskanējušām baumām, ka viņa uzņēmums atbalstītu ASV valdības centienus aizliegt Ķīnas atvērtās svara modeļus vai pat visus šādus modeļus. Savā bloga ierakstā viņš uzsvēra: "Anthropic nekad nav iestājies par atvērtās svara modeļu aizliegumu." Tas notika pēc tam, kad Nvidia izpilddirektors Džensens Huans piektdien publicēja atklātu vēstuli, kurā Nvidia un citi MI uzņēmumi, tostarp Hugging Face, Meta, Microsoft, Mistral, aicināja politikas veidotājus nepiemērot pārāk plašus ierobežojumus atvērtās svara MI modeļiem. Lai gan šajā vēstulē Ķīna netika tieši pieminēta, nozares diskusijās centrālā vieta ir apgalvojumiem, ka Ķīnas MI laboratorijas pieaug savās spējās, bieži zogot intelektuālo īpašumu no ASV kolēģiem, tostarp izmantojot destilācijas metodi.
Amodei atzīmēja, ka atvērtās svara modeļi, kuriem nav bīstamu spēju, ir sabiedrisks labums: tie neko nemaksā, izņemot skaitļošanas resursus, un sniedz vērtību uzņēmumiem, izstrādātājiem un pētniekiem. Tomēr viņš ilgstoši baidās par MI attīstību, īpaši no autoritāru valdību puses. "Mans satraukums ir par to, ka autoritāras valdības izveidos modeļus, kas ir jaudīgāki par ASV modeļiem, lai iegūtu pastāvīgu militāro pārspēku un/vai apspiestu savus iedzīvotājus." Viņš norādīja, ka Ķīnas Komunistiskā partija (ĶKP) nav vienīgā autoritārā valdība, kas viņu uztrauc, bet tā ir "visietekmīgākā". Amodei arī baidās, ka MI varētu atvieglot bioloģisko uzbrukumu veikšanu, nevis tikai kiberdrošības draudus, un uzskata, ka atvērtās svara modeļi šajos scenārijos ir bīstamāki, jo tiem ir grūti piemērot aizsargbarjeras un uzraudzīt to izmantošanu.
Viņš atsaucās uz Apvienotās Karalistes MI drošības institūta ziņojumu, kur teikts, ka atvērtās svara modeļus pēc izlaišanas nevar atsaukt, kas ir pretrunā atvērtā koda atbalstītāju argumentiem par piekļuvi jaudīgiem modeļiem aizstāvībai. Savā ierakstā Amodei uzskaitīja darbības, kas, viņaprāt, varētu kavēt Ķīnu: ierobežot piekļuvi jaudīgām mikroshēmām (ASV jau to dara) un oficiāli vērsties pret destilāciju. Turklāt ASV draudējusi ar sankcijām pret Ķīnu, ja tiks konstatēta intelektuālā īpašuma zādzība. Amodei atbalstīja arī centienus izveidot organizāciju MI modeļu drošības testēšanai, īpaši, ja tai pievienotos visa pasaule, tostarp Ķīna. "Lai būtu efektīva, testēšanai jābūt globālai, kas nozīmē, ka arī ĶKP būtu jāpievienojas. Es domāju, ka tas ir iespējams... ierobežota sadarbība bioloģisko ieroču novēršanā varētu būt Ķīnas interesēs," rakstīja Amodei.
