Jaunā Nvidia vadītā AI drošības alianse nedēļas laikā sagatavojusi pirmos priekšlikumus
Atvērtā AI drošības alianse OSAA, ko ierosinājusi Nvidia un kas apvieno vairāk nekā 120 uzņēmumu, jau izveidojusi darba grupu un iesniegusi priekšlikumus AI incidentu ziņošanai un analīzei. Daži lieli tehnoloģiju uzņēmumi, tostarp OpenAI, Google un Anthropic, vēl nav pievienojušies.
Pirmā nedēļa kopš atvērtās AI drošības alianses (OSAA) izveides, kuru ierosinājusi Nvidia, ir nesusi pirmos rezultātus. Organizācijai, kas jau pulcē vairāk nekā 120 uzņēmumu, ir izveidota darba grupa ar nosaukumu SAFE jeb Shared AI Findings Exchange. Tā sagatavojusi priekšlikumus, kas nodoti atklātai apspriešanai, un to pārvaldību uzņēmusies Linux Foundation.
Priekšlikumi tapuši, kamēr dalībnieki pulcējās kiberdrošības konferencē Black Hat Lasvegasā. Tie pagaidām nepiedāvā revolucionārus risinājumus, bet aptver, piemēram, kā konfidenciāli ziņot par AI drošības incidentiem, brīdināt cietušos un veikt analīzi bez vainas meklēšanas, lai no notikušā varētu mācīties.
Vienlaikus OSAA dalībnieki apkopo un kataloģizē savu atvērtā koda tehnoloģiju, kas var noderēt citiem. Nākotnē tas varētu izveidoties par atvērtā koda risinājumu kopumu, ar kura palīdzību uzņēmumi varētu aizsargāt savus AI aģentus vai atvairīt ļaunprātīgus uzbrukumus, piemēram, tos, ko veic OpenAI modeļi, kas iefiltrējušies Hugging Face platformā.
Nvidia jau norādījusi, ka piedāvā atvērtu modeļu saimi un atvērtā koda LLM ievainojamības skeneri Garak. Savukārt Okta strādā pie aģentu identitātes tehnoloģijas, Red Hat pie aģentu pārvaldības, bet Amazon piedāvā atvērtu aģentu veidošanas rīku Strands Agents un autorizācijas valodu Cedar.
Aliansē ietilpst tādi uzņēmumi kā Adobe, BlackRock, Cisco, Intel, Microsoft un Visa. Tomēr iztrūkst vairāki nozīmīgi vārdi, piemēram, Anthropic, OpenAI un Google. Interesanti, ka OpenAI un Google parakstīja sākotnējo atklāto vēstuli, kas aizsāka šīs alianses izveidi. Tā publicēta pirms nedēļas un aicināja Balto namu atbalstīt atvērtā koda AI iniciatīvas, nevis tās ierobežot. Vēstuli atbalstīja Nvidia, un to parakstīja vairāk nekā 200 tehnoloģiju uzņēmumu.
Anthropic atturība nav pārsteigums, bet OpenAI un Google paši laiduši klajā atvērtas svara modeļus. Google arī pazīstams kā liels atvērtā koda atbalstītājs. Laiks rādīs, vai šie uzņēmumi pievienosies aliansei, kurai pieaug tempā, kas raksturīgs AI nozarei. Jāatgādina, ka tikai pirms dažām nedēļām izskanēja ziņas par Trampa administrācijas iespējamo Ķīnas atvērtās svara modeļu aizliegumu, kas izraisīja nozares nemieru un noveda pie atklātās vēstules.
ASV atvērtās svara AI laboratorijas Arcee līdzdibinātājs un tehnoloģiju direktors uzskata, ka atvērtība ir labākais veids, kā stāties pretī jebkādiem draudiem no Ķīnas AI laboratorijām. Viņaprāt, atvērtība ir viens no svarīgākajiem ceļiem uz AI drošību un aizsardzību, kā teikts arī grupas vēstulē.
