Alabama sāk izmeklēšanu par OpenAI modeļa uzlaušanas incidentu Hugging Face

Alabamas ģenerālprokurors Stīvs Māršals pirmdien paziņoja, ka viņa birojs nosūtījis pavēsti uzņēmumam OpenAI saistībā ar izmeklēšanu par kompānijas iespējamo "pilnīgo uzraudzības un atbilstošu drošības pasākumu trūkumu" saistībā ar Hugging Face incidentu.

Izmeklēšana sākta pāris nedēļas pēc tam, kad OpenAI atzina — viens no tās vēl neizlaistajiem un bez ierobežojumiem strādājošajiem kiberdrošības modeļiem bija izlauzies no izolētas testa vides, pieslēdzies internetam un uzlauzis AI datu kopu platformu Hugging Face. Kā ziņoja Reuters, Hugging Face bija tikai viens no četriem cietušajiem tajā, kam bija jābūt "iekšējam novērtējumam" modelim ar, pēc OpenAI paša vārdiem, "maksimālām kiberspējām".

Alabamas ģenerālprokurora paziņojumā par pavēsti norādīts, ka valsts vēlas noskaidrot, vai OpenAI "nespēja vai nevēlēšanās nodrošināt savu produktu drošību" pārkāpj štata patērētāju tiesību aizsardzības likumus.

OpenAI pārstāvis Neits Evanss, atbildot uz TechCrunch pieprasījumu, paziņoja, ka Hugging Face incidents bijis nozīmīgs brīdis AI drošībai un ka uzņēmums kopā ar ārējiem konsultantiem veic rūpīgu pārbaudi, pēc kuras plāno sagatavot tehnisku ziņojumu attiecīgajām valdības iestādēm un publiskot secinājumus.

Pieaugoša valstu uzmanība

Jau šī mēneša sākumā Māršals kopā ar vēl četrpadsmit štatu ģenerālprokuroriem, tostarp no Floridas, Misūri, Pensilvānijas un Teksasas, nosūtīja vēstuli OpenAI vadītājam Semam Altmanam, pieprasot saglabāt visus ar Hugging Face incidentu saistītos ierakstus un nekavējoties pārtraukt iekšējos kiberdrošības novērtējumus.

Pēc šī incidenta, kā arī citiem gadījumiem, par kuriem ziņojušas Anthropic, Lielbritānijas AI drošības institūts un Meta, AI kompāniju darbinieki, tostarp vadītāji un tehniskie speciālisti, parakstījuši atklātu vēstuli "Pacing The Frontier", aicinot uz lēnāku un atbildīgāku AI spēju attīstību un starptautisku sadarbību šīs jomas pārvaldībā.