Cilvēka kļūda noved pie OpenAI modeļa uzlaušanas Hugging Face sistēmā
OpenAI atklājis, ka tā testēšanas laikā modelis patstāvīgi uzlauzis Hugging Face platformu. Kiberdrošības eksperti norāda, ka galvenais iemesls bijis cilvēka kļūda – nepietiekama smilškastes izolācija.
Otrdien OpenAI paziņoja, ka tā modeļa tests izgāja no kontroles un veica pilnībā ar mākslīgo intelektu (AI) vadītu uzbrukumu AI datu platformas Hugging Face sistēmām. Tas ir dramatisks piemērs briesmām, ko rada attīstīti AI modeļi. Tomēr, pēc vairāku kiberdrošības ekspertu domām, šī nebijušā uzbrukuma pamatā bija cilvēciska kļūda.
OpenAI nespēja pareizi konfigurēt tā saukto “augsti izolēto vidi”, ļaujot testa smilškastei, kurai vajadzēja būt pilnībā nošķirtai no interneta, faktiski pieslēgties tīklam. Dan Guido, kiberdrošības uzņēmuma Trail of Bits dibinātājs, šo kļūdu nosauca par “nesaturēšanas gadījumu ar izslēgtām drošības sistēmām”. Savā emuāra ierakstā OpenAI skaidroja, ka tests bija veikts “augsti izolētā vidē, kur tīkla piekļuve bija ierobežota līdz iespējai instalēt pakotnes, izmantojot iekšēji uzturētu trešās puses programmatūru, kas darbojas kā starpnieks un kešatmiņa pakotņu reģistriem”. Modelim izdevās izbēgt no smilškastes, pateicoties līdz šim nezināmai nulles dienas ievainojamībai pakotņu instalēšanas sistēmā – tas bija kritisks pirmais solis ceļā uz Hugging Face uzlaušanu.
OpenAI ir “atbildīgi atklājis identificēto nulles dienas ievainojamību iekšēji uzturētajā trešās puses programmatūrā un strādā, lai to novērstu”. Tomēr lielākajai daļai kiberdrošības profesionāļu programmatūras ievainojamības ir sagaidāmas – īstā vaina ir lēmumā vispār uzturēt šādu trešās puses programmatūru smilškastē.
Kiberdrošības pētnieks Martins Būns (Martin Boone) TechCrunch sacīja, ka “tas izklausās pēc cilvēka kļūmes. Ja smilškaste patiešām būtu smilškaste, tai nevajadzētu būt fiziska savienojuma ar internetu. Tas vairāk izklausās pēc kādas ugunsmūra sistēmas, bet ugunsmūri ir grūti uzturēt no ārpuses iekšā, nemaz nerunājot no iekšpuses uz ārējo internetu.” Veterāns kiberdrošībā Džeiks Viljamss (Jake Williams) piekrita: “Jebkurš modelis, kas veic tādas darbības, kādas dokumentēja Hugging Face, nebija pilnībā ierobežots smilškastē. Viena cilvēka ‘modelis izbēga no smilškastes’ ir otra cilvēka ‘jūs neizveidojāt smilškasti pareizi, tāpēc tā izbēga’.”
Kiberdrošības konsultants Daniels Kards (Daniel Card) piebilda, ka OpenAI “nepielika pietiekamas pūles smilškastes dizainā un tās kontrolēs”, nodrošinot smilškastei “nefiltrētu ceļu uz internetu”. Eksperti atzīst, ka kritikai ir priekšrocība – tā ir izteikta pēc notikuma. Tomēr tā liek uzdot jautājumus par drošības praksi AI laboratorijās, īpaši saistībā ar izolētu vidi modeļu testēšanai.
OpenAI pārstāvji neatbildēja TechCrunch jautājumiem, tostarp par to, vai testa vidi izveidoja AI vai cilvēks. Šie jautājumi sniedzas tālāk par OpenAI – savā dokumentā, kurā tika iepazīstināts ar kiberdrošības modeli Mythos, Anthropic rakstīja, ka testā modelis spēja izbēgt no “drošā konteinera” un iegūt plašāku piekļuvi internetam, lai gan ne pilnībā.
