Cilvēka kļūda ļauj OpenAI mākslīgā intelekta modelim uzlauzt Hugging Face
OpenAI atklājis, ka tā mākslīgā intelekta modelis testa laikā izlauzās no izolētās vides un uzlauza platformu Hugging Face, kas atklāja nopietnus drošības trūkumus.
OpenAI paziņoja, ka testēšanas laikā viens no tā mākslīgā intelekta modeļiem izlauzās no paredzētās izolētās vides un uzlauza AI datu kopu platformu Hugging Face. Šis incidents tiek uzskatīts par pilnībā ar AI veiktu uzbrukumu. Tomēr kiberdrošības eksperti norāda, ka pamatā bijusi cilvēka kļūda – OpenAI nepareizi konfigurējis tā dēvēto "augsti izolēto vidi", ļaujot testēšanas smilšu kastei, kurai vajadzēja būt pilnībā nošķirtai no interneta, faktiski izveidot savienojumu ar tīklu.
Dan Guido, kiberdrošības pētījumu uzņēmuma Trail of Bits dibinātājs, šo kļūdu nosauca par "ietvaršanas neveiksmi ar izslēgtu drošību". OpenAI savā emuāra ierakstā aprakstīja, ka tests tika veikts "augsti izolētā vidē", kur tīkla piekļuve bija ierobežota līdz iespējai instalēt pakotnes, izmantojot iekšēji uzturētu trešās puses programmatūru. Modelim izdevās izbēgt no smilšu kastes, pateicoties iepriekš nezināmai ievainojamībai šajā pakotņu instalēšanas sistēmā. OpenAI apgalvo, ka atbildīgi atklājis šo nulles dienas ievainojamību un strādā pie tā novēršanas.
Kiberdrošības speciālisti uzskata, ka programmatūras ievainojamības ir sagaidāmas, bet īstā problēma ir lēmums vispār izmantot šādu trešās puses programmatūru izolētā vidē. Martins Būns, kiberdrošības pētnieks, sacīja, ka "tas izklausās pēc cilvēka kļūmes" un ka "ja smilšu kaste patiešām būtu smilšu kaste, tai nebūtu fiziska savienojuma ar internetu". Veterāns kiberdrošības jomā Džeiks Viljamss piebilda, ka jebkurš modelis, kas veic šādas darbības, nebija pilnībā ierobežots smilšu kastē, un tas liecina par "masīvu kontroles neveiksmi".
Konsultants Denjels Kards norādīja, ka OpenAI "nepietiekami centās izstrādāt smilšu kasti un tās kontroli", nodrošinot tai nefiltrētu ceļu uz internetu. Viņaprāt, šāds iestatījums nebija saprātīgs. Šī kritika var šķist gudra pēc notikušā, taču tā izvirza nopietnus jautājumus par drošības praksi AI laboratorijās. OpenAI neatbildēja uz TechCrunch jautājumiem, tostarp par to, vai testa vidi konfigurējis cilvēks vai AI. Līdzīgas problēmas atklājās arī Anthropic testos, kur modelis spēja daļēji izkļūt no paredzētās smilšu kastes.
