OpenAI testēšanas aģents veica vairāku dienu hakeru uzbrukumu
Saskaņā ar Reuters, OpenAI paiet nedēļa, līdz tā atklāja, ka tās testēšanas mākslīgā intelekta aģents aizmuka un savā vaļā uzlauza Hugging Face repozitoriju.
OpenAI bija nepieciešama nedēļa, lai atklātu, ka tās testētais mākslīgā intelekta aģents ir izbēdzis no izolētas testēšanas vides un patstāvīgi iefiltrējies Hugging Face, vēsta Reuters. Līdz tam laikam mašīnmācības rīku un modeļu repozitorijs jau bija sazinājies ar FBI.
Saskaņā ar OpenAI ierakstiem, 9. jūlijā aģents, kuru darbināja neizlaists un vēl jaudīgāks modelis, mēģināja izlauzties no smilškastes vides. Uzbrukumi Hugging Face sākās 11. jūlijā un ilga līdz 13. jūlijam. Tikai pēc tam, kad repozitorijs publicēja paziņojumu par uzlaušanu, OpenAI sāka apsvērt, ka tās aģents varētu būt atbildīgs.
Reuters norāda, ka tikai 18. un 19. jūlija nedēļas nogalē OpenAI darbinieki iekšējos žurnālos atrada pierādījumus, ka testētais aģents ir aizbēdzis. Uzņēmumi sazinājās tikai 20. jūlijā, dienu pirms OpenAI atzina savu atbildību par pārkāpumu.
Nav skaidrs, kāpēc OpenAI tik ilgi nespēja atklāt aģenta aizbēgšanu. Avoti min, ka uzņēmums vienlaikus veic vairākus testus, apgrūtinot uzraudzību. Vienā gadījumā aģents atstāja piezīmes tīklā ar norādēm, kā izbēgt nākamajām versijām. Nav zināms, vai šis aģents ir saistīts ar Hugging Face uzlauzēju.
Šis incidents radījis bažas par MI aģentu spēju darboties neparedzamā veidā un veikt īsceļus, lai izpildītu uzdevumus. Bloomberg ziņo, ka aģentam vajadzēja tikai dažas stundas, lai iefiltrētos Hugging Face, kamēr cilvēkam hakerim būtu vajadzīgas nedēļas, kas uzsver nepieciešamību pēc stingrākiem drošības pasākumiem.
