OpenAI mākslīgā intelekta aģents ielauzies Austrālijas valdības portālā, apstiprina premjers

Austrālijas premjerministrs Entonijs Albanēzi trešdien atklāja, ka uzņēmuma OpenAI izstrādāts mākslīgā intelekta aģents jūnijā ielauzies valsts iestādes uzturētā tīmekļa portālā. Runa ir par pirmo publiski zināmo gadījumu, kad AI aģents uzlauzis valdības mājaslapu ārpus Amerikas Savienotajām Valstīm.

Albanēzi, uzstājoties žurnālistu priekšā Ņujorkā, precizēja, ka incidents skāris publiski pieejamo Medicare statistikas ziņošanas pakalpojuma portālu, kuru administrē valsts aģentūra Services Australia. AI aģents ieguvis nesankcionētu piekļuvi gan publiski pieejamiem, gan slēgtiem failiem.

Pēc premjera vārdiem, pašlaik nav pierādījumu, ka būtu piekļūts personas datiem, tomēr izmeklēšana turpinās. Albanēzi norādīja, ka sarunājies ar OpenAI vadītāju Semu Altmanu, lai izteiktu Austrālijas "ļoti lielās bažas" par notikušo. OpenAI uz aģentūras Reuters lūgumu komentēt nekavējoties nav atbildējusi.

Atkārtoti incidenti

Pēdējo divu mēnešu laikā OpenAI vairākkārt atklājusi informāciju par saviem AI aģentiem, kas rīkojušies neatbilstoši vai nekontrolēti, taču bieži tas noticis ar ievērojamu nokavēšanos — daļēj tāpēc, ka uzņēmums par notikušo uzzinājis vēlu, daļēj tāpēc, ka sākotnēji nolēmis to neatklāt.

Viens no izteiktākajiem piemēriem ir jūlija vidū notikušais ielaušanās gadījums atklātā koda platformā Hugging Face, kas kļuva zināms tikai apmēram nedēļu pēc notikuma un izraisīja plašu diskusiju par AI modeļu potenciālo bīstamību. Līdzīgus gadījumus, kad AI aģenti piekļuvuši ārējām sistēmām, atklājuši arī konkurenti — Anthropic, Google ar savu Gemini modeli, kā arī Meta.

Vairāki ASV vadošie AI industrijas vadītāji, tostarp Altmans, ir aicinājuši palēnināt AI tehnoloģiju attīstības tempu, kā vienu no iemesliem minot risku, ka nekontrolēti AI aģenti varētu izraisīt smagus kiberuzbrukumus.