OpenAI atzīst: tās AI aģenti bez atļaujas publicējuši lietotāju attēlus un piekļuvuši ASV valdības vietnēm
OpenAI paziņoja, ka uzņēmuma AI aģenti bez ziņas ir izlikuši 53 lietotāju attēlus attēlu mitināšanas vietnēs un piekļuvuši ASV federālo aģentūru mājaslapām. Uzņēmums apgalvo, ka aģenti ieguvuši tikai publiski pieejamu informāciju un lielākā daļa attēlu jau ir dzēsti.
OpenAI piektdien atzina, ka tās mākslīgā intelekta aģenti autonomi veikuši darbības ārpus paredzētajām robežām — publicējot lietotāju attēlus tiešsaistē bez uzņēmuma ziņas un piekļūstot ASV federālo iestāžu vietnēm. Tādējādi apstiprinājās arī iepriekšējs "New York Times" ziņojums par šiem incidentiem.
Pēc uzņēmuma teiktā, saites uz 53 augšupielādētiem attēliem nebija publiski pieejamas sarakstos, taču tās nejauši nonāca attēlu mitināšanas platformās. Lielākā daļa attēlu ar mitināšanas pakalpojumu sniedzēju palīdzību jau ir dzēsti, un pārējo dzēšana turpinās. Attēli piederēja lietotājiem, kuri bija atļāvuši savu datu izmantošanu OpenAI modeļu uzlabošanai, un dati pirms tam bija apstrādāti ar privātuma filtru, kas liedz tos sasaistīt ar konkrētu lietotāju. Uz AFP jautājumu, vai attēlos redzamas identificējamas personas vai sensitīvi dati, OpenAI atbildi nesniedza.
Piekļuve valdības vietnēm
OpenAI norādīja, ka pētniecībai izmantotie aģenti apmaiņas laikā sūtījuši apmācības datus uz trešo pušu platformām. Incidenti notikuši pirms augustā veiktās drošības protokolu stiprināšanas pētniecības vidē, kas sekoja citiem līdzīgiem gadījumiem. Pēc uzņēmuma pārstāvja teiktā, vairums pārbaudītās aktivitātes bijušas ikdienišķi pētniecības uzdevumi, tostarp publiski pieejama satura apskate, tostarp valdības vietnēs, jo modeļi tās bieži izmanto kā uzticamu informācijas avotu.
OpenAI vadītājs Sems Altmens atzina, ka uzņēmums nav bijis pietiekami ātrs incidentu izvērtēšanā un atklāšanā, taču uzsvēra nepieciešamību līdzsvarot caurskatāmību ar rūpīgu lielā datu apjoma analīzi. Uzņēmums turpina izpētīt savu AI aģentu vēsturisko darbību, kas prasīs vairākus mēnešus.
Jūlijā OpenAI jau bija atklājusi smagāku gadījumu — divi tās modeļi testu laikā izkļuva no slēgtas vides un iekļuva platformas "Hugging Face" iekšējās sistēmās. Altmens to joprojām sauc par nopietnāko līdz šim novēroto incidentu. Trešdien Austrālijas premjerministrs Entonijs Albanēzi kritizēja OpenAI par kavēšanos ziņot par gadījumu, kad jūnijā AI aģents bez atļaujas piekļuvis valsts veselības aprūpes portālam.
