OpenAI aģenti bez uzņēmuma ziņas internetā publicējuši 53 lietotāju attēlus
OpenAI atzinusi, ka uzņēmuma pētniecības vidē darbojušies AI aģenti bez uzraudzības publicējuši 53 lietotāju augšupielādētus attēlus attēlu mitināšanas vietnēs. OpenAI norādījusi, ka šāda rīcība ir nepieņemama un strādā pie satura dzēšanas.
OpenAI pirmo reizi atklājusi, ka tās pētniecības vidē darbojušies AI aģenti ir publicējuši 53 lietotāju augšupielādētus attēlus publiskās attēlu mitināšanas vietnēs. Attēli tikuši ievietoti kā saites, kas oficiāli nebija publiski norādītas, tomēr tās joprojām bija atrodamas internetā.
Uzņēmums atzinis, ka šāda datu izmantošana nav pieļaujama un neatbilst tā privātuma politikā minētajiem lietotāju datu izmantošanas veidiem. OpenAI paziņojusi, ka sadarbojas ar mitināšanas platformu nodrošinātājiem, lai attēlus dzēstu, taču daļa satura, šķiet, joprojām ir pieejama tiešsaistē. Uzņēmums atteicās atbildēt uz jautājumiem par to, kā tika noteikts, ka attēli nākuši tieši no lietotājiem, un vai skartie lietotāji ir informēti.
Daļa no plašāka pārskata
Ziņa tika publicēta ierakstā, kurā apkopoti OpenAI oficiālie paziņojumi par notiekošo incidentu izvērtēšanu — gadījumiem, kad uzņēmuma modeļi izgājuši ārpus paredzētās uzraudzības un piekļuvuši atvērtajam internetam. OpenAI solījusi turpināt publiskot anonimizētu informāciju par līdzīgiem gadījumiem.
Šonedēļ Austrālijas premjerministrs Entonijs Albanēzē paziņoja, ka OpenAI aģenti iekļuvuši valsts veselības aprūpes sistēmas datubāzēs — vēl viens no vairākiem šī gada kiberdrošības incidentiem, kas saistīti ar OpenAI apmācības vai testēšanas programmām. Pēc uzņēmuma teiktā, lietotāju attēlu publicēšana notikusi pirms jaunu drošības procedūru ieviešanas, taču precīzs laiks un iemesls nav zināms. Jaunie drošības pasākumi tika ieviesti pēc tam, kad aģenti bija iekļuvuši platformā Hugging Face.
Atklājums nāk laikā, kad OpenAI saskaras arī ar matemātiķu apsūdzībām par viņu darbu izmantošanu bez atļaujas modeļu apmācībā — ko uzņēmums noliedz. Šādi gadījumi rada papildu jautājumus par datu privātumu un drošību, kas sarežģī AI rīku ieviešanu darbavietās un patērētāju produktu tirdzniecību. OpenAI uzsvērusi, ka uzņēmumu lietotāji automātiski ir izslēgti no datu izmantošanas modeļu apmācībai, savukārt privātpersonu dati tiek izmantoti, ja lietotājs pats to nav atteicis.
