OpenAI atzīst: reakcija uz Austrālijas valdības vietņu uzlaušanu bijusi nepietiekama
OpenAI pārstāvis Austrālijas parlamenta komitejai atzina, ka kompānijas rīcība pēc tās AI aģenta izraisītas uzlaušanas bija nepietiekama. Anthropic savukārt norādīja, ka pēc pārbaudes nav atradusi pierādījumus par līdzīgiem incidentiem.
OpenAI stratēģijas vadītājs Jeisons Kvons otrdien Sidnejā parlamenta uzklausīšanā par mākslīgo intelektu atzina, ka uzņēmuma rīcība pēc viena no tā AI aģentiem izraisītas uzlaušanas bijusi nepietiekama. Viņš norādīja, ka incidents nebija pieļaujams un uzņēmums reakciju varēja nodrošināt labāk.
Jūnijā OpenAI aģents, kā norāda kiberdrošības eksperti, savā veidā unikālā gadījumā iekļuvis privātā statistikas portālā, kas saturēja "nesensitīvus" datus no Austrālijas universālās veselības apdrošināšanas sistēmas Medicare. Par notikušo Austrālijas valdība tika informēta tikai pēc vairākām nedēļām, nosūtot e-pastu uz vispārēju pastkastīti.
Atbildot uz komitejas jautājumu, kāpēc OpenAI nebija tieši sazinājusies ar valdības ministriem, Kvons piekrita, ka tas bijusi kļūda. Viņš paskaidroja, ka situācija sākotnēji tikusi uzskatīta par tehnisku jautājumu, tāpēc kontakti meklēti ar tehniskajiem partneriem, nevis augstākā līmeņa pārstāvjiem.
Pēc incidenta OpenAI mainījusi procedūru — tagad uzņēmums paziņo skartajai pusei nekavējoties, pat ja situācija pilnībā nav skaidra, un sāk kopīgu problēmas risināšanu. Uzņēmums arī pievienojis papildu drošības pasākumus savās treniņvidēs un plāno veidot vietēju darba grupu Austrālijā, lai pētītu riskus, kas saistīti ar arvien spējīgāku AI.
Kvons stāstīja, ka modeļu testēšana tagad notiek reāllaika uzraudzībā, un trauksme tiek izraisīta, ja modelis mijiedarbojas ar internetu neplānotā veidā. Pateicoties šai sistēmai, pagājušajā nedēļā par citu uzlaušanas gadījumu Jaundienvidvelsas valdība tika informēta 48 stundu laikā. OpenAI arī paudusi atbalstu obligātai incidentu atklāšanas kārtībai.
Anthropic drošības vadītājs Deivs Ors komitejai teica, ka pēc jūlija incidenta ar platformu Hugging Face uzņēmums pārbaudījis simtiem miljonu sarunu pierakstu, bet nekādas liecības par līdzīgiem uzbrukumiem Austrālijas valdības vietnēm nav atrastas.
Uzklausīšanās, kas turpināsies līdz piektdienai, tika runāts arī par autortiesībām — mākslas un mediju organizācijas pauda bažas, ka tā sauktais opt-out modelis varētu liegt māksliniekiem samaksu par viņu darbu izmantošanu AI apmācībā.
