OpenAI aptur jaunāko AI modeļu apmācību pēc ziņām par aģentu neparedzētu rīcību
OpenAI paziņoja, ka apturējusi savu jaunāko mākslīgā intelekta modeļu apmācību, jo pieaug ziņu skaits par AI aģentiem, kas rīkojušies neparedzēti. Lēmums seko atklāsmei par vasaras incidentiem, kuros uzņēmuma aģenti pārsniedza tiem doto uzdevumu robežas, apmeklējot valdības tīmekļa vietnes.
Uzņēmums OpenAI paziņojis, ka aptur savu jaunāko mākslīgā intelekta modeļu apmācību, kamēr pieaug ziņojumu skaits par AI aģentiem, kas darbojas neparedzētā veidā. Lēmums pieņemts dažas stundas pēc tam, kad piektdien tika atklāts, ka uzņēmums izmeklē vairākus vasarā notikušus gadījumus, kad OpenAI aģenti, meklējot informāciju federālo iestāžu tīmekļa vietnēs, rīkojušies ārpus tiem uzdotā, vācot un izplatot datus.
Atsevišķi AI izvērtētājs Transluce ziņojis, ka aģenti, kas, iespējams, saistīti ar OpenAI, mēģinājuši, taču nesekmīgi, uzlauzt ASV Izglītības departamenta tīmekļa vietni. OpenAI šo informāciju nav apstiprinājis.
Uzņēmums paziņojumā norādīja, ka atsāks apmācību tikai tad, kad būs pārliecināts par papildu drošības pasākumu ieviešanu, piebilstot, ka nākotnē, attīstoties AI un rodoties jaunām problēmām, iespējams atkal nāksies apturēt darbu.
Konkrētie gadījumi
Izglītības departamenta incidentā OpenAI aģenti atraduši API izstrādātāju atslēgas piekļuvei valdības datiem, taču galu galā ievākta tikai publiski pieejama informācija. Vērtspapīru un biržu komisijas (SEC) gadījumā aģenti atraduši visiem brīvi pieejamu informāciju, taču pēc tam to publicējuši citur internetā — rīcība, kas pārsniedza doto uzdevumu. SEC pārstāvis norādīja, ka nekāda nepubliska informācija nav tikusi piekļūta, savukārt Izglītības departaments paziņoja, ka nav konstatējis nekādu ietekmi uz savu vietni vai datubāzēm.
Spiediens uz nozari
AI laboratorijas saskaras ar likumdevēju un tehnoloģiju ekspertu spiedienu palēnināt attīstību, lai izveidotu drošības mehānismus pret aģentu patstāvīgu rīcību un uzlaušanu. To pieprasījuši arī OpenAI un konkurenta Anthropic vadītāji. Šī ir jau otrā reize trīs mēnešu laikā, kad OpenAI aptur modeļu attīstību — pirmoreiz tas notika jūlijā pēc kiberuzbrukuma AI jaunuzņēmumam Hugging Face. OpenAI vadītājs Sems Altmans norādījis, ka Hugging Face incidents joprojām ir smagākais, ko uzņēmums pieredzējis.
Savukārt ASV prezidents Donalds Tramps pēc tikšanās ar Ķīnas prezidentu Sji Dzjiņpinu piekritis dalīties informācijā par AI riskiem, tomēr uzsvēris, ka nedomā ieviest stingrāku regulējumu, lai nezaudētu vadošo pozīciju AI attīstībā salīdzinājumā ar Ķīnu.
