Florida tiesā prasa apturēt OpenAI jauno AI modeļu izstrādi

Florida štats vērsies tiesā ar priekšlikumu apturēt OpenAI jaunāko, vēl neizlaisto AI modeļu izstrādi, pieteikumā izmantojot izteikti dramatiskus formulējumus par iespējamiem eksistenciāliem draudiem. Dokumentā štats raksta, ka pagaidām tikai "pēc Dieva žēlastības" neviens no uzņēmuma AI aģentiem nav apdraudējis ūdens apgādi vai izslēdzis elektrotīklu.

OpenAI pārstāvji līdz šim nav atbildējuši uz Ars Technica lūgumu komentēt šo pieteikumu par pagaidu aizliegumu.

Plašāks konteksts

Bez ekstrēmajiem scenārijiem par civilizācijas sabrukumu un infrastruktūras sabotāžu, Florida pieteikumā atkārto arī vairākus plašākus argumentus no sava jūnijā iesniegtā prasības pieteikuma. Tie ietver pretenzijas par maldinošu reklāmu, kad AI tiek raksturots kā "drošs, precīzs vai uzticams", bažas par bērniem pieejamiem atkarību izraisošiem un pārmērīgi pieklājīgiem modeļiem, kā arī satraukumu par AI modeļu praksi atbilžu beigās uzdot vadošus jautājumus, lai piesaistītu lietotāju uzmanību.

Eksperti norāda, ka pat tiesas rīkojums pret OpenAI vien maz ietekmētu konkurējošu uzņēmumu turpināto modeļu izstrādi, un neskartu jau publiski pieejamos modeļus, kas rada līdzīgus riskus. Tiesas pieteikumā liels uzsvars likts uz tā saukto "nesaskaņotības" (misalignment) risku — scenārijiem, kuros AI sistēma varētu izdarīt bīstamus, loģiski sagrozītus secinājumus. Kritiķi gan norāda, ka šāda fokusēšanās novērš uzmanību no reālākiem draudiem, proti, cilvēku apzinātas AI izmantošanas ļaunprātīgos nolūkos un mēģinājumiem apiet drošības mehānismus.

Neatkarīgi no pieteikuma juridiskajām izredzēm, šis solis liecina, cik strauji pēdējos mēnešos mainījusies politiskā un tiesiskā gaisotne ap AI regulējumu — nozare, kas gadiem ilgi saņēma brīdinājumus no saviem drošības pētniekiem, tagad saskaras ar valdību un likumdevēju nopietnu reakciju.