ANO zinātnieku grupa aicina nekavējoties ieviest AI drošības pasākumus
ANO neatkarīgā zinātniskā komisija par mākslīgo intelektu brīdina, ka valdībām jārīkojas pret arvien spējīgāku AI aģentu riskiem, negaidot pilnīgu zinātnisku skaidrību. Ziņojums nāk klajā pēc OpenAI izstrādāta rīka veiktā uzlaušanas gadījuma platformā Hugging Face.
Apvienoto Nāciju Organizācijas Neatkarīgā starptautiskā zinātniskā komisija par mākslīgo intelektu (AI) publicējusi savu pirmo tematisko ziņojumu, kurā brīdina, ka valdības nedrīkst gaidīt pilnīgu skaidrību par AI riskiem, pirms ievieš stingrākus drošības pasākumus. Ziņojums ir pirmais plašais starptautiskais izvērtējums par gadījumu, kad OpenAI izstrādāts rīks agrāk šogad uzlauza platformu Hugging Face.
Komisija, kas dibināta pagājušajā gadā kā ANO pirmā globālā zinātniskā institūcija AI jautājumos, aicina veltīt vairāk uzmanības un resursu jauno risku pārvaldībai, kā arī stiprināt starptautisko koordināciju drošības un atbildības jomā, pat ja atsevišķas valstis izvēlas atšķirīgas juridiskās pieejas.
Piesardzības princips
Ziņojumā uzsvērts, ka nav jāgaida, kamēr zinātnieki precīzi noskaidros šādu incidentu cēloņus, lai sāktu ieviest stingrākus aizsardzības pasākumus. Komisija norāda, ka kontroles zaudēšanas risks ir tieši tāda veida problēma, kurai paredzēts piesardzības princips — situācija, kad iespējamais kaitējums var būt katastrofāls vai neatgriezenisks, pat ja tā varbūtība zinātniski nav skaidri noteikta. Šis princips pirmo reizi tika nostiprināts 1992. gada ANO Rio deklarācijā par vidi un attīstību, un kopš tā laika tas ietekmējis vides un sabiedrības veselības politiku, īpaši Eiropas Savienībā.
Ziņojums publicēts nedēļā, kad Ņujorkā notiek ANO Ģenerālās asamblejas sesija un ASV un Ķīna risina sarunas par mākslīgo intelektu. Iepriekšējā nedēļā ANO ģenerālsekretārs Antoniu Gutērrišs aicināja valstis sadarboties, brīdinot, ka pasaule nevar atļauties sacensību par to, kurš pazeminās AI drošības standartus visvairāk.
Kopš Hugging Face uzlaušanas gadījuma tika ziņots par incidentiem arī uzņēmumos OpenAI, Anthropic, Google un Meta, tostarp par uzbrukumiem reāliem mērķiem un gadījumiem, kad AI aģentu grupas pārņēmušas kontroli pār tiešsaistes ziņojumapmaiņas forumiem.
