Nozares līderi brīdina par AI riskiem, aicina uz stingrāku regulējumu
Pašreizējie un bijušie AI pētnieki brīdina, ka tehnoloģija var apdraudēt cilvēci, savukārt Anthropic, OpenAI un Google atzinuši drošības incidentus ar saviem tērzēšanas robotiem. Nozares vadītāji aicina uz lēnāku attīstību un stingrāku uzraudzību.
Vairāki pašreizējie un bijušie mākslīgā intelekta pētnieki pēdējās nedēļās pauduši nopietnas bažas par tehnoloģijas radītajiem riskiem cilvēcei. Viens no pētniekiem norādījis, ka pastāv lielāka par 10% varbūtība, ka AI varētu novest pie visas cilvēces bojāejas.
Vienlaikus lielākie AI uzņēmumi turpina sacensties par attīstītāku sistēmu, tostarp tā sauktā "superintelekta" — teorētiskas tehnoloģijas, kas pārspētu cilvēka spējas — radīšanu. Anthropic, OpenAI un Google, kas attiecīgi izstrādā tērzēšanas robotus Claude, ChatGPT un Gemini, ir atklājuši gadījumus, kad notikuši drošības pārkāpumi vai kad to sistēmas izmantotas ļaunprātīgām darbībām.
Aicinājumi palēnināt attīstību
Anthropic vadītājs Dario Amodei nesen aicinājis palēnināt AI attīstības tempu, ierosinot visas nozares mērogā vērstu palēnināšanos, regulējumu un neatkarīgu AI modeļu attīstības uzraudzību. Viņa priekšlikumam piekrituši gan OpenAI vadītājs Sems Altmens, gan xAI vadītājs Īlons Masks.
Anthropic līdzdibinātājs Džeks Klārks BBC pauda viedokli, ka nozarē varētu būt nepieciešams ieviest obligātu "izslēgšanas slēdzi", kuru varētu pārbaudīt neatkarīga trešā puse.
Likumdevēju un regulatoru reakcija
Brīdinājumi mudinājuši ASV likumdevējus izstrādāt likumprojektus par AI regulēšanu, taču Altmens šonedēļ atzina, ka Vašingtonai grūti sekot līdzi tehnoloģijas attīstības tempam. Viņš aicināja vairāk uzticēties AI kompānijām, uzsverot kādā Sanfrancisko konferencē, ka pasaulei jāuzticas, ka nozare rīkosies pareizi, jo apzinās situācijas nopietnību.
Arī Lielbritānijā deputāti un lordi no dažādām partijām norādījuši uz AI radītajiem cilvēktiesību riskiem, uzskatot, ka pastāvošie likumi nav pietiekami, lai tiktu galā ar strauji augošo tehnoloģiju. Apvienotā cilvēktiesību komiteja (JCHR) publicējusi ziņojumu, aicinot pieņemt jaunu likumu, kas atbilstu šo draudu apjomam un nopietnībai.
