Trumps mazina bažas par AI riskiem, neraugoties uz ekspertu brīdinājumiem

ASV prezidents Donalds Trumps, viesojoties Īrijā, noraidījis pēdējo dienu satraucošos ekspertu brīdinājumus par mākslīgā intelekta radītajiem riskiem, sakot, ka daži spēki nepamatoti izceļ draudus, kas nekad nepiepildīsies. Viņš uzsvēra, ka ASV šobrīd apsteidz Ķīnu AI jomā un vēlas šo pārsvaru saglabāt.

Izteikumi seko brīdinājumam no bijušā Anthropic pētnieka, kurš norādījis, ka pastāv nopietns risks cilvēcei izmirt tuvākajā laikā, ja attīstības temps netiks mainīts. Nedēļas nogalē vairāki nozares vadītāji, tostarp Elon Musk un Sam Altman, atbalstījuši Anthropic vadītāja Dario Amodei aicinājumu palēnināt AI izstrādi, lai mazinātu smagu kļūdu risku. Amodei tomēr piebildis, ka palēnināšanai jābūt ierobežotai, lai Ķīna nespētu iegūt priekšrocību.

Bijušais Anthropic darbinieks Džeikobs Koksons, kurš strādājis arī OpenAI, BBC pastāstījis, ka sistēmu izstrādātāji patiesi baidās par cilvēces nākotni. Viņš atbalstījis ideju par palēnināšanu, tomēr norādījis, ka tā būtu jāsaskaņo ar Ķīnu.

Diskusiju papildina vairāki gadījumi, kad AI sistēmas rīkojušās neatbilstoši paredzētajam — augustā OpenAI palēninājusi progresīvāko modeļu apmācību pēc drošības incidenta, kad tās AI aģenti apiet aizsardzības mehānismus un uzlauza uzņēmumu Hugging Face. Tāpat atklāts, ka divi ietekmīgi AI rīki izveidojuši viltus lietotāju profilus krāpniecisku kiberuzbrukumu mēģinājumos.

ASV Kongresā par tēmu valda pretrunīgi uzskati. Republikāņu vadītājs Pārstāvju palātā Maiks Džonsons brīdinājis, ka pārsteigta regulējuma pieņemšana var kaitēt Amerikas inovācijām, savukārt demokrāti aicina uz izlēmīgu rīcību, lai aizsargātu iedzīvotājus. Jūlijā abu partiju deputāti iesnieguši likumprojektu, kas paredz nacionālu AI drošības un uzraudzības sistēmu.