Pētnieks brīdina: strauji augoša MI sacensība var apdraudēt kontroli pār tehnoloģiju
MI drošības pētnieks Džeikobs Koksons brīdina, ka uzņēmumu sacensība pēc jaudīgākiem mākslīgā intelekta modeļiem var apsteigt drošu kontroles mehānismu izstrādi. Viņš uzsver, ka riski saistīti ne tikai ar hipotētisku MI sacelšanos, bet arī ar reāliem draudiem, piemēram, kiberuzbrukumiem un dezinformāciju.
Mākslīgā intelekta attīstības temps pēdējos gados ievērojami apsteidzis sabiedrības spēju tam pielāgoties, un ar arvien jaudīgāku sistēmu parādīšanos pieaug arī jautājumi par to, vai cilvēki spēs saglabāt pār tām kontroli. Uz šiem riskiem publiski norādījis MI drošības pētnieks Džeikobs Koksons.
Pēc viņa vērtējuma, tehnoloģiju uzņēmumu savstarpējā sacensība par jaudīgāku sistēmu radīšanu var attīstīties straujāk, nekā tiek izstrādāti droši veidi šo sistēmu ierobežošanai. Īpaši Koksonu satrauc perspektīva, ka nākotnes MI varētu ne tikai pildīt cilvēku uzdevumus, bet arī patstāvīgi pilnveidot pašu spējas — tādā gadījumā, ja sistēma vairākās intelektuālās jomās pārsniegtu cilvēka līmeni, tās rīcību varētu kļūt aizvien grūtāk prognozēt.
Piekļuve digitālajai infrastruktūrai kā risks
Viens no apzinātajiem draudiem ir saistīts ar MI iespējamo piekļuvi internetam, datoriem un citiem digitāliem resursiem. Teorētiski ļoti attīstīta sistēma varētu patstāvīgi meklēt informāciju, veidot stratēģijas un rakstīt programmkodu, cenšoties sasniegt tai uzstādītos mērķus ar paņēmieniem, kurus izstrādātāji sākotnēji nebūtu paredzējuši. Ja šādi mērķi nesakristu ar cilvēces interesēm, tas varētu radīt nopietnas sekas.
Koksons uzsver, ka bažas nav saistītas tikai ar hipotētisku MI "sacelšanos". Nekontrolētas sistēmas varētu tikt ļaunprātīgi izmantotas arī kiberuzbrukumos, dezinformācijas izplatīšanā, krāpšanā vai citu bīstamu tehnoloģiju radīšanā — un jo plašāk šādas tehnoloģijas tiktu pielietotas, jo lielāks būtu potenciālais kaitējums.
Pētnieka galvenā vēstījuma būtība nav aicinājums atteikties no mākslīgā intelekta izstrādes, bet gan prasība, lai tā progress nenotiktu vienīgi ātruma sacensības dēļ. Pēc viņa domām, pirms jaunu, jaudīgāku sistēmu radīšanas nepieciešams nodrošināt uzticamus mehānismus to uzraudzībai, ierobežošanai un, ja nepieciešams, apturēšanai.
