AI radīta izdomāta izlūkinformācija gandrīz izraisa ASV militāru operāciju pret Ķīnu
Šopavasar ASV militāri lēmumpieņēmēji jau bija nosūtījuši gaisa kuģus operācijai pret Ķīnas kuģi, taču to atcēla pēdējā brīdī, kad atklāja, ka pamatā esošo izlūkinformāciju bija sadomājis AI tērzēšanas robots. Notikums izraisījis bažas par to, cik lielā mērā armija paļaujas uz mākslīgo intelektu kritiskos lēmumos.
Šopavasar ASV militārpersonas pēdējā brīdī atcēla bruņotu operāciju pret Ķīnas kuģi, kad atklājās, ka to pamatojošo izlūkinformāciju bija izdomājis AI tērzēšanas robots. Par to, atsaucoties uz avotiem, piektdien vēstīja CNN. Militārie lidaparāti tobrīd jau bija gaisā, taču operācija tika pārtraukta, tādējādi izdevās izvairīties no iespējamas saspīlējuma saasināšanās ar Ķīnu.
Paredzamā mērķa izlūkošanas ziņojums, kas izplatījās kara ar Irānu laikā, apgalvoja, ka kuģis pārvadā komponentes kodolieroču programmai. Kā izrādījās, šī informācija bija kļūdaina. To radījis Speciālo operāciju pavēlniecības analītiķis, kurš izmantoja AI tērzēšanas rīku, lai apvienotu atklātus avotus ar klasificētu signālizlūkošanas informāciju. Programma nepareizi identificēja kuģa kravas sarakstu. Analītiķis pēc tam izmantoja to pašu rīku otrreiz, lai kļūdainos secinājumus noformētu kā oficiālu kopsavilkumu, kas tālāk tika izplatīts pa pavēlniecības kanāliem.
Bažas par ātruma un uzticamības samēru
Gadījums notiek laikā, kad ASV armija strauji integrē mākslīgo intelektu, lai paātrinātu lēmumu pieņemšanu un saglabātu pārsvaru pār Ķīnu. Pentagons AI raksturojis kā rīku, kas dod nozīmīgas priekšrocības, paātrinot mērķēšanas procesu. Tomēr tas pats ātrums, kas padara AI pievilcīgu, var arī pieļaut kļūdainu informāciju nonākt tālāk, ja trūkst pietiekamas cilvēku uzraudzības.
GovAI pētnieks un ASV Armijas virsnieks atvaļinājumā Džeiks Steklers (Jake Steckler) norādīja, ka karavīriem jāapzinās mākslīgā intelekta valodas modeļu nenoteiktība, un tas īpaši svarīgi lēmumos, kas var novest pie spēka pielietošanas — mērķēšanā, izlūkdatu analīzē vai operāciju plānošanā, kur likmes ir dzīvība un nāve. Tomēr, pēc Steklera domām, incidents nebūtu jāuzskata par iemeslu atteikties no AI izmantošanas, bet gan par signālu ieviest papildu drošības mehānismus. Viņš brīdināja, ka pārmērīga steiga ieviešanas ātruma dēļ var radīt gadījumus, kas mazina karavīru uzticību šādām sistēmām un galu galā palēnina to izmantošanu.
