ASV karaspēks gandrīz uzsāk operāciju pret Ķīnas kuģi AI kļūdas dēļ

Šopavasar ASV lidmašīnas jau bija gaisā, gatavojoties bruņotai operācijai pret Ķīnas kuģi, kad amerikāņu ierēdņi konstatēja satraucošu faktu — operāciju pamatojošā izlūkinformācija bija mākslīgā intelekta čatbota izdomāta jeb "halucinēta". Kā piektdien vēstīja CNN, operācija tika atcelta pašā pēdējā brīdī, tādējādi novēršot iespējamu konfliktu ar Ķīnu.

Ziņojums par it kā aizdomīgo kuģi izplatījās Irānas kara laikā un apgalvoja, ka uz klāja tiek pārvadātas komponentes kodolieroču programmai. Kā izrādījās, nepatiesā informācija radās, kad Speciālo operāciju pavēlniecības analītiķis izmantoja AI čatbotu, lai apvienotu atklātā pirmkoda datus ar slepenu signālizlūkošanas informāciju. Programma nepareizi identificēja kuģa kravas manifestu. Pēc tam analītiķis to pašu rīku izmantoja atkārtoti, lai kļūdainos secinājumus noformētu kā oficiālu ziņojumu, kas tālāk tika izplatīts pa komandķēdes kanāliem.

Bažas par AI lomu lēmumu pieņemšanā

Gadījums atklāj plašāku problēmu — militārie vadītāji un neatkarīgi eksperti aizvien vairāk raizējas, ka AI radītas kļūdas var netraucēti virzīties augšup pa komandķēdi, pirms kāds tās apšauba. Tas notiek laikā, kad ASV armija strauji integrē AI risinājumus, lai paātrinātu lēmumu pieņemšanu un saglabātu pārsvaru pār Ķīnu. Pentagons AI raksturojis kā rīku, kas nodrošina būtisku priekšrocību, paātrinot tā saukto "nāvējošo ķēdi", lai komandieri varētu reaģēt savlaicīgi. Tomēr tas pats ātrums, kas padara AI pievilcīgu, var arī pieļaut halucinācijas, ja trūkst pietiekamas cilvēku uzraudzības.

GovAI pētnieks un ASV armijas virsnieks (atvaļinājumā) Džeiks Steklers (Jake Steckler) norādīja, ka karavīriem ir jāsaprot valodas modeļiem raksturīgā nenoteiktība, īpaši lēmumos, kas saistīti ar spēka pielietošanu — mērķēšanu, izlūkošanas analīzi vai operāciju plānošanu, kur kļūdām var būt letālas sekas. Tomēr, pēc viņa domām, incidents nebūtu jāuztver kā iemesls atteikties no AI, bet gan kā signāls ieviest vairāk drošības mehānismu. Steklers brīdināja, ka pārmērīga steiga ieviest AI, neraugoties uz riskiem, var mazināt karavīru uzticību šīm sistēmām un galarezultātā palēnināt to izmantošanu.