ASV militārpersonas gandrīz uzbrūk Ķīnas kuģim pēc AI izdomāta izlūkošanas ziņojuma
Saskaņā ar CNN ziņoto, ASV bruņotie spēki gandrīz iejaucās un aizturēja Ķīnas kuģi, balstoties uz pilnībā nepatiesu izlūkošanas ziņojumu, ko palīdzēja sagatavot mākslīgā intelekta rīks. Ziņojumā kļūdaini apgalvots, ka kuģis caur Tuvajiem Austrumiem pārvadā kodolieroču programmas komponentes.
CNN, atsaucoties uz četriem ar notikumu iepazinušies avotiem, ziņo, ka ASV Speciālo operāciju pavēlniecības analītiķis izmantojis tērzēšanas robotu (chatbot), lai analizētu izlūkdatus par Ķīnas kuģa kravas manifestu. Rīks apvienojis atklātā pirmkoda izlūkošanas informāciju ar slepenu signālizlūkošanas datu, kas atrodas valdības rīcībā, un uz šī pamata izveidots ziņojums, kurā kļūdaini apgalvots, ka kuģis pārvadā ar kodolieroču programmu saistītas sastāvdaļas.
Balstoties uz šo ziņojumu, ASV militārpersonas jau bija sākušas gatavoties kuģa pārtveršanai un uzkāpšanai uz tā klāja, iesaistot arī gaisa atbalstu. Operācija tika apturēta tikai pēc tam, kad amatpersonas atklāja, ka izmantotais tērzēšanas robots bija nepareizi identificējis kuģa kravu. Kā CNN citēto avotu vārdiem, incidents "gandrīz izraisīja karu".
Plašāka problēma ar AI "halucinācijām"
Gadījums tiek uzskatīts par vienu no nozīmīgākajiem piemēriem, kad mākslīgā intelekta radīta nepatiesa informācija — tā sauktā "halucinācija" — apdraudējusi profesionāla ziņojuma uzticamību. Kopš 2023. gada, kad vārds "halucinēt" kļuva par Cambridge Dictionary gada vārdu, līdzīgi gadījumi jau skāruši žurnālistus, akadēmiskos pētniekus, tiesnešus, ārstus, policijas iestādes un uzņēmumu klientu apkalpošanas dienestus. Daži pētnieki norāda, ka pilnībā novērst valodas modeļu tieksmi "izdomāt" faktus, iespējams, nemaz nav iespējams, neskatoties uz mēģinājumiem to darīt ar īpašiem norādījumiem modelim.
Jāatzīmē, ka ASV Aizsardzības departaments janvārī izsludinājis tā saukto "AI paātrināšanas stratēģiju", kuras mērķis ir padarīt visus atbilstošos datus pieejamus mākslīgā intelekta izmantošanai dažādās militārajās un valsts pārvaldes sistēmās.
