AI kļūda gandrīz izraisa ASV militāru uzbrukumu Ķīnas kuģim
Kļūdains, daļēji ar mākslīgā intelekta palīdzību sagatavots izlūkošanas ziņojums gandrīz lika ASV armijai uzbrukt Ķīnas kuģim Tuvajos Austrumos. Par to vēsta CNN, atsaucoties uz avotiem, kas notikumu raksturo kā tādu, kas gandrīz izraisīja karu.
CNN, atsaucoties uz avotiem, ziņo, ka kļūdains izlūkošanas novērtējums gandrīz noveda pie ASV militāra uzbrukuma Ķīnas kuģim Tuvajos Austrumos. Ziņojumā izmantota mākslīgā intelekta palīdzība, un tas radīja nepamatotu secinājumu, ka kuģis pārvadā kodolieroču programmas komponentes.
Vēsts avots CNN norādījis, ka incidents "gandrīz izraisīja karu", uzsverot riskus, kas saistīti ar AI izmantošanu ASV Aizsardzības departamenta jutīgajā darbā. Engadget ir lūdzis departamentu komentēt CNN publicēto informāciju, taču atbilde pagaidām nav saņemta.
Kā radās kļūda
Novērtējumu sagatavoja speciālo operāciju komandas analītiķis, kurš par kuģa kravas sarakstu vaicāja AI tērzēšanas robotam. Pēc CNN ziņām, robots apvienoja atklātā pirmkoda izlūkošanas datus ar slepenu signālu izlūkošanu, no kā secināja, ka kuģis satur kodolieroču programmas sastāvdaļas. Šis apgalvojums gandrīz lika militārajiem spēkiem aizturēt kuģi, līdz amatpersonas atklāja, ka informācija ir mākslīgā intelekta radīta.
CNN nav izdevies noskaidrot, ko kuģis patiesībā pārvadāja, ne arī to, kuru AI rīku analītiķis izmantoja — komerciālu vai valdībai speciāli veidotu.
AI plašāka ieviešana Pentagonā
Gadījums notiek uz plašākas ASV Aizsardzības departamenta AI integrācijas fona. Janvārī aizsardzības sekretārs Pīts Hegsets izdeva memorandu, kurā uzdeva departamentam kļūt par "AI vispirms" organizāciju un eksperimentēt ar vadošo ASV AI uzņēmumu modeļiem. Sadarbība ar Anthropic neizdevās, jo uzņēmums atteicās ļaut militārpersonām izmantot savus modeļus autonomu ieroču izstrādē, un tas uz laiku tika izslēgts no sadarbības. Tomēr izveidojušās citas partnerības — februārī tika ziņots par vienošanos, kas ļauj militārpersonām izmantot SpaceX/xAI izstrādāto Grok, bet maijā NVIDIA, Microsoft un Amazon noslēdza vienošanos piedāvāt savas AI tehnoloģijas departamentam.
