KPMG ziņojumā atklātas ar mākslīgo intelektu radītas nepatiesības
Vienas no 'Lielā četrinieka' revīzijas kompānijām KPMG publicētais ziņojums par mākslīgā intelekta ieguvumiem izrādījies pilns ar AI halucinācijām – nepatiesām atsaucēm un fiktīviem piemēriem.
Pagājušā gada oktobrī KPMG, viena no pasaules vadošajām profesionālo pakalpojumu un revīzijas kompānijām, publicēja ziņojumu ar nosaukumu "Total Experience: Redefining Excellence in the Age of Agentic AI". Dokumentā tika aprakstīts, kā uzņēmumi izmanto mākslīgo intelektu, lai apmierinātu klientu vajadzības. Tomēr izmeklēšana, ko veica GPTZero un ko apstiprināja laikraksts Financial Times, atklāja, ka ziņojums ir pilns ar neprecizitātēm un nepatiesām atsaucēm.
GPTZero, kas izstrādā AI satura atklāšanas rīkus, konstatēja, ka tikai piecas no 45 atsaucēm dokumentā bija pareizas un norādīja uz reāliem avotiem. 28 atsauces saturēja pārfrāzētus nosaukumus vai pievienotas fiktīvas daļas, savukārt 12 bija pārāk neskaidras, lai noteiktu, vai tās patiešām pastāv. GPTZero šādu nepatiesu atsauču radīšanu nosauca par "vibe citing".
Papildus nepatiesajām atsaucēm pētnieki atklāja, ka aptuveni puse no ziņojumā minētajiem faktiem bija izdomāti vai nepareizi attiecināti. GPTZero norādīja, ka tās, visticamāk, ir AI pētniecības rīka sekas, kas pārāk dedzīgi izpildīja uzdevumu atrast reālus "agentic AI" piemērus.
Viens no spilgtākajiem piemēriem: KPMG apgalvoja, ka aviokompānija Emirates ir izveidojusi mobilo čatbotu Sara, kas spēj runāt ar pasažieriem un mainīt viņu lidojumus. Patiesībā Sara ir mobilais asistents, kas tika palaists 2023. gadā, taču tas nav AI čatbots un nespēj mainīt rezervācijas. Tāpat KPMG norādīja, ka Šveices investīciju banka UBS integrējusi agentic AI savā ieguldījumu konsultācijā, riska pārvaldībā un atbilstības uzraudzībā. UBS paziņoja, ka šī informācija ir "faktiski nepareiza". Vēl viens piemērs: KPMG apgalvoja, ka Šveices federālajiem dzelzceļiem (SBB) ir AI aģenti, kas palīdz pasažieriem plānot, rezervēt un optimizēt ceļojumus. SBB pārstāvis nosauca šo apgalvojumu par "neprecīzu".
Šādi ziņojumi no tādām kompānijām kā KPMG parasti tiek uzskatīti par uzticamiem un bieži tiek citēti citos pētījumos. GPTZero izpilddirektors Edvards Tians brīdināja, ka kļūdu piesātināti dokumenti no "Lielā četrinieka" var "saindēt informācijas aku" un radīt sekundāras AI halucinācijas. KPMG pārstāvis laikrakstam The Times apliecināja, ka uzņēmums "nopietni uztver publicētā satura precizitāti un integritāti". KPMG jau ir atsaucis ziņojumu un pašlaik izmeklē tā publicēšanas apstākļus.
