Eksperiments ar 2 miljoniem „slazdu” atklāj mākslīgā intelekta pakalpojumu ķēdes datu noplūdes
Drošības pētnieks HD Moore, nosūtot gandrīz divus miljonus uzvedņu ar unikāliem izsekojamiem noslēpumiem, konstatēja, ka vismaz trīs MI nodrošinātāji ir uzlauzti, bet citi pārkāpj privātuma iestatījumus. Dati tiek nolasīti vairākos starpposmos starp lietotāju un modeli.

Drošības uzņēmuma Dragos galvenais pētniecības speciālists HD Moore ir veicis eksperimentu, kas parādīja, ka mākslīgā intelekta (MI) pakalpojumu ķēdē sensitīvi dati noplūst plašā mērogā. Rezultātus viņš publicēja ceturtdien. Tie ir svarīgi ikvienam, kas MI lietotnēs ievada paroles, piekļuves atslēgas vai citu konfidenciālu informāciju, jo tā var nonākt nepiederošu personu rokās.
Kā noritēja tests
Daudzas MI lietotnes izmanto starpniekus, ko dēvē par MI maršrutētājiem jeb vārtejām, piemēram, OpenRouter vai Vercel. Tie saņem lietotāju uzvednes un pārsūta tās kādam pieejamam modelim, balstoties, piemēram, uz zemāko cenu vai uzdevumam piemērotāko risinājumu.
Moore sagatavoja Amazon Web Services piekļuves atslēgas, kas piesaistītas tukšiem kontiem, SSH paroles, unikālas tīmekļa adreses, DNS vārdus un privātu git repozitoriju atsauces. Neviens no šiem datiem iepriekš nebija izmantots. Katru „kanārijputniņu” viņš ievietoja tieši vienā uzvednē, kas tika nosūtīta vienam nodrošinātājam, un pats kontrolēja infrastruktūru, kura saņemtu mēģinājumus tos izmantot.
Ko atklāja
Pētnieks konstatēja, ka vismaz trīs MI nodrošinātājus bija uzlauzuši uzbrucēji, kuri nozaga saņemtās uzvednes. Vienā gadījumā tika atkārtoti izmantotas „pāris simti” AWS atslēgu, un katrs pieprasījums noteiktos oktobra beigu laika logos tika nozagts. Divos citos uzlaušanas gadījumos starp nozagtajiem bija arī pieprasījumi ar Zero Data Retention (datu neglabāšanas) atzīmi. Nozagtās atslēgas AWS API izsaukumos izmantoja „desmitiem tūkstošu” reižu.
Daži tālākpārdevēji piesaistīja klientus ar zemām cenām, ieslēdza pieprasījumu žurnālēšanu un nodeva uzvednes tālāk. Savukārt kāda Ķīnas MI laboratorija no vairāk nekā puses uzvedņu, kas tai nosūtītas no jūlija līdz oktobrim, ielādēja slepenās tīmekļa adreses, tostarp aptuveni divās trešdaļās pieprasījumu ar atzīmi „bez datu vākšanas”. To pašu darīja arī vairāki ASV nodrošinātāji, kas pārdod šīs laboratorijas modeļus.
Ieteikumi
Moore uzskata, ka drošākais risinājums ir modeļu darbināšana uz paša serveriem, taču tas ir dārgi. Alternatīva ir izmantot pirmā līmeņa nodrošinātāju tieši un izvēlēties augšupējos nodrošinātājus pašam, nevis pieņemt noklusējuma sarakstus.

