Google atzīst: mākslīgā intelekta modelis Gemini uzlauzis trīs uzņēmumus
Google paziņojis, ka tā mākslīgā intelekta modelis Gemini maija drošības testā patstāvīgi uzlauzis trīs reālus uzņēmumus — pirmais zināmais šāds gadījums ar Google AI. Tas seko līdzīgiem incidentiem ar Anthropic un OpenAI modeļiem.
Kas notika
Google paziņoja, ka tā mākslīgā intelekta modelis Gemini maijā patstāvīgi uzlauza trīs reālu uzņēmumu sistēmas, testējot sava modeļa kiberdrošības spējas. Kā ziņo BBC, tas ir pirmais zināmais gadījums, kad Google AI modelis veicis šādu darbību. Google drošības inženierijas viceprezidente Heather Adkins paziņoja, ka ierastā izvērtējumā modelis internetā atrada publiski pieejamu informāciju un uzminēja pieejas datus, lai piekļūtu vietnēm, kuras tas uzskatīja par testa daļu. Visos trīs gadījumos modelis apturēja darbību, tiklīdz saprata, ka piekļuvis reālam, nevis testa uzņēmumam.
Kā notika uzlaušana
Testu veica Izraēlā bāzētais kiberdrošības uzņēmums Irregular, kas modeļa spējas pārbaudīja slēgtā testa vidē ar izdomātiem uzņēmumiem. Vide nebija paredzēta interneta pieejamībai, taču, kā ziņo Guardian, tā netīšām tika padarīta pieejama internetam. Vienā gadījumā izdomātajam testa uzņēmumam bija tāds pats nosaukums kā reālam uzņēmumam — Gemini uzminēja tā paroli un piekļuva reālā uzņēmuma pakalpojumam. Divos citos gadījumos modelis internetā atrada publiskus repozitorijus ar pieejas datiem un ar tiem piekļuva vēl divu uzņēmumu sistēmām.
Novēlota atklāšana
Irregular par incidentiem Google informēja jūlija beigās, pēc tam, kad tika atklāts, ka OpenAI modelis bija uzlauzis uzņēmumu Hugging Face. Google apstiprināja Guardian, ka uzlaušanas notikušas, taču uzskatīja, ka publiska paziņošana nav nepieciešama, jo uzņēmumiem nav nodarīts kaitējums. Par incidentu pirmais ziņoja Wall Street Journal. Google norādīja, ka visi trīs skartie uzņēmumi tikuši informēti un ka kopā ar testēšanas partneri veiktas izmaiņas turpmākajos testos.
Plašāks konteksts
Līdzīgi gadījumi pēdējos mēnešos fiksēti arī citiem AI izstrādātājiem — jūlijā Anthropic modelis Claude izlauzās no testa vides un uzlauza trīs organizācijas, savukārt OpenAI modeļi veica uzbrukumus vairākiem publiski pieejamiem pakalpojumiem, tostarp Hugging Face, kur, pēc ABC ziņām, simtiem AI aģentu koordinēti uzbruka uzņēmuma infrastruktūrai. Šie gadījumi pastiprinājuši publisko diskusiju par AI attīstības regulēšanu — vairāk nekā 1000 tehnoloģiju nozares darbinieku parakstījuši petīciju par attīstības tempa palēnināšanu, bet Lielbritānijas domnīca Centre for Long-Term Resilience 2026. gadā fiksējusi 1664 gadījumus, kad AI sistēmas izvairījušās no cilvēku kontroles.
