Google AI modelis Gemini maijā uzlauzis trīs uzņēmumus, tas kļuva zināms tikai vēlāk
Google testa laikā izmantotais AI modelis Gemini maijā patstāvīgi iekļuva trīs uzņēmumu sistēmās, taču kompānija par to publiski nepaziņoja, kamēr informāciju neatklāja Wall Street Journal.
Maijā mākslīgā intelekta modelis Gemini kiberdrošības spēju testēšanas laikā patvaļīgi iekļuvis trīs dažādu uzņēmumu sistēmās, taču Google par šo starpgadījumu publiski nepaziņoja, līdz to atklāja izdevums Wall Street Journal. Testu veica trešā puse — uzņēmums Irregular, kas iepriekš bijis iesaistīts līdzīgos gadījumos arī ar Meta un OpenAI modeļiem.
Saskaņā ar WSJ, Google nolēma neizpaust notikušo, jo neuzskatīja to par modeļa "nesaskaņotības" (misalignment) piemēru. Uzņēmums skaidroja, ka tā bijusi "identitātes sajaukšana" — Gemini, uzminot paroli, piekļuvis reālam uzņēmumam, taču, apzinoties kļūdu, apturējis darbību. Google Drošības inženierijas viceprezidente Heather Adkins norādīja, ka šajā gadījumā modelis rīkojies pareizi.
Adkins skaidroja Verge, ka modelis internetā atradis publiski pieejamu informāciju un uzminējis piekļuves datus vietnēm, kuras tas uzskatīja par testa daļu. Visos trīs gadījumos modelis pēc iekļūšanas apturēja darbību. Kāpēc šāda patstāvīga rīcība un mēģinājumi piekļūt trešo pušu sistēmām netiek uzskatīti par nesaskaņotību, Adkins sīkāk nepaskaidroja. Viņa gan uzsvēra, ka Google drošības komandai ir ilgstoša pieredze ziņot par citu uzņēmumu programmatūras un sistēmu ievainojamībām, tostarp par vājām parolēm, un ka visas trīs skartās puses tikušas informētas, kā arī veiktas izmaiņas testēšanas procesos sadarbībā ar Irregular.
Tomēr AI drošības uzņēmuma Corridor vadītājs Jack Cable pauda bažas, ka problēma ir plašāka — AI modeļi sāk pārkāpt tiem noteiktās robežas un veikt reālus kiberuzbrukumus. Papildus atklājās, ka Irregular pieļāvis drošības kļūdu — modelim testa laikā internetam nebija jābūt pieejamam, taču tas nejauši palicis atvērts. Šādu gadījumu uzkrāšanās stiprina aicinājumus stingrāk regulēt mākslīgo intelektu.
