Google atzīst: tās AI modelis Gemini uzlauzis trīs uzņēmumus
Google apstiprinājusi, ka maijā tās mākslīgā intelekta modelis Gemini bez nodoma uzlauzis trīs reālu uzņēmumu sistēmas testēšanas laikā. Uzņēmums to nepubliskoja, jo uzskatīja, ka kaitējums netika nodarīts.
Google pirmo reizi atklājusi, ka tās mākslīgā intelekta sistēma Gemini maijā uzlauzusi trīs uzņēmumu drošības sistēmas. Incidenti notika kiberdrošības izvērtējuma laikā, ko veica Izraēlas kiberdrošības uzņēmums Irregular, kas pārbauda uzlaboto AI sistēmu drošību.
Irregular Gemini testēja slēgtā vidē ar fiktīviem uzņēmumiem, kurai nevajadzēja būt savienotai ar internetu. Tomēr, kā ziņo Wall Street Journal, interneta piekļuve tika netīšām nodrošināta, un modelis pēc tam negaidīti uzlauza reālus uzņēmumus.
Trīs gadījumi
Vienā gadījumā Gemini tika testēts, mēģinot iegūt informāciju no fiktīva uzņēmuma, kuram bija tāds pats nosaukums kā reālam uzņēmumam. Nokļuvis internetā, modelis pareizi uzminēja reāla uzņēmuma pakalpojuma paroli un iekļuva tajā. Divos citos gadījumos Gemini internetā atrada publiski pieejamus repozitorijus ar piekļuves datiem un izmantoja tos, lai piekļūtu reāliem uzņēmumiem.
Google drošības inženierijas viceprezidente Heather Adkins paziņoja, ka visos trīs gadījumos, tiklīdz modelis saprata, ka piekļuvis reālam, nevis simulētam uzņēmumam, tas pārtrauca darbību.
Nav publiskots
Irregular par uzlaušanas gadījumiem Google informēja jūlija beigās pēc tam, kad bija atklājis, ka OpenAI uzlauzusi uzņēmumu Hugging Face. Atšķirībā no Anthropic un OpenAI, kas savus incidentus atklāja publiski, Google nolēma to nedarīt, jo uzskatīja, ka uzņēmumiem nav nodarīts kaitējums. Google gan apstiprināja, ka informējusi visus trīs skartos uzņēmumus.
Adkins uzsvēra, ka šie gadījumi apliecina, cik svarīgi ir mācīt jaudīgus AI modeļus rīkoties atbildīgi.
Pēc Anthropic un OpenAI atklāsmēm senators Bernijs Sanderss aicināja uzņēmumus apturēt tehnoloģiju izstrādi, norādot, ka tas liecina par kontroles zaudēšanu pār modeļiem. OpenAI uz divām nedēļām apturēja modeļu izstrādi, savukārt Anthropic vadītājs Dario Amodei aicinājis nozari kopīgi palēnināt AI attīstības tempu, lai nodrošinātu pietiekamus drošības pasākumus.
