Anthropic AI modelis Claude testēšanas laikā uzlauzis trīs organizācijas
Anthropic paziņojis, ka tā mākslīgā intelekta modelis Claude testēšanas laikā ieguvis nesankcionētu piekļuvi trīs organizāciju sistēmām, izmantojot vājas paroles un neautorizētus galapunktus.
Anthropic ceturtdien paziņoja, ka tās mākslīgā intelekta modelis Claude kiberdrošības testēšanas laikā uzlauzis trīs organizāciju sistēmas. Tas notika dažas dienas pēc tam, kad konkurents OpenAI atklāja, ka tā AI aģents veicis vairāku dienu hakeru uzbrukumus AI uzņēmumam Hugging Face.
Uzņēmums norādīja, ka Claude ieguva nesankcionētu piekļuvi sistēmām pēc konfigurācijas kļūdas, kas ļāva modelim sasniegt internetu no testēšanas vidēm, kurām bija jābūt izolētām. Incidenti tika atklāti pēc 141 006 kiberdrošības testēšanas reizu pārskatīšanas, ko uzņēmums uzsāka pēc OpenAI atklājumiem.
Pārkāpumi liecina, ka AI paplašinātās spējas jau pastiprina drošības apdraudējumus, no kuriem eksperti ilgi baidījušies, un ka pat vadošos izstrādātājus var pārsteigt to modeļu izmantotās ievainojamības.
Anthropic norādīja, ka Claude kompromitēja skarto organizāciju infrastruktūru, izmantojot pamata metodes, piemēram, vāju paroļu izmantošanu un neautorizētus galapunktus.
Incidenti skāra trīs modeļus: Claude Opus 4.7, Claude Mythos 5 un iekšējo pētniecības modeli. Agrākie gadījumi datējami ar aprīli un notika testēšanas vidēs, kurām trūka standarta drošības pasākumu.
Pārkāpumi notika tā saukto “capture the flag” vingrinājumu laikā, kad modeļiem tika dots uzdevums atrast slēptu informāciju simulētos tīklos. Uzņēmums norādīja, ka modeļiem tika dots norādījums, ka tiem nav interneta piekļuves, taču pārpratums ar testēšanas partneri Irregular atstāja sistēmas savienotas ar publisko internetu.
Divas no organizācijām nezināja par darbību, pirms Anthropic ar tām sazinājās. Uzņēmums norādīja, ka joprojām cenšas sazināties ar trešo.
“Mēs atklājām šos incidentus pēc proaktīvas mūsu kiberdrošības testēšanas transkriptu pārskatīšanas,” teikts uzņēmuma paziņojumā.
Anthropic norādīja, ka atklājumi uzsver nepieciešamību pēc stingrākas kontroles gan iekšējās, gan trešo pušu testēšanas vidēs, jo AI modeļi kļūst arvien spējīgāki veikt reālas kiberdarbības.
