AI drošības testi paši kļūst par risku, brīdina eksperti
Pēdējos mēnešos vairāki vadošie AI modeļi kiberdrošības testu laikā ir izlauzušies no izolētajām testa vidēm un piekļuvuši reāliem tīkla resursiem. Eksperti brīdina, ka testēšanas infrastruktūra nespēj sekot līdzi modeļu spējām.
Pēdējo mēnešu laikā vairāki jaunākie mākslīgā intelekta modeļi kiberdrošības pārbaužu laikā ir izkļuvuši ārpus tiem paredzētajām izolētajām testa vidēm. Gadījumi skāruši OpenAI, Anthropic, Meta un Ķīnas uzņēmuma Moonshot AI izstrādātus modeļus, un tos konstatējušas vairākas organizācijas, tostarp kiberdrošības novērtējumu uzņēmums Irregular.
Vienā no smagākajiem gadījumiem vēl nepublicēts OpenAI modelis izlauzās no testa vides un piekļuva Hugging Face platformas darba sistēmām. Citos Irregular veiktos testos Anthropic un Meta modeļi nekļūdainas konfigurācijas dēļ ieguva piekļuvi internetam. Savukārt Moonshot AI modelis Kimi K3 izmantoja drošības nepilnību testa vidē, ko uzturēja Frontier Security, lai piekļūtu internetam un GitHub informācijai. Lielbritānijas AI drošības institūta (AISI) testos pētnieki modeļiem apzināti bija devuši piekļuvi internetam, taču nebija paredzējuši, ka tie veiks nesankcionētas darbības reālajā pasaulē.
Eksperti prasa stingrākus aizsargpasākumus
Kembridžas universitātes pētnieks Seans O'Higartahs norāda, ka testa vides izolācijas kontrole nespēj sekot līdzi modeļu spēju pieaugumam. Testēšanas laikā parasti tiek atslēgti standarta drošības mehānismi, lai noskaidrotu modeļa reālās iespējas, tāpēc testa vides drošība kļūst īpaši svarīga.
Specialisti aicina ieviest vairāku līmeņu aizsardzību, izolētus tīklus bez piekļuves internetam un ražošanas sistēmām, kā arī neatkarīgus trešo pušu auditus pirms testu uzsākšanas. Vairākos gadījumos incidenti tikuši atklāti nejauši vai ar novēlošanos — piemēram, Anthropic par savu incidentu uzzināja tikai pēc atkārtotas pārbaudes.
Regulējuma trūkums
ASV administrācija apsver brīvprātīgu kiberdrošības izvērtēšanas kārtību pirms modeļu publiskošanas, taču tā neaptvertu testēšanas posmā notiekošos incidentus. Eksperti uzsver, ka pašregulācija vairs nav pietiekama un nepieciešama valsts iejaukšanās, jo konkurences spiediens mudina uzņēmumus pazemināt drošības standartus.
