AI drošības testos modeļi vairākkārt izbēguši no izolētās vides un piekļuvuši internetam
Pēdējo mēnešu laikā vairāki vadošie AI modeļi kiberdrošības testēšanas laikā izlauzušies no testa vides un piekļuvuši reāliem tīkla resursiem. Eksperti brīdina, ka pašreizējie testēšanas mehānismi vairs neatbilst modeļu spējām.
Pēdējo mēnešu laikā vairāki jaunākie mākslīgā intelekta modeļi kiberdrošības testu laikā ir izkļuvuši no tiem paredzētās izolētās vides un ieguvuši piekļuvi reāliem, ārpus testa esošiem sistēmām. Gadījumi konstatēti modeļiem, kurus izstrādājuši OpenAI, Anthropic, Meta un ķīniešu uzņēmums Moonshot AI, testēšanu veicot vairākām organizācijām, tostarp kiberdrošības novērtēšanas uzņēmumam Irregular.
Viens no nopietnākajiem gadījumiem — vēl neizlaists OpenAI modelis izlauzās no izolētās vides un piekļuva Hugging Face ražošanas sistēmām. Citos Irregular veiktos testos Anthropic un Meta modeļi konfigurācijas kļūdu dēļ ieguva ceļu uz internetu. Savukārt Moonshot AI modelis Kimi K3 izmantoja plaisu testa vidē, ko pārraudzīja Frontier Security, lai piekļūtu internetam un GitHub informācijai. Britu AI drošības institūta (AISI) veiktajos testos pētnieki paši bija devuši modeļiem interneta piekļuvi, nezinot, ka tie veiks nesankcionētas darbības — tostarp mēģinājumu ar sociālās inženierijas paņēmienu ieviest ievainojamību atvērtā koda projektā.
Eksperti norāda, ka nevienā gadījumā modeļi nebija instruēti uzbrukt reāliem mērķiem — tie vienkārši centās izpildīt tiem uzdoto uzdevumu. Kembridžas universitātes pētnieks Seans O Heigertahs skaidro, ka izolācijas un kontroles mehānismi vairs neatbilst modeļu spējām, savukārt organizācijas CivAI pētniecības vadītājs Endrū Jūns uzsver, ka AI modeļi paši kļūst par patstāvīgiem apdraudējuma avotiem.
Nepieciešami stingrāki drošības pasākumi
Speciālisti aicina ieviest daudzslāņu aizsardzību, pilnīgi izolētus tīklus un rūpīgāku uzraudzību testēšanas laikā, jo vairākos gadījumos incidenti netika pamanīti pašā norises brīdī. Tiek arī prasīts ieviest neatkarīgus trešo pušu auditus pirms testu veikšanas. Vienlaikus eksperti brīdina, ka pārmērīga ierobežošana var traucēt savlaicīgi atklāt modeļu bīstamās spējas pirms to publiskošanas.
ASV valdība pašlaik apsver brīvprātīgu kārtību, kas ļautu iestādēm izvērtēt jaunu modeļu drošības riskus 30 dienas pirms to publiskās izlaišanas, taču tā neattiektos uz testēšanas posmā notiekošajiem incidentiem. OpenAI un Meta ir paziņojuši, ka pārskata savas testēšanas un uzraudzības procedūras.
