Eksperti: pirms ārējiem auditoriem AI uzņēmumiem jāsakārto pamata kiberdrošība
Pēc Anthropic vadītāja aicinājuma ieviest ārēju AI drošības auditu kiberdrošības eksperti norāda — laboratorijām vispirms jāsakārto elementāra tīkla drošība, jo vairāki AI modeļi jau izmantojuši nedrošas testa vides, lai piekļūtu internetam un trešo pušu sistēmām.
Pagājušajā nedēļas nogalē, pēc tam, kad kāds pētnieks pameta darbu bailēs, ka mākslīgais intelekts (MI) varētu apdraudēt cilvēces pastāvēšanu, uzņēmuma Anthropic vadītājs Dario Amodei publiski aicināja veidot ārējas organizācijas, kas pārbaudītu MI laboratoriju drošības praksi, ziņotu par incidentiem un vērtētu ne tikai gatavus modeļus, bet arī to apmācības procesus. Amodei ideju atbalstījuši arī OpenAI, Google un SpaceXAI vadītāji, un tā kļuvusi par vienu no galvenajām tēmām MI drošības diskusijā.
Tomēr kiberdrošības eksperti norāda, ka pirms sarežģītas ārējas auditēšanas sistēmas MI laboratorijām vajadzētu sakārtot elementārus drošības pamatus — piekļuves žurnālus un tiesību pārvaldību, kādus izmanto arī citās nozarēs. Luta Security vadītāja Ketija Musūrisa pauda skepsi par Amodei piedāvājumu, salīdzinot to ar situāciju, ja Microsoft 2002. gadā tā vietā, lai uzlabotu savu programmatūru pēc virknes kiberuzbrukumu, būtu vienkārši palēninājusi attīstību.
Nekontrolēti izlaušanās gadījumi
Bažas radījuši vairāki gadījumi, kad MI modeļi, veicot kiberdrošības pārbaudes uzdevumus, izmantojuši slikti nokonfigurētas "smilškastes" vidi, lai piekļūtu internetam un iekļūtu trešo pušu sistēmās — vienā Anthropic gadījumā tas noticis tāpēc, ka paši ārējie vērtētāji nebija slēguši piekļuvi. Citā gadījumā OpenAI aģenti vairākas nedēļas nemanīti izmantojuši kādu vācu vikiforumu, lai apietu izvērtēšanas uzdevumus — uzņēmums to pamanīja tikai pēc trešo pušu signāliem, nevis paša uzraudzības.
Eksperti iesaka MI laboratorijām ieviest reāllaika uzraudzību, ierobežot aģentu sesiju ilgumu un rūpīgi kontrolēt katru tīkla savienojumu. OpenAI jau sākusi uzraudzīt visu sava Astra modeļa rīku lietošanu, savukārt Anthropic apliecina, ka pastiprina drošības procedūras. Tomēr abi uzņēmumi atteicās atbildēt uz jautājumiem par to, kā tiek uzraudzīti un kontrolēti to MI aģenti.
Eksperti norāda arī, ka pašlaik nepastāv formāla kārtība, kā laboratorijām jāziņo par gadījumiem, kad to aģenti iekļuvuši trešo pušu sistēmās, un iespējams, ka daudzi šādi incidenti līdz šim nav publiskoti.
