Mākslīgā intelekta drošības barjeras kavē kiberdrošības pētnieku darbu
TechCrunch ziņo, ka AI uzņēmumu ieviestās drošības barjeras, kas paredzētas ļaunprātīgas izmantošanas ierobežošanai, traucē arī likumīgiem ofensīvās kiberdrošības pētniekiem, liekot viņiem meklēt alternatīvus risinājumus, piemēram, atvērtā koda modeļus.
AI giganti, piemēram, Anthropic un OpenAI, ir ieviesuši stingras drošības barjeras un īpašas pārbaudītas programmas, lai ierobežotu to modeļu izmantošanu ļaunprātīgos nolūkos. Tomēr šie pasākumi tagad apgrūtina legālu tīkla aizstāvju un ofensīvās kiberdrošības pētnieku darbu.
Jūnijā ASV valdība noteica eksporta kontroli uz Anthropic modeļiem Mythos un Fable, daļēji motivēta ar ziņojumu, kas apgalvoja, ka šo modeļu aizsargbarjeras var apiet. Lai gan kontroles vēlāk tika atceltas, situācija izgaismo problēmu: pētnieki kritizē AI uzņēmumus par patvaļīgiem lēmumiem par to, kas ir drošs drošības jomā.
Pazīstamais drošības pētnieks Marks Douds (Mark Dowd) norādīja, ka viņam ir neērti, ka lielie uzņēmumi pieņem patvaļīgus lēmumus par drošību. Douds desmitiem gadu ir pārdevis "nulles dienas" ievainojamības Rietumu valdībām, nevis ziņojis par tām programmatūras izstrādātājiem. Viņš atzina, ka tas var padarīt viņu neobjektīvu, taču viņa viedoklis nav atsevišķs.
Kriss Anlijs (Chris Anley), NCC Group galvenais zinātnieks, skaidroja, ka lūgt AI modelim mēģināt izmantot kļūdu ir būtisks solis, lai apstiprinātu, vai tā ir reāla ievainojamība. Ja drošības barjera liek modelim atteikties atbildēt, tas kaitē aizstāvjiem. Viņš salīdzināja AI ar āmuru: bez tā nevar uzbūvēt māju, bet tas ir arī neatsaucami ierocis.
Paolo Stagno (Paolo Stagno), CrowdFense tehnoloģiju direktors, kritizēja AI uzņēmumus, sakot, ka tie "būtībā izturas pret klientiem kā pret bērniem, kam nepieciešama auklēšana". Viņš un viņa kolēģi izmanto AI tikai reversajai inženierijai, izvairoties no tā izmantošanas ievainojamību atrašanai, lai neizpaustu sensitīvus datus.
Giuseppe Kali (Giuseppe Cali), kurš atrod nulles dienas ievainojamības, teica, ka barjeras netraucē viņa darbam, jo viņš AI neizmanto ofensīviem mērķiem, bet gan reversajai inženierijai un atbalsta rīkiem. Anonīms pētnieks no viedtālruņu komponentu ražotāja atzina, ka viņa darba devējs nav iekļauts Anthropic pārbaudītajā programmā, tāpēc tā rīki ir gandrīz nederīgi.
Kriss Tompsons (Chris Thompson), RemoteThreat izpilddirektors, norādīja, ka barjeras nav konsekventas un liek pētniekiem tērēt laiku, "kaulējoties" ar modeli, nevis strādājot pie drošības. Rezultātā pētnieki pievēršas Ķīnas atvērtā koda modeļiem, piemēram, GLM. Tompsons aicināja AI laboratorijas paplašināt piekļuvi un atbildību, pretējā gadījumā aizstāvji zaudēs AI sacensībā.
Kopumā raksts atklāj, ka drošības barjeru stingrība rada nevēlamas sekas, liekot likumīgiem pētniekiem meklēt alternatīvus risinājumus un potenciāli vājinot kiberdrošību kopumā.
