AI aģentu drošības plaisa: 54% uzņēmumu jau piedzīvojuši incidentu
Pētījumā atklāts, ka vairāk nekā puse uzņēmumu jau saskārušies ar AI aģentu drošības incidentiem, bet lielākā daļa joprojām ļauj tiem dalīties ar akreditācijas datiem, radot nopietnus riskus.
Jaunā VentureBeat Pulse pētījumā, kas aptver 107 uzņēmumus, atklāta satraucoša tendence – AI aģentiem tiek piešķirta reāla piekļuve sistēmām un datiem, bet kontroles mehānismi ievērojami atpaliek.
Galvenie atklājumi
Vairāk nekā puse (54%) organizāciju jau piedzīvojušas apstiprinātu AI aģentu drošības incidentu (18%) vai bīstamu situāciju, kas novērsta pirms kaitējuma (36%). Tomēr tikai aptuveni trešdaļa (32%) uzņēmumu katram aģentam piešķir individuālu, pārvaldītu identitāti. Pārējie ziņo, ka daži aģenti izmanto kopīgus akreditācijas datus vai galvenokārt darbojas ar kopīgām API atslēgām un cilvēku vai pakalpojumu kontu akreditācijas datiem.
Identitātes un izolācijas trūkums
Kad aģenti dala akreditācijas datus, viena kompromitēta vai pārlieku plašu piekļuvi ieguvusi aģenta darbības rādiuss ievērojami paplašinās. Tikai trīs no desmit (30%) uzņēmumiem izolē savus augstākā riska aģentus smilškastēs, lai ierobežotu šo rādiusu. Drošības komplekts pārsvarā ir aizgūts no modeļu sniedzējiem un hiperskaleru risinājumiem, nevis veidots speciāli aģentiem.
Secinājums
Pētījums norāda uz aģentu drošības plaisu – autonomie aģenti izplatās ātrāk nekā identitātes, izolācijas un izpildes kontroles, kas nepieciešamas to ierobežošanai. Interesanti, ka uzņēmumi ir samērā mierīgi šajā situācijā, lai gan izdevumi drošībai joprojām ir neliela daļa no kopējā budžeta, un viedokļi dalās par to, vai aizsardzība spēj sekot līdzi AI apbruņotajiem uzbrucējiem.
