Microsoft: mākslīgā intelekta aģenti uzņēmumiem var kļūt par iekšējiem draudiem
Programmatūras gigants Microsoft pirmdien ieviesa jaunus drošības rīkus, tostarp Guardian Agents, kas uzrauga uzņēmumos izmantotos MI aģentus. Uzņēmums uzsver, ka vadošajiem MI modeļiem uzticēties nevar, jo to uzvedība ir neparedzama.
ASV tehnoloģiju uzņēmums Microsoft pirmdien, 19. oktobrī, paziņoja par jaunām drošības funkcijām, kas paredzētas uzņēmumu aizsardzībai pret mākslīgā intelekta (MI) aģentu radītiem draudiem. MI aģenti ir programmas, kas patstāvīgi veic uzdevumus uzņēmuma vārdā. Microsoft uzskata, ka tos vajag uzraudzīt ar sistēmām, kuras nepieder pašiem MI izstrādātājiem.
Guardian Agents un Project Perception
Galvenais jaunums ir Guardian Agents, kas uzrauga uzņēmuma izmantotos MI aģentus. Tas ir daļa no Project Perception, kuru Microsoft iepazīstināja jūnijā. Šis produkts bija uzņēmuma atbilde tādiem jaudīgiem uzbrukumu modeļiem kā Anthropic izstrādātie Mythos un Fable un OpenAI ievainojamību skenēšanas sistēma Daybreak.
Sākotnēji Project Perception ietvēra trīs aģentu grupas: „sarkanā komanda” uzbruka kā hakeri, „zilā komanda” tos atklāja un vērtēja atrastās ievainojamības, bet „zaļā komanda” tās labēja. Produkts balstījās pieņēmumā, ka uzbrucēji nāks no ārpuses.
Uzticība modeļiem
Microsoft izpilddirektors Satja Nadella šomēnes savā personīgajā blogā rakstīja, ka vairs nevajag paļauties uz MI modeļu piegādātāju drošības solījumiem. Pēc viņa domām, uzņēmumiem jāizveido atsevišķas sistēmas, ko nekontrolē MI laboratorijas, lai uzraudzītu to aģentus. Viņš norādīja, ka „intelekta piegāde” jānodala no varas pār to.
Microsoft drošības biznesa vadītāja Hajeta Galo (Hayete Gallot) teica, ka vadošajiem modeļiem neatkarīgi no izcelsmes nevar uzticēties. Tas esot nevis tāpēc, ka tie būtu ļaunprātīgi vai viegli uzlaužami, bet gan tāpēc, ka tie ir neparedzami un apmācīti veikt uzdevumus, nevis ievērot organizāciju normas vai spriedumu. Turklāt tiem bieži dod piekļuvi datiem un rīkiem.
Citi jaunumi
Microsoft Defender produktā pievienota funkcija, kas atpazīst līdz 60 aģentu veidiem, ko darbinieki ienes darbavietā, tostarp Claude Code, Codex un OpenClaw. Uzņēmums papildinājis arī funkcijas, kas ierobežo aģentu piekļuvi datiem un sistēmām, dinamiski pielāgo atļaujas atbilstoši uzdevumam un pieprasa cilvēka apstiprinājumu riskantu lēmumu gadījumā.
Microsoft bija arī Nvidia jaunās Open Agent Safety Platform dibinātājs; platformu atbalsta vēl vairāk nekā 100 tehnoloģiju uzņēmumu. Tā izolē aģentus drošās vidēs un ar aparatūras palīdzību var apturēt to darbību.
