Microsoft: Copilot kļūst par darba operētājsistēmu, uzņēmums piedāvā aģentu kontroli
Microsoft vadītājs Satja Nadella paziņoja, ka mākslīgā intelekta aģentus nevar uzticami pašus kontrolēt, tāpēc uzņēmums ievieš to identifikāciju, atļauju ierobežošanu un darbību žurnālus. Kopā ar 40 un vairāk uzņēmumiem sākta arī MI pārvaldības standartu izstrāde.

Microsoft izpilddirektors Satja Nadella uzņēmuma Ignite konferences galvenajā uzrunā iepazīstināja ar Copilot Workspaces — sadarbības vidi, kurā kopīgi strādā cilvēki un mākslīgā intelekta aģenti. Paralēli uzņēmums solīja jaunus aģentu kontroles rīkus un paziņoja par iniciatīvu MI drošības standartiem, kas svarīgi uzņēmumiem, kuri apsver aģentu ieviešanu darbā.
Kopīga darba vide
Copilot Workspaces pašlaik ir pieejama Microsoft agrīnās piekļuves programmā Frontier. Drīzumā tajā varēs iekļaut arī personiskos Autopilot aģentus. Nadella teica, ka līdz šim mijiedarbība ar MI lielākoties bijusi vienas personas pieredze, bet Workspaces to padara par daudzu dalībnieku vidi, kur cilvēki un aģenti strādā pie kopīga mērķa ar kopīgu kontekstu.
Uzticēšanās jautājums
Uzticība ir trešais Microsoft jaunās Frontier ekosistēmas pīlārs. Nadella atzina, ka šo modeļu iekšējā darbība joprojām ir grūti izprotama, un jautājumā, vai tehnoloģijai var uzticēties, atbildēja, ka pēc definīcijas — nevar. Viņš risinājumu raksturoja kā arhitektūras nepieciešamību nošķirt intelekta piedāvājumu no tam piešķirtās varas.
Praktiski katram Autopilot aģentam būs unikāls identifikators, bet administratori varēs ierobežot tā atļaujas vai to pilnībā bloķēt. Visas aģentu darbības tiks reģistrētas, lai cilvēks tās varētu pārskatīt, un Autopilot noteiktu darbību veikšanai varēs prasīt cilvēka apstiprinājumu.
Īsi sakot, Microsoft pieeja nav padarīt aģentus uzticamus, bet kontrolēt, ko tiem atļauts darīt. Uzņēmumiem būs jāizlemj, cik lielu autonomiju deleģēt. Šo aizsardzības pasākumu efektivitāte pret kļūdām, nesankcionētām darbībām vai datu noplūdi vēl būs jāpierāda.
MI pārredzamības iniciatīva
Microsoft paziņoja arī par "AI Transparency Initiative", kurā sadarbojas vairāk nekā 40 lielu uzņēmumu, tostarp Adobe un Mastercard. Mērķis ir izstrādāt atklātus nozares standartus MI pārvaldībai un drošībai. Nadella tos raksturoja kā veidu, kā palīdzēt izveidot atvērtu standartu, kas padara MI drošāku, pārredzamāku un pieejamāku.


