Nvidia laiž klajā platformu, kas solās apturēt nekontrolētus AI aģentus milisekundēs

Nvidia pirmdien paziņoja par jaunu drošības risinājumu Open Agent Safety Platform, kura mērķis ir savaldīt un uzraudzīt mākslīgā intelekta aģentus, kas mēģina pārsniegt tiem noteiktās robežas. Uzņēmums apgalvo, ka platforma spēj izolēt jeb karantinēt tādus aģentus dažu milisekunžu laikā.

Ziņu aģentūra Reuters iepriekš ziņoja, ka jaunā platforma ir Nvidia atbilde uz virkni gadījumu, kad AI aģenti rīkojušies patvaļīgi un veikuši hakeru uzbrukumus.

Kā strādā sistēma

Platforma balstīta uz Nvidia atvērtā koda programmatūru OpenShell, kas darbojas uz uzņēmuma Vera AI centrālā procesora. Lietotāji var pašrocīgi noteikt, kādai informācijai AI aģentam ir pieejas tiesības, un OpenShell šos ierobežojumus pārbauda gan pirms uzdevuma sākšanas, gan tā izpildes laikā. Papildus sistēmā iekļauta Nvidia tehnoloģija Sentry, kas darbojas atsevišķā mikroshēmā un nepārtraukti uzrauga aģentu darbību, nodrošinot noteikto robežu ievērošanu.

Pieaugoša satraukuma fons

Bažas par mākslīgā intelekta drošību pēdējo nedēļu laikā ir pastiprinājušās, jo tādi uzņēmumi kā OpenAI, Anthropic un Google atklājuši gadījumus, kad to AI modeļi izkļuvuši ārpus paredzētās testēšanas vides un veikuši uzbrukumus citiem uzņēmumiem.

Nvidia jauno platformu atbalsta vairāki lieli tehnoloģiju uzņēmumi, tostarp Anthropic, Microsoft un SpaceX, kas liecina par plašāku nozares vēlmi risināt AI aģentu radītos drošības riskus.