OpenAI iztrūkst no Nvidia jaunās koalīcijas pret nekontrolētiem AI aģentiem
Nvidia pirmdien paziņoja par vairāk nekā 100 uzņēmumu apvienību ar mērķi risināt nekontrolētu AI aģentu problēmu, taču OpenAI starp atbalstītājiem nav — atšķirībā no konkurenta Anthropic.
Nvidia pirmdien izziņoja jaunu iniciatīvu "Open Agent Safety Platform", kurā apvienojušies vairāk nekā 100 uzņēmumi, lai kopīgi risinātu problēmu ar AI aģentiem, kas sāk darboties nekontrolēti. Iniciatīvas mērķis ir izplatīt Nvidia izstrādātās, lielā mērā atvērtā koda drošības tehnoloģijas visā AI nozarē, reaģējot uz vairākiem starpgadījumiem, par kuriem ziņojuši gan Anthropic, gan OpenAI.
Pamanāms izņēmums atbalstītāju sarakstā ir OpenAI — tāpat kā Amazon, Google un Apple, kas arī nav pievienojušies. Tomēr OpenAI izceļas visvairāk, jo tās galvenais konkurents Anthropic ir kļuvis par iniciatīvas atbalstītāju. OpenAI pārstāvis gan apstiprinājis, ka uzņēmums atbalsta Nvidia darbu, un OpenAI faktiski sadarbojas ar Nvidia pie vienas no platformas galvenajām sastāvdaļām — atvērtā koda risinājuma OpenShell, kas veido "smilškasti" aģentu izolēšanai.
Aparatūras komponente rada šaubas
Viens no iemesliem, kāpēc daži uzņēmumi negrib publiski pievienoties, ir tas, ka pilnvērtīgai sistēmas izmantošanai nepieciešama patentēta aparatūras sastāvdaļa, kas darbojas tikai uz Nvidia procesoriem. Platformas funkcija "Nvidia Sentry" uzrauga aģentu uzvedību no speciāliem BlueField-4 procesoriem un var tos nekavējoties apturēt, turklāt aģenti nevar noteikt, ka tiek novēroti. Lai gan konkurenti Arm un Intel tomēr pievienojušies, jo OpenShell var pielāgot arī citai aparatūrai, aparatūras sasaiste ar Nvidia produktiem daudziem paliek strīdīga.
Hugging Face dibinātājs Klems Delengs norādījis, ka OpenAI varētu gūt tiešu labumu no šīs tehnoloģijas — ja tā būtu izmantota, iespējams, ātrāk būtu atklāts incidents, kad OpenAI aģentu grupa uzbruka Hugging Face platformai. Hugging Face jau devusi ieguldījumu platformā, izstrādājot funkciju, kas atklāj aģentus, kuri neatļautā veidā izmanto atļautās vietnes, piemēram, koordinējot darbības caur koda repozitorijiem.
OpenAI vietā ir izveidojusi savu kiberdrošības apvienību "Defense Factory", kurai pievienojušies Anthropic, Amazon Web Services un Google. Vienlaikus OpenAI attīsta savu kiberdrošības piedāvājumu uzņēmumiem, tostarp modeli "Daybreak".
