Anthropic un ASV Baltā nama sarunas par Claude Fable 5 eksporta kontroli beigušās bez rezultāta

ASV Trampa administrācijas amatpersonas pirmdien pabeidza sarunas ar Anthropic, neatceļot eksporta ierobežojumus, kas pagājušajā nedēļā tika noteikti uzņēmuma vismodernākajiem mākslīgā intelekta modeļiem, reaģējot uz bažām par aizsardzības apiešanu (jailbreaking). To apliecināja trīs lietas informēti cilvēki. Administrācija joprojām uzskata, ka ir iespējams atspējot daļu no Anthropic modeļa Claude Fable 5 aizsargsistēmām, tādējādi ļaujot lietotājiem piekļūt uzņēmuma Mythos modeļa jaudīgākajām kiberdrošības spējām. Anthropic jau vairākas dienas apgalvo, ka administrācijas bažas ir pārspīlētas, un šo nostāju uzņēmums atkārtoti pauda darba grupas sanāksmēs Tirdzniecības departamentā, kurās piedalījās valdības pētnieki no Mākslīgā intelekta standartu un inovāciju centra (CAISI) un Nacionālā kiberdrošības direktora Šona Kernkrosa biroja. Sanāksmēs pa telefonu no G7 samita Evianā, Francijā, piedalījās arī tirdzniecības sekretārs Hovards Lutniks. Pats Kernkross sanāksmēs nepiedalījās. No Anthropic puses diskusijas vadīja līdzdibinātājs un skaitļošanas nodaļas vadītājs Toms Brauns un ārējo attiecību vadītāja Sāra Heka. Uzņēmuma priekšējās līnijas drošības testēšanas (red teaming) vadītājs Logans Greiems un vecākais drošības pētnieks Nikolass Karlīni uz sarunām ieradās Vašingtonā.

“Abas puses strādā ātri, lai atrisinātu šo jautājumu,” WIRED izteicās Anthropic pārstāvis. Baltā nama preses sekretārs no komentāriem atteicās. Vēl nav skaidrs, kā noritēs turpmākie soļi. Tirdzniecības departaments izteicis vēlmi atrast veidu, kā atjaunot Fable 5 pieejamību patērētājiem, taču tas, visticamāk, būs atkarīgs no tā, vai Anthropic pilnībā novērsīs drošības apiešanas riskus.

Ārkārtas sarunas notiek politiski saspringtā brīdī Anthropic, kas jau iepriekš bija ilgstošā konfliktā ar Pentagona departamentu par to, vai tā modeļus var izmantot noteiktos militāros lietojumos. Administrācija par drošības apiešanas riskiem pirmo reizi tika brīdināta pagājušajā nedēļā. Amazon izpilddirektors Endijs Džesijs tieši piezvanīja Valsts kases sekretāram Skotam Besentam, informējot par iespējamajām ievainojamībām, kam bija nozīmīga loma administrācijas satraukumā. Šo sarunu pirmā ziņoja The Information. Satrauktas amatpersonas uzdeva Nacionālajai drošības aģentūrai (NSA) pārskatīt ievainojamības. NSA secināja, ka ir iespējams noņemt Fable 5 aizsardzības barjeras, kas lika administrācijai noteikt ierobežojumus modelim. Piektdien Lutniks runāja ar Anthropic izpilddirektoru Dario Amodei, kamēr Tirdzniecības departaments sagatavoja vēstuli par eksporta kontroli. Nedēļas nogalē pēc tam, kad Anthropic bloķēja piekļuvi modelim visiem lietotājiem, Lutniks vairākkārt runāja ar Braunu un Heku.

Nav skaidrs, kāpēc tieši Amazon – viens no lielākajiem investoriem Anthropic – cēla trauksmi par Fable 5. “Kā vadošais mākoņpakalpojumu sniedzējs, kas apkalpo lielu skaitu privāto un publiskā sektora klientu, nav nekas neparasts, ka valdības lūdz mūsu padomu par iespējamiem drošības riskiem,” saka Amazon pārstāvis. “Kad tas notiek, mēs nedalāmies ar šo diskusiju detaļām.”

Sarunu pamatā ir domstarpības par Claude Fable 5 drošības apiešanas risku nopietnību. Piektdien emuāra ierakstā Anthropic norādīja, ka administrācijas raksturojums ir pārspīlēts. Pirmdien vairāki kiberdrošības pētnieki nosūtīja atklāto vēstuli, apgalvojot, ka eksporta kontroles pasākumi ir nepamatoti. “Anthropic Mythos modeļi ir diezgan labi, lai atrastu trūkumus un izmantotu tos ekspluatācijai. Tomēr tie nav unikāli labi šajos uzdevumos, un daudzi no vēstules parakstītājiem regulāri izmanto citus atvērtā pirmkoda modeļus drošības auditem,” teikts vēstulē. “Rezultātā šī rīcība ir atņēmusi aizstāvjiem labākos modeļus, radījusi tirgus nenoteiktību un apdraudējusi Amerikas AI līderpozīcijas bez reāla riska.”

Pētniece Keitī Musūra no Luta Security uzsver, ka neatkarīgi no tā, vai valdībai ir pierādījumi par pilnīgu Fable 5 aizsardzības apiešanu, diskusijas par modeļa ierobežošanu ir tikai pagaidu risinājums. “Lielākā daļa no mums drošības pētniecībā uzskata, ka aizsargbarjeras ir ātruma vaļņi, un tās nevajadzētu uzskatīt par drošības robežām kvalificētiem pretiniekiem. Tās kalpo tikai, lai palēninātu mazāk kvalificētos,” saka Musūra.

Investori Anthropic nedēļas nogalē arī centās novērtēt, kā šī konflikts ar Balto namu ietekmēs uzņēmuma nākotni. Daži investori uzskata, ka ASV valdība ir izvēlējusies tieši Anthropic, un konkurents nebūtu saskāries ar tādu pašu reakciju, ja būtu izlaidis modeli ar līdzīgām spējām. Vašingtonas eksporta kontroles direktīva rada plašākus jautājumus citām AI laboratorijām, kas plāno laist klajā modeļus ar Mythos līmeņa spējām, un par to, kā to izdarīt atbilstoši ASV valdības prasībām.

“Notikumi nedēļas nogalē… ir pamācoši visiem, ka valdība ir gatava šādiem soļiem,” saka Aidans Gomess, Cohere izpilddirektors. “Neviens nevar būt naivs pret šo realitāti.”