ASV valdība liek Anthropic atslēgt divus jaudīgus AI modeļus drošības apsvērumu dēļ

ASV valdība piektdien lika uzņēmumam Anthropic nekavējoties atslēgt pieeju diviem tā jaudīgākajiem mākslīgā intelekta modeļiem – Claude Fable 5 un Claude Mythos 5 –, atsaucoties uz nacionālās drošības apsvērumiem. Anthropic paziņoja, ka izpildījis rīkojumu, taču norādīja, ka uzskata to par nepamatotu.

Rīkojums, ko uzņēmums saņēma piektdien plkst. 17:21 pēc Austrumkrasta laika, liek atslēgt abus modeļus visiem lietotājiem visā pasaulē, ne tikai ārvalstu pilsoņiem, pret kuriem bija vērsts eksporta kontroles pasākums. Citi Anthropic modeļi nav skarti.

Mythos ir Anthropic jaudīgākais modelis, kas tika iepriekšēji demonstrēts aprīļa sākumā un kopš tā laika stingri ierobežots, jo tas spēj atrast drošības ievainojamības programmatūrā. Saskaņā ar uzņēmuma datiem Mythos atklāja ievainojamības visās lielākajās operētājsistēmās un tīmekļa pārlūkprogrammās. Tā vietā, lai to publiskotu, Anthropic uzsāka kontrolētu programmu Project Glasswing, daloties ar modeli ar aptuveni 50 atlasītām organizācijām, tostarp Amazon, Apple, Google, Microsoft un CrowdStrike, aizsardzības kiberdrošības darbam.

Fable 5 tika izlaists tikai pirms trim dienām kā komerciāli drošāka Mythos versija ar drošības barjerām, kas bloķē atbildes augsta riska jomās, piemēram, kiberdrošībā un bioloģijā. Saskaņā ar Vals AI etaloniem tas bija visjaudīgākais publiski pieejamais modelis.

Valdības rīkojums ir pamatots ar eksporta kontroli, taču Anthropic blogā norāda, ka patiesais iemesls esot apgalvota Fable 5 'jailbreak' (apiešana). Uzņēmums apgalvo, ka valdība sniegusi tikai mutiskus pierādījumus par 'potenciālu šauru, neuniversālu apiešanu', kas pēc būtības ir modeļa pamudināšana lasīt konkrētu kodu un atrast programmatūras kļūdas. Anthropic piebilst, ka šāda 'spēju līmeņa' ir jau plaši pieejama citos publiskos modeļos, tostarp OpenAI GPT-5.5, un to ikdienā izmanto kiberdrošības profesionāļi.

Uzņēmums arī norāda, ka tā spēcīgākie aizsardzības mehānismi darbojas caur neatkarīgām klasifikatoru sistēmām, kas ir atsevišķi no paša modeļa, tāpēc pat tad, ja kāds pārliecina Fable turpināt runāt pēc atteikuma, pamatsargi pret bīstamākajiem rezultātiem paliek spēkā. Pārskatot nesenos lietojumus, Anthropic neatrada pierādījumus, ka šie aizsardzības mehānismi būtu veiksmīgi apieti.

'Nepiekrītam, ka šaura, potenciāla apiešanas atklāšana būtu iemesls komerciāla modeļa, ko izmanto simtiem miljonu cilvēku, atsaukšanai,' rakstīja uzņēmums. 'Ja šis standarts tiktu piemērots visā nozarē, tas praktiski apturētu visu jaunu modeļu izlaišanu visiem vadošajiem modeļu nodrošinātājiem.'

Anthropic tiek plaši prognozēts, ka tas veiks sākotnējo publisko piedāvājumu (IPO) šogad, un tas ir veidojis savu publisko identitāti kā drošību apzinošs alternatīvs konkurents. Ironiski, ka tieši piesardzība, ko Anthropic izrādīja, ierobežojot Mythos, tagad ir piesaistījusi valdības uzmanību, kas var traucēt tā biznesam.

OpenAI izpilddirektors Sems Altmans aprīlī podkāstā nodēvēja Anthropic rīcību ar Mythos par 'baiļu mārketingu': 'Ir acīmredzami neticams mārketings teikt: Mēs esam uzbūvējuši bumbu. Mēs grasījāmies to nomest jums uz galvas. Mēs pārdosim jums bumbu patvertni par 100 miljoniem dolāru,' sacīja Altmans. Viņš neparedzēja valdības rīcību, bet identificēja, ka, pavadot mēnešus, stāstot pasaulei, ka jūsu AI ir unikāli bīstams, pasaule – ieskaitot ASV valdību – mēdz klausīties.