ASV valdība liek Anthropic izslēgt divus jaudīgākos AI modeļus – drošības brīdinājumi atgriežas pret pašu uzņēmumu

ASV valdība piektdienas vakarā (pēc ASV austrumu krasta laika) izdevusi rīkojumu uzņēmumam Anthropic nekavējoties atslēgt piekļuvi diviem tā jaudīgākajiem mākslīgā intelekta modeļiem – Claude Fable 5 un Claude Mythos 5. Šis lēmums pamatots ar nacionālās drošības apsvērumiem, un tas skar visus lietotājus visā pasaulē, ne tikai ārvalstu pilsoņus, uz kuriem formāli attiecas eksporta kontroles noteikumi. Pārējiem Anthropic modeļiem piekļuve nav ierobežota.

Mythos ir Anthropic jaudīgākais AI modelis, kas tika prezentēts aprīļa sākumā un kopš tā laika ir bijis stingri ierobežots, jo tam piemīt izcila spēja atrast drošības ievainojamības programmatūrā. Saskaņā ar uzņēmuma sniegto informāciju, Mythos atklāja nepilnības visās lielākajās operētājsistēmās un tīmekļa pārlūkprogrammās, tāpēc tā vietā, lai to izlaistu plašākai sabiedrībai, Anthropic uzsāka kontrolētu programmu Project Glasswing, nododot modeli aptuveni 50 pārbaudītām organizācijām, tostarp Amazon, Apple, Google, Microsoft un CrowdStrike, aizsardzības kiberdrošības nolūkos.

Tikai pirms trim dienām izlaistais Fable 5 bija Anthropic atbilde komerciālajam spiedienam – versija ar ierobežojumiem, kas bloķē atbildes augsta riska jomās, piemēram, kiberdrošībā un bioloģijā. Pēc uzņēmuma domām, tas padara modeli pietiekami drošu vispārējai lietošanai. Saskaņā ar Vals AI etalonpārbaudēm, Fable 5 uzreiz kļuva par jaudīgāko publiski pieejamo AI modeli.

Anthropic savā emuārā norāda, ka valdības rīkojums ir formulēts kā eksporta kontroles pasākums, taču patiesais iemesls esot iespējama Fable 5 apiešana. Uzņēmums apgalvo, ka valdība sniegusi tikai mutiskus pierādījumus par “potenciāli šauru, neuniversālu” apiešanu, kas pielīdzināma modelim liekot nolasīt konkrētu kodu un atrast programmatūras kļūdas. Anthropic uzsver, ka šāda iespēja jau ir plaši pieejama citos publiskos modeļos, tostarp OpenAI GPT-5.5, un to ikdienā izmanto kiberdrošības speciālisti.

“Mēs nepiekrītam, ka šaura iespējamas apiešanas atklāšana būtu iemesls komerciāla modeļa atsaukšanai, ko izmanto simtiem miljonu cilvēku,” raksta Anthropic. “Ja šis standarts tiktu piemērots visā nozarē, tas praktiski apturētu visu jaunu modeļu izlaišanu visiem vadošajiem AI izstrādātājiem.”

Šī situācija ir ironiska, ņemot vērā, ka Anthropic ir balstījis savu publisko tēlu uz drošības apziņu, atšķirībā no konkurentiem. OpenAI izpilddirektors Sems Altmans aprīlī izteicās, ka Anthropic rīcība ar Mythos ir “uz bailēm balstīts mārketings”, prognozējot, ka, pastāvīgi runājot par sava modeļa bīstamību, uzņēmums piesaistīs valdības uzmanību. Tagad šī prognoze ir piepildījusies.