Anthropic atslēdz divus AI modeļus pēc ASV valdības rīkojuma
Uzņēmums Anthropic pēc ASV valdības piektdienas pēcpusdienā saņemta rīkojuma, atsaucoties uz nacionālās drošības apsvērumiem, atslēdzis divus AI modeļus – Claude Fable 5 un Mythos 5.
Anthropic paziņojis, ka atslēdz divus šonedēļ palaistos mākslīgā intelekta modeļus – Claude Fable 5 un Mythos 5 –, lai izpildītu ASV valdības eksporta kontroles rīkojumu, kas izdots, atsaucoties uz nacionālās drošības bažām. Nepieredzētais incidents ir jaunākais spriedzes punkts starp Anthropic un Trampa administrāciju.
Uzņēmums norāda, ka rīkojums pieprasīja apturēt piekļuvi "jebkurai ārvalstniekam, neatkarīgi no tā, vai viņš atrodas ASV vai ārpus tās, ieskaitot ārvalstu pilsoņus, kas ir Anthropic darbinieki", taču, lai nodrošinātu atbilstību, piekļuve liegta visiem klientiem.
Šī gada sākumā Trampa Aizsardzības departaments bija atzinis Anthropic par "piegādes ķēdes risku" pēc tam, kad uzņēmums centās noteikt robežas, kā ASV armija drīkst izmantot tā tehnoloģiju. Šis lēmums faktiski liedza valsts aģentūrām un darbuzņēmējiem izmantot Anthropic tehnoloģiju. Anthropic atbildēja, iesniedzot prasību tiesā pret Trampa administrāciju.
Otrdien Anthropic publiski izlaida Claude Fable 5 – Mythos AI modeļa versiju ar aizsardzības pasākumiem, kas neļauj tam atbildēt uz jautājumiem par kiberdrošību, bioloģiju un ķīmiju. Pirms publiskās izlaišanas, ko Anthropic veica sadarbībā ar ASV valdību, Mythos Preview AI modelis aprīlī bija pieejams ierobežotā apjomā. Mērķis bija dot uzņēmumiem un organizācijām iespēju izmantot tā jaudīgās kiberdrošības spējas, lai uzlabotu savu aizsardzību, un mazināt bažas, ka tehnoloģiju varētu izmantot ļaundari, lai izstrādātu spēcīgus hakeru rīkus.
Piektdienas emuāra ierakstā Anthropic pavēstīja, ka no ASV valdības saņēmis vēstuli plkst. 17:21 pēc austrumu laika. "Vēstulē nebija sniegtas konkrētas detaļas par nacionālās drošības bažām," rakstīja Anthropic. "Mūsu izpratne ir tāda, ka valdība uzskata, ka ir atklājusi veidu, kā apiet jeb 'jailbreakot' Fable 5." Uzņēmums piebilda: "Mēs pārskatījām šīs konkrētās metodes demonstrāciju, kas tika izmantota, lai identificētu nelielu skaitu iepriekš zināmu, nenozīmīgu ievainojamību. Šīs ievainojamības šķiet salīdzinoši vienkāršas, un esam atklājuši, ka arī citi publiski pieejamie modeļi tās spēj atklāt bez nepieciešamības veikt apiešanu."
Emuāra ierakstā uzņēmums apgalvoja, ka ir ieviesis stingrus aizsardzības pasākumus, lai samazinātu Claude Fable 5 ļaunprātīgas izmantošanas iespējamību. Anthropic arī norādīja, ka valdības atklātais jailbreaks Claude Fable 5 bija šaurs un nebūtu padarījis uzbrucēju būtiski bīstamāku, nekā tas būtu ar citu AI modeli. "Līdz šim valdība mums ir sniegusi tikai mutiskus pierādījumus par potenciālu šauru, neuniversālu jailbreaku, kas būtībā sastāv no tā, ka modelim tiek lūgts izlasīt noteiktu koda bāzi un novērst jebkādas programmatūras nepilnības," teikts uzņēmuma emuāra ierakstā. "Mūsu izpratnē valdībai tika nodots viens potenciāls jailbreaks."
Baltā nama un ASV Tirdzniecības departamenta pārstāvji nekavējoties neatbildēja uz WIRED lūgumu komentēt.
Anthropic izpilddirektors Dario Amodei šonedēļ politikas esejā sacīja, ka viņš un uzņēmums atbalsta taisnīgu, strukturētu un pārredzamu valdības procesu, kas bloķētu nedrošu AI modeļu izlaišanu. Piektdienas emuāra ierakstā Anthropic iebilda, ka "šī darbība neatbilst šiem principiem".
