Anthropic bloķē piekļuvi Fable 5 un Mythos 5 pēc valdības rīkojuma
ASV tehnoloģiju uzņēmums Anthropic pārtraucis klientu piekļuvi diviem jaunākajiem mākslīgā intelekta modeļiem, jo valdība, atsaucoties uz nacionālās drošības apsvērumiem, pieprasījusi ierobežot ārvalstnieku piekļuvi.
Uzņēmums Anthropic, kas nodarbojas ar mākslīgā intelekta izstrādi, paziņojis, ka ir atslēdzis visu klientu piekļuvi modeļiem Fable 5 un Mythos 5. Tas noticis, lai izpildītu ASV valdības 12. jūnijā izdoto rīkojumu, kas balstīts uz nacionālās drošības apsvērumiem.
Valdības direktīva liek Apturēt ārvalstu pilsoņu, tostarp Anthropic darbinieku, piekļuvi šiem jaunizlaistajiem MI modeļiem neatkarīgi no tā, vai viņi atrodas ASV teritorijā vai ārpus tās. Citi Anthropic modeļi, kā arī tērzēšanas robots Claude, netiek ietekmēti.
Lai gan valdība sīkāk nepaskaidroja drošības bažas, Anthropic uzskata, ka iemesls ir atklāta metode, kā apiet Fable 5 aizsardzību (tā sauktais jailbreak). Fable 5 tika palaists 9. jūnijā un paredzēts, lai sabiedrībai pieejamā veidā nodotu Mythos 5 iespējas. Mythos 5 ir vismodernākais kiberdrošības modelis, kas pieejams tikai Project Glasswing partneriem. Fable 5 spējas pārsniedz iepriekšējos Anthropic modeļus — piemēram, tas pārspēja spēli Pokémon FireRed, kamēr Claude nespēja uzvarēt oriģinālo Pokémon Red.
Anthropic savā paziņojumā uzsvēra, ka ir ieviesis stingras drošības barjeras, lai samazinātu Fable 5 ļaunprātīgas izmantošanas risku kiberdrošības uzdevumos. Uzņēmums atzīmēja, ka daži lietotāji sūdzējušies, ka šie ierobežojumi ir pārāk plaši. Tomēr Anthropic atzīst, ka neviena sistēma nav pilnībā droša pret jailbreak mēģinājumiem, un katra modeļa aizsardzību var apiet ar tam specifisku pieeju. Uzņēmuma stratēģija bija padarīt šādus uzlaušanas mēģinājumus vai nu šaurus (neuniversāli), vai arī ļoti dārgus (universāli), vienlaikus veicot rūpīgu uzraudzību.
Valdība esot sniegusi mutiskus pierādījumus par vienu potenciālu šauru, neuniversālu jailbreak, ko kāda nenosaukta puse ar to dalījusies. Anthropic sola nākamo 24 stundu laikā sniegt sīkāku informāciju, bet uzsver, ka nepiekrīt tam, ka potenciālas apiešanas iespējas dēļ būtu jāatsauc komerciāls modelis. Uzņēmums, kas iepriekš brīdinājis par nepieciešamību pēc MI drošības, norāda, ka valdībai būtu jābūt tiesībām bloķēt nedrošus izvietojumus, taču tam jānotiek caur pārredzamu, taisnīgu un uz faktiem balstītu likumdošanas procesu. Šī rīcība, pēc Anthropic domām, šiem principiem neatbilst.
