Anthropic aptur jaunos AI rīkus bažu dēļ par ASV drošību
Uzņēmums Anthropic pēc ASV varasiestāžu drošības iebildumiem ir spiests apturēt savus jaunākos mākslīgā intelekta modeļus, kas izlaisti tikai pirms dažām dienām.
Mākslīgā intelekta uzņēmums Anthropic ir apturējis savu jaudīgo AI modeli pēc tam, kad ASV varasiestādes pauda bažas par drošību tikai dažas dienas pēc tā publiskās izlaišanas. Uzņēmums paziņoja, ka, lai nodrošinātu atbilstību, tas ir spiests pēkšņi atslēgt modeļus Fable 5 un Mythos 5 visiem klientiem. Anthropic un Trampa administrācija ir iesaistīti atsevišķā tiesvedībā par rīkojumu, kas aizliedz valsts iestādēm izmantot uzņēmuma AI rīkus. BBC ir vērsusies pie ASV Tirdzniecības departamenta pēc komentāra.
Claude Fable 5 ir Anthropic Claude Mythos versija, AI programma, kas konkurē ar OpenAI ChatGPT un Google Gemini. Anthropic norādīja, ka ASV nacionālās drošības iestādes nav identificējušas konkrētas problēmas. Uzņēmums uzskata, ka valdība, iespējams, ir uzzinājusi par metodi, kā apiet jeb 'jailbreakot' Fable 5. Jailbreaking ir process, kurā tiek apieti programmatūras ierobežojumi, lai aizsargātu kibertīklu, ļaujot hakeriem piekļūt sensitīvai informācijai vai atbloķēt funkcijas.
Anthropic pārskatīja šīs metodes demonstrāciju un secināja, ka tā identificējusi nelielu skaitu iepriekš zināmu, nelielu ievainojamību. Visas šīs ievainojamības šķiet salīdzinoši vienkāršas, un citi publiski pieejamie modeļi tās var atklāt bez nepieciešamības veikt apiešanu. Pirms Claude Fable 5 izlaišanas uzņēmums reklamēja dažādus 'drošības pasākumus', ko tas bija ieviesis, lai novērstu kiberuzbrukumus.
Finanšu, tehnoloģiju un valdību līderi bija pauduši bažas par tā publisko izlaišanu pēc privātas demonstrācijas aprīlī, kurā tika pārbaudītas ievainojamības pašā sistēmā. Anthropic paziņoja, ka pirms publiskās izlaišanas tas nodrošināja piekļuvi nelielam skaitam organizāciju, jo rīks bija tik inteliģents, ka spēja izmantot vai uzlauzt datorsistēmas, padarot to bīstamu. Uzņēmums sevi pasludināja par 'pārāk jaudīgu, lai to izlaistu', ko daži kritiķi apšaubīja kā pārspīlētu ažiotāžu un mārketinga triku. 'Fable spējas pārsniedz jebkuru modeli, ko esam padarījuši vispārpieejamu,' teica uzņēmums.
Eiropas Savienība, kas ieguva piekļuvi Mythos jūnija sākumā pēc nedēļām ilgām sarunām, norādīja, ka jaunākā attīstība vēl vairāk uzsver 'Eiropas vajadzību pēc tehnoloģiskās suverenitātes'. 'Mēs ņemam vērā Anthropic paziņojumu un izvērtējam,' sacīja Tomass Reņjē, Eiropas Komisijas pārstāvis.
Džīna Nefa, atbildīgā AI profesore Karalienes Mērijas universitātē Londonā, BBC sacīja, ka lēmums ierobežot piekļuvi modelim varētu kavēt šo AI sistēmu izstrādi un drošu testēšanu. Viņa brīdināja, ka tas varētu arī ierobežot sadarbību ar valdībām visā pasaulē. 'Mēs šobrīd esam nezināmā teritorijā,' viņa sacīja. 'Cilvēki AI nozarē ir brīdinājuši, ka šie rīki kļūst arvien labāki un ka mums ir jāspēj veidot spējas, lai pasargātu uzņēmumus no kiberuzbrukumiem.' Viņa piebilda, ka Apvienotās Karalistes valdības AI drošības institūts savos testos atklāja, ka modelis spēja izmantot aizsardzības sistēmas 73% gadījumu. 'Tās ir būtiskas izmaiņas kiberdrošības spējās,' viņa piebilda.
Anthropic pēdējā laikā ir nonācis Trampa administrācijas uzmanības lokā. Donalds Tramps ir publiski kritizējis uzņēmumu, un toreizējais aizsardzības sekretārs Pīts Hegsetts to nodēvēja par 'piegādes ķēdes risku' – pirmo reizi, kad ASV uzņēmums ir saņēmis šādu publisku apzīmējumu. Šis apzīmējums nozīmē, ka rīks vai pakalpojums nav pietiekami drošs valdības lietošanai, un vēsturiski tas ir paredzēts uzņēmumiem no nelabvēlīgām valstīm. Anthropic iesūdzējusi Pentagonu tiesā par šo apzīmējumu. ASV tiesnesis nolēmis, ka Pentagona direktīvu nevar izpildīt, kas nozīmē, ka valdības aģentūras un organizācijas, kas sadarbojas ar ASV armiju, joprojām var izmantot Anthropic, kamēr tiesvedība turpinās.
