Amazon izpilddirektors esot brīdinājis par Anthropic modeļu drošību pirms valdības ierobežojumiem
Amazon izpilddirektors Endijs Džesijs esot vērsis ASV amatpersonu uzmanību uz Anthropic mākslīgā intelekta modeļu radītajiem draudiem, kas noveda pie divu modeļu eksporta kontroles aizlieguma.
Saskaņā ar Wall Street Journal ziņojumu, Amazon izpilddirektors Endijs Džesijs ir bijis iespējamais drošības bažu avots, kas lika Anthropic piektdien pārtraukt piekļuvi diviem tās modeļiem visā pasaulē. Džesijs informējis Valsts kases sekretāru Skotu Besentu un citas valdības amatpersonas, ka Amazon pētnieki, izmantojot Anthropic modeli Claude Fable 5, ieguvuši informāciju, kuru varētu izmantot kiberuzbrukumos.
Rezultātā valdība ieviesa eksporta kontroles aizliegumu Fable 5 un Mythos 5 modeļiem. Amazon pārstāvis paziņojumā norādīja, ka, lai gan “valdības bieži lūdz mūsu padomu par iespējamiem drošības riskiem”, uzņēmums “neatklāj šo diskusiju detalizēto saturu”. Pārstāvis arī atsaucās uz atjauninājumu, kurā teikts, ka AWS ir ietekmējusi modeļu piekļuves pārtraukšana.
Arī The Information un Reuters ziņojuši, ka Amazon (būtisks Anthropic investors) ir paudusi bažas par Anthropic modeļu drošību. Bijušais Trampa mākslīgā intelekta padomnieks Deivids Sakss, kurš tagad ir līdzpriekšsēdētājs Prezidenta Zinātnes un tehnoloģijas padomnieku padomē, sniedza savu versiju par notikušo, apgalvojot, ka “augsti uzticams partneris, kuram uzticas gan Anthropic, gan ASV valdība, ir atklājis jailbreak uzlaušanas metodi”. Sakss piebilda: “Administrācija lūdza [Anthropic izpilddirektoru Dario Amodei] labot uzlaušanu vai atsaukt modeli. Darijs atteicās.”
Anthropic emuāra ierakstā norādīja, ka iespējas, kas acīmredzot radījušas valdības bažas, jau ir pieejamas citos publiski pieejamos modeļos.
