ASV administrācija liek Anthropic atsaukt divus jaunākos AI modeļus; eksperti brīdina par drošības riskiem

ASV Trampa administrācija piektdien nosūtīja uzņēmumam Anthropic rīkojumu, atsaucoties uz nacionālās drošības bažām, liekot nekavējoties izņemt no aprites divus jaunākos mākslīgā intelekta modeļus — Fable 5 un Mythos 5. Rīkojumā nebija sniegta konkrēta informācija par draudiem, taču tika norādīts, ka modeļi nedrīkst būt pieejami ārvalstu pilsoņiem. Tā kā Anthropic daudzi darbinieki ir ārzemnieki, uzņēmums nolēma modeļus pilnībā atsaukt.

Saskaņā ar ziņojumiem, Baltajam namam par iespējamiem drošības riskiem ziņojuši Amazon pētnieki, kuri it kā atraduši veidu, kā apiet Fable 5 drošības barjeras. Amazon izpilddirektors Endijs Džesijs šīs bažas nodevis administrācijai. Rīkojums izdots laikā, kad administrācija vienlaikus mēģināja sarunāt pamieru Irānas karā.

Kiberdrošības eksperti ir parakstījuši atklātu vēstuli, aicinot Trampu atcelt rīkojumu, norādot, ka tas ir bīstams, jo atņem ASV tīklu aizstāvjiem modernas kiberaizsardzības spējas. Anthropic norādījis, ka līdzīgas ievainojamības var pastāvēt arī citos AI modeļos.

Analītiķi norāda, ka Anthropic attiecības ar Trampa administrāciju ir saspīlētas un šis solis varētu būt daļēji atriebīgs. Tomēr daži uzskata, ka strīds var nākt uzņēmumam par labu: pēc iepriekšējās sadursmes ar administrāciju Anthropic Claude lejupielādes strauji pieauga, un uzņēmums ieguva “dumpinieka” tēlu. Tāpat aizliegums var radīt iespaidu, ka Anthropic modeļi ir tik jaudīgi, ka tos jāierobežo, tādējādi piesaisot vēl lielāku interesi.