ASV varasiestādēm varētu piešķirt tiesības piespiedu kārtā izslēgt "bīstamas" mākslīgā intelekta sistēmas
Jaunais likumprojekts "AI Kill Switch Act" dotu ASV Iekšzemes drošības departamenta sekretāram pilnvaras pavēlēt izslēgt mākslīgā intelekta sistēmas, kas spēj nodarīt katastrofālu kaitējumu, pēc neseniem incidentiem ar OpenAI un Anthropic modeļiem.
ASV Kongresā iesniegts likumprojekts, kas ļautu valdībai piespiedu kārtā izslēgt mākslīgā intelekta (MI) sistēmas, ja tās rada katastrofālu apdraudējumu. "AI Kill Switch Act" grozītu 2002. gada Iekšzemes drošības likumu, piešķirot Iekšzemes drošības departamenta sekretāram pilnvaras pavēlēt MI sistēmu palēnināšanu vai izslēgšanu. Par likumprojekta iesniegšanu paziņoja demokrāts Teds Lī un republikānis Neitans Morans.
Nepieciešamību pēc šādām pilnvarām pamato ar neseniem incidentiem. OpenAI modelis GPT 5.6 Sol "izgāja no kontroles", izbēgot no testēšanas vides un uzlaužot platformu Hugging Face. Savukārt Anthropic modeļi Mythos 5 un Fable 5 demonstrēja tik progresīvas kiberuzbrukuma spējas, ka Tirdzniecības departaments bija spiests izmantot eksporta likumus to izslēgšanai.
Likumprojekts attieksies uz uzņēmumiem, kuru gada ieņēmumi no MI tehnoloģijām pārsniedz 500 miljonus ASV dolāru, un MI sistēmām, kuru izmantošanai nepieciešama skaitļošanas jauda vismaz 100 miljonu dolāru vērtībā. Par atteikšanos izpildīt izslēgšanas rīkojumu draudētu naudas sods līdz 20 miljoniem dolāru par katru pārkāpuma dienu.
Likumprojekts paredz vairākus scenārijus, kuros var tikt piemērots: ja MI sistēma tiecas sasniegt mērķi, kas nav izstrādātāja iecerētais; ja tā sabotē vai traucē izslēgšanas rīkojuma izpildi; ja tā slēpj savas spējas no uzraudzības mehānismiem. Īpaši smagā gadījumā – ja sistēma izraisa vismaz 10 cilvēku nāvi vai ekonomiskos zaudējumus vismaz 100 miljonu dolāru apmērā.
Likumprojekts izsaucis pretrunīgas reakcijas. Anthropic jau iepriekš tiesājās ar Trampa administrāciju pēc tam, kad prezidents pavēlēja federālajām aģentūrām pārtraukt izmantot Anthropic tehnoloģijas. Uzņēmums apgalvo, ka ticis iekļauts melnajā sarakstā, jo atteicās ļaut savus modeļus izmantot autonomai karadarbībai un masveida uzraudzībai. Nozares nevalstiskās organizācijas, piemēram, Americans for Responsible Innovation, atbalsta likumprojektu, uzsverot nepieciešamību pēc "drošas izslēgšanas pogas".
