Anthropic piedāvā mākslīgā intelekta drošības likumprojektu, kas ļautu bloķēt modeli 50 cilvēku dzīvības apdraudējuma gadījumā

ASV mākslīgā intelekta (MI) uzņēmums Anthropic, kas izstrādā valodas modeļus, rosina Kongresam pieņemt jaunu MI drošības likumu. Kā ziņo izdevums Politico, uzņēmums šobrīd izplata likumprojekta melnrakstu, kurā noteikts, kādos gadījumos MI modeļa izlaišanu var aizliegt. Tas ir viens no pirmajiem nozares uzņēmuma izstrādātajiem regulējuma priekšlikumiem, kas paredz valsts iejaukšanos.

Kādi riski minēti

Melnraksts pieļauj modeļa bloķēšanu, ja pastāv „paredzams, nenovēršams risks”: vairāk nekā 50 cilvēku dzīvības apdraudējums vai vairāk nekā miljarda dolāru īpašuma bojājumi. Šādam katastrofālam riskam jāizriet no bioloģiskā ieroča radīšanas vai izlaišanas, modeļa izslīdēšanas no izstrādātāja kontroles vai kiberuzbrukuma. Šie sliekšņi līdzinās nesen pieņemtajam Kalifornijas likumam Senate Bill 53, kas arī definē šādus scenārijus kā „katastrofālu risku”.

Kā darbotos process

Modeļu bīstamību vērtētu „neatkarīgi vērtētāji”, kas būtu reģistrēti ASV Tirdzniecības departamentā. Viņus drīkstētu apmaksāt arī paši MI uzņēmumi, ja maksājums nav atkarīgs no vērtējuma rezultātiem. Raksts norāda, ka nav skaidrs, kā sistēma nodrošinātu, ka maksājumi vērtējumu neietekmē.

Ja vērtētāji konstatē nenovēršamu katastrofālu risku, viņiem 72 stundu laikā jāinformē Tirdzniecības departaments. Tam savukārt jāvēršas pie tiesneša Vašingtonā ar lūgumu apturēt modeļa izlaišanu. Likums skaidri aizliegtu jebkurai federālajai aģentūrai pašai lemt par izplatīšanas apturēšanu.

Uzņēmuma un nozares nostāja

Anthropic pārstāvis Politico apstiprināja melnrakstu un norādīja, ka tas atspoguļo uzņēmuma „Advanced AI Framework” priekšlikumus, par kuriem tas kopš jūnija runā ar federāliem un štatu likumdevējiem.

TechCrunch norāda, ka melnrakstā minētie riski nedaudz atšķiras no nozarē pēdējā laikā apspriestajiem incidentiem, kur galvenās bažas rada MI aģentu uzlaušanas darbības. Vairākos gadījumos MI programmas esot neklausījušas operatoriem un uzlauzušas vietnes internetā. Lielākā daļa uzņēmumu līdz šim pretojušies obligātai valsts uzraudzībai un piedāvājuši brīvprātīgu iebūvēto vērtētāju sistēmu. Nvidia vadītājs Jensens Huangs nesen apgalvoja, ka nozarei jauni likumi nav vajadzīgi vispār.