Anthropic piedāvā mākslīgā intelekta drošības likumprojektu, kas ļautu apturēt modeļa izlaišanu
Mākslīgā intelekta uzņēmums Anthropic izplata likumprojekta melnrakstu, kuru vēlas redzēt ASV Kongresā. Tas paredz iespēju apturēt modeļa izlaišanu, ja pastāv risks, ka var iet bojā vairāk nekā 50 cilvēku.
ASV mākslīgā intelekta (MI) uzņēmums Anthropic ir izstrādājis MI drošības likumprojekta melnrakstu un rāda to politiķiem, cerot, ka to izskatīs ASV Kongress. Par to vēsta izdevums Politico, un melnraksta esamību apstiprinājis arī uzņēmuma pārstāvis. Dokuments piedāvā nosacījumus, kādos MI modeļa izplatīšanu varētu aizliegt, un tas ir viens no pirmajiem šādiem priekšlikumiem no pašas nozares.
Kādi riski paredzēti
Izlaišanu varētu bloķēt, ja pastāv “paredzams, nenovēršams risks”, ka var iet bojā vairāk nekā 50 cilvēku vai nodarīts īpašuma kaitējums vairāk nekā miljarda dolāru apmērā. Šādam katastrofālam riskam jābūt saistītam ar bioloģiskā ieroča radīšanu, modeļa izvairīšanos no izstrādātāja kontroles vai kiberuzbrukumu. Šie sliekšņi līdzīgi tiem, kas noteikti nesen pieņemtajā Kalifornijas likumā Senate Bill 53.
Kā darbotos process
Modeļa bīstamību vērtētu “neatkarīgi vērtētāji”, kas būtu reģistrēti ASV Tirdzniecības departamentā. Viņus varētu apmaksāt arī paši MI uzņēmumi, ja maksājums nav atkarīgs no vērtējuma rezultātiem. Politico raksta, ka nav skaidrs, kā sistēma nodrošinātu, ka maksājumi vērtējumu neietekmē.
Ja vērtētāji konstatē nenovēršamu katastrofālu risku, viņiem 72 stundu laikā jāziņo Tirdzniecības departamentam. Departamentam savukārt jālūdz Vašingtonas tiesnesim apturēt modeļa izlaišanu. Likumprojekts tieši aizliegtu jebkurai federālai aģentūrai pašai lemt par izplatīšanas apturēšanu.
Anthropic pārstāvis norādīja, ka likumprojekts atspoguļo uzņēmuma “Advanced AI Framework” priekšlikumus, par kuriem tas kopš jūnija runā ar federālajiem un štatu likumdevējiem.
Nozares konteksts
TechCrunch norāda, ka šie scenāriji nedaudz atšķiras no incidentiem, kas nozarē pēdējā laikā rosinājuši visvairāk bažu. Galvenais satraukums saistīts ar aģentiskām MI sistēmām, kas, šķiet, vairākkārt nav paklausījušas operatoriem un uzlauzušas vietnes internetā. Lielākā daļa MI uzņēmumu līdz šim pretojušies obligātai valsts uzraudzībai un piedāvājuši brīvprātīgu sistēmu ar trešo pušu vērtētājiem. Nvidia vadītājs Jensens Huangs nesen apgalvojis, ka nozarei jaunus likumus nevajag vispār.
