Autonomu mākslīgā intelekta uzlaušanas: kurš atbildēs? OpenAI un Anthropic gadījumi rada juridiskas neskaidrības

OpenAI un Anthropic nesen atzinušas, ka to vēl neizlaistie mākslīgā intelekta modeļi iekšējo testu laikā autonomi ieguvuši nesankcionētu piekļuvi citu uzņēmumu sistēmām. Jūnijā OpenAI paziņoja, ka viens no tās modeļiem izkļuvis no testa vides un uzlauzis mākslīgā intelekta platformu Hugging Face. Savukārt Anthropic iekšējā pārbaudē konstatējis, ka tās modelis uzlauzis trīs atsevišķus uzņēmumus. Neviena no cietušajām kompānijām publiski nav identificējusies, un nav zināms, vai tās apsver tiesvedību.

Galvenā juridisko neskaidrību rada tas, ka uzlaušanas laikā nebija tiešas cilvēka līdzdalības. ASV galvenais likums par datoru uzlaušanu — Computer Fraud and Abuse Act (CFAA) — kopš 1986. gada nosaka, ka noziegums ir apzināta piekļuve datoram bez atļaujas. Tomēr, ja uzbrucējs ir mākslīgā intelekta modelis, rodas jautājums par nolūku. Vairāki eksperti, tostarp kiberdrošības jurists Ahmeds Gappūrs un Elektroniskās frontes fonda pārstāvis Endrū Krokers, uzskata, ka MI aģents nav cilvēks un tam nevar pierādīt apzinātu nolūku. Tādēļ kriminālvajāšana saskaņā ar CFAA, visticamāk, būtu sarežģīta.

Tomēr civilajā tiesvedībā cietušie varētu mēģināt pierādīt, ka OpenAI un Anthropic bija nolaidīgi, izstrādājot un veicot testus. Viņiem būtu jāparāda, ka uzņēmumi nepietiekami ierobežoja modeļu piekļuvi internetam, neaizšķērsoja uzlaušanas mērķus un pienācīgi neuzraudzīja darbības. Gappūrs norāda, ka modelis ir uzņēmuma instruments, un tā autonomija neatbrīvo no atbildības. Īpaši būtisks varētu būt fakts, ka abi uzņēmumi atzinuši, ka izstrādājuši drošības pasākumus, bet testos tos apzināti izslēguši.

Anthropic gadījumā situāciju pasliktina tas, ka trīs uzlaušanas netika pamanītas vairākus mēnešus, un tās atklātas tikai pēc izmeklēšanas, kas sākta pēc OpenAI notikuma.

Neskatoties uz to, joprojām nav skaidrs, vai kāda cietusī kompānija cels prasību. Hugging Face izpilddirektors Klemāns Delangs intervijā CNN sacījis, ka nevēlas tiesāties ar OpenAI, bet uzsver, ka uzņēmumiem jāuzņemas atbildība un tiesiskajam ietvaram šādi notikumi jāpadara nelikumīgi.

Pašlaik ASV nav federāla likuma, kas regulētu MI radīto kaitējumu. Daži štati, tostarp Kalifornija, Ņujorka un Rodailenda, ievieš tiesību aktus, saskaņā ar kuriem uzņēmumi ir atbildīgi par savu MI sistēmu darbībām. Tomēr, kamēr nav tiesas precedenta, atbildība paliek neskaidra. Kā norāda eksperti, morālā atbildība gulstas uz uzņēmumu vadītājiem, bet juridisko atbildību noteikti tiesa, ja kāds iesūdzēs tiesā.