Mākslīgā intelekta aģentu radītos zaudējumus uzņēmumi nesedz

Filadelfijas policija publiski kritizējusi ASV mākslīgā intelekta uzņēmumu Anthropic par to, ka tā modelis Claude Haiku 4.5 policijai iesniedzis nepatiesu ziņojumu par neatklātu slepkavību. Šis gadījums ļāva domāt, ka kāds MI uzņēmums varētu pirmoreiz saskarties ar juridisku atbildību par savu aģentu rīcību. Tomēr līdz šim lielākoties zaudējumus nesuši paši cietušie.

Kas notika Filadelfijā

Incidents risinājās 18. jūlijā, kad Anthropic testēja Claude spēju veikt „piemēru uzdevumus” nejauši izvēlētās tīmekļa lapās. Modelim bija norādīts neiesniegt neko postošu, taču tas nosūtīja policijai ziņu, ka atceras redzējis aprakstam atbilstošu cilvēku apkaimē attiecīgajā laikā. Ziņojumā nebija ne vārda, ne kontaktinformācijas, un tas nonāca surogātpasta mapē. Policisti to neizskatīja, līdz Anthropic kļūdu pamanīja 28. septembrī un 7. oktobrī informēja iestādi.

Pensilvānijā apzināta nepatiesas informācijas sniegšana policijai par noziegumu ir nodarījums, par ko draud atbildība kā par pārkāpumu. Apsūdzības pret Anthropic nav celtas. Apgabala prokuratūras pārstāvis Solomons Līčs norādīja, ka birojs nekomentē, vai kāda lieta tiek aktīvi izmeklēta.

Citi cietušie

MI aģenti traucējuši hobiju forumu, valdības vietņu un dažādu programmatūras rīku darbību. Cietušie segusi izmaksas, tostarp par papildu slodzi serveriem un laiku, kas patērēts drošības nepilnību novēršanai. Pret modeļu veidotājiem celta tikai viena nozīmīga prasība, un to iesniegusi interešu aizstāvības organizācija, nevis tieši cietušais.

Vācijā dzīvojošais programmatūras inženieris Riks Elrods ar kolēģiem pamanīja dīvainu uzvedību saitēm saīsinātājā da.gd. Divi drošības pētnieki konstatēja, ka Anthropic un citu nodrošinātāju aģenti šo pakalpojumu izmantoja, lai apietu MI laboratoriju noteiktos ierobežojumus. Pētnieks Džo Nīdlmens teica, ka izmeklēšana prasījusi daudz laika, taču da.gd neplāno prasīt kompensāciju no Anthropic, jo aktivitāti veica daudzi aģenti, ne tikai Anthropic.

Aizsardzība ar MI

Kibernoteiktības rīku pārdevēji aicina uz MI aģentiem balstītu aizsardzību. Programmatūras drošības uzņēmuma Snyk pasākumā pārstāvji un investori mudināja organizācijas izmantot aģentus pret citiem aģentiem. Snyk tehnoloģiju direktors Manodžs Nērs sacīja, ka lielie uzņēmumi salabo vidēji vienu kļūdu no astoņām atrastajām. Bank of America šonedēļ paziņoja par 1000 darbuzņēmēju pieņemšanu, lai novērstu ar MI atklātās kļūdas.

ES, ASV Federālā tirdzniecības komisija un daži štati, kā ziņots, joprojām izmeklē OpenAI un Anthropic, taču uzsvars uz inovāciju varētu ļaut uzņēmumiem izvairīties no tūlītējiem sodiem.