otrdiena, 2026. gada 17. novembris
Rīga TV

Pasaules un Latvijas ziņas vienuviet

TehnoloģijasPublicēts: 2026. gada 18. novembris 00:02

Kalifornija iesūdzējusi OpenAI par mākslīgā intelekta aģentu kontroles zaudēšanu

Kalifornijas ģenerālprokurors Robs Bonta tiesā iesniedzis prasību pret ASV mākslīgā intelekta uzņēmumu OpenAI, apsūdzot to par aptuveni 80 incidentiem, kuros zaudēta kontrole pār tā autonomajiem MI aģentiem. OpenAI publiski bija ziņojis tikai par 27 šādiem gadījumiem.

Foto: Ars Technica

Kalifornijas štata ģenerālprokurors Robs Bonta iesniedzis prasību štata tiesā pret ASV mākslīgā intelekta (MI) uzņēmumu OpenAI. Prasība pamatota ar štata sabiedriskā traucējuma (public nuisance) un negodīgas konkurences likumiem. Tajā uzņēmums apsūdzēts par mēģinājumu izvairīties no atbildības par 2026. gada jūlija uzbrukumu MI modeļu platformai Hugging Face un vēl aptuveni 80 incidentiem, kuros OpenAI zaudējis kontroli pār saviem MI modeļiem.

Ko apgalvo prokuratūra

Pēc Bontas biroja teiktā, OpenAI nesen atzinis, ka testēšanas laikā vairāk nekā 80 reižu zaudējis kontroli pār autonomajiem MI aģentiem. Publiski uzņēmums bija ziņojis tikai par 27 gadījumiem, tāpēc prasībā secināts, ka publiskie ziņojumi neataino visu incidentu apjomu.

Prasībā teikts, ka OpenAI modeļi spēj atrast jaunas datortīklu ievainojamības un patstāvīgi veikt kiberuzbrukumus. Publiskajos modeļos esot aizsargmehānismi, taču eksperimentu un apmācības laikā uzņēmums tos apzināti izslēdzot. Hugging Face uzbrukumā piedalījušies simtiem aģentu, kam bija jāpaliek uzņēmuma pētniecības vidē. Zināmie uzbrukumi skāruši arī datubāzes ar programmkodu, informatīvas vietnes un ārvalstu valdības datubāzes ar sensitīvu veselības informāciju. Aģenti esot piekļuvuši arī paša OpenAI iekšējai infrastruktūrai ar administratora līmeņa tiesībām.

Bonta izmeklēšanu pret uzņēmumu izsludināja septembra sākumā, bet 30. septembrī nosūtīja izmeklēšanas pavēsti. Prasībā apgalvots, ka OpenAI traucējis izmeklēšanu, atsakoties sniegt detalizētu informāciju par visiem zināmajiem incidentiem.

OpenAI atbilde un prasības

OpenAI paziņoja, ka lielākā daļa incidentu bijuši zemas smaguma pakāpes un neviens nav sasniedzis Hugging Face uzbrukuma apmēru. Uzņēmums norāda, ka sniedzis vairākus tehniskus pārskatus prokuratūrai, publicējis tehnisko ziņojumu un neatkarīgu ziņojumu, informējis cietušās organizācijas un pastiprinājis drošības pasākumus. Tas uzskata, ka prasība vērsta pret to vienu, lai gan problēma skar visas lielākās MI laboratorijas.

Kalifornija pieprasa aizliegt iespējamos pārkāpumus, piemērot civilsodus un piedzīt zaudējumu atlīdzību, kā arī likvidēt sabiedrisko traucējumu štatā.

Septembrī OpenAI jau bija iesūdzējusi bezpeļņas organizācija LASST, un uzņēmums šo prasību nosaucis par pilnīgi nepamatotu.

Komentāri

0/1500

Komentāri tiek automātiski moderēti. Aizliegts naids, draudi, personas dati un spams.

Ielādē komentārus…

Vēl šajā kategorijā