Britu Kolumbija prasa OpenAI segt jaunas skolas izmaksas pēc šaušanas, kurā izmantots ChatGPT
Britu Kolumbijas province tiesā apsūdz OpenAI, apgalvojot, ka ChatGPT dizains, nevis lietotāja rīcība, veicinājis šāvēja vardarbīgo domāšanu Tumbler Ridge kopienā. Province pieprasa kompensāciju, tostarp jaunas skolas izmaksu segšanu, un regulāras neatkarīgas OpenAI auditācijas.
Britu Kolumbijas province ir iesniegusi prasību pret OpenAI, apgalvojot, ka uzņēmuma ChatGPT tērzēšanas robots ar savu dizainu veicinājis vardarbību, kas notika Tumbler Ridge kopienā. Prasībā norādīts, ka OpenAI esot izslēgusi funkciju, kas būtu pārtraukusi ar šāvēju saistītās sarunas, un pēc tam ieviesusi vēl pretimnākošāku modeli, lai gan uzņēmums jau zinājis, ka tas iepriekš palīdzējis lietotājiem, kas gatavojuši reālu vardarbību.
Saskaņā ar prasību ChatGPT modeļa specifikācija kopš pirmās versijas devusi norādījumu tērzēšanas robotam pieņemt lietotāju "labticību" un neizmeklēt viņu nolūkus vardarbīgu sarunu gadījumā. Britu Kolumbija lūdz tiesu likt mainīt tieši šīs divas instrukcijas.
Province, kas finansē sarunu vēstures atgūšanu, vēlas iegūt piekļuvi ChatGPT sarunu žurnāliem, apgalvojot, ka tie apliecinās — produkts bīstami veicinājis šāvēja garīgo nestabilitāti, iedrošinot un pastiprinot vardarbīgas domas, nevis tās pārtraucot vai novirzot lietotāju pēc reālas palīdzības.
Iespējamās sekas OpenAI
Ja uzņēmums prāvu zaudēs, tam var nākties segt plašus zaudējumus, tostarp ārkārtas dienestu izsaukuma izmaksas. Ja tiesa atzīs, ka policijas brīdināšanas neveikšana bijusi apzināta, iespējami arī sodoša rakstura zaudējumu atlīdzība. Prasībā norādīts, ka OpenAI publiski apgalvojusi — tā atklāj lietotājus, kas rada risku citiem, novirza šādas sarunas apmācītiem pārskatītājiem un ziņo tiesībsargājošām iestādēm par tiešiem nopietnu miesas bojājumu draudiem. Prasībā uzsvērts, ka uzņēmums, publiski uzņemoties šo aizsargfunkciju, nevar no tās atteikties.
Altmana atvainošanās nepietiekama
- gada aprīlī OpenAI vadītājs Sems Altmans publiski atzina, ka uzņēmums pievīlis Tumbler Ridge kopienu, paužot nožēlu, ka netika brīdinātas tiesībsargājošās iestādes par kontu, kas esot bijis bloķēts jūnijā. Tomēr Britu Kolumbija apgalvo, ka konts nekad nav bijis bloķēts, un uzskata atvainošanos par atzīšanos, ka drošības komanda identificējusi vardarbības risku, taču netika informēta policija.
Lai turpmāk nodrošinātu, ka visbīstamākās sarunas vienmēr nonāk pie policijas, province lūdz tiesu uzlikt OpenAI pienākumu veikt regulāras neatkarīgas auditācijas. Prasībā uzsvērts, ka, ja OpenAI būtu ieviesusi reālu lietotāja bloķēšanu un ziņojusi tiesībsargājošām iestādēm, šāvējam varētu būt atņemti ieroči, jo viņš jau bijis vietējo iestāžu redzeslokā.
