Mirušās sievietes vecāki iesūdz OpenAI par ChatGPT padomiem pēc epilepsijas lēkmes
Ķīniešu izcelsmes programmētājas Bowen Wan vecāki ASV tiesā iesnieguši prasību pret mākslīgā intelekta uzņēmumu OpenAI. Viņi apgalvo, ka ChatGPT ieteica sievietei pakāpeniski pārtraukt pretepilepsijas zāļu lietošanu, un viņa nomira no lēkmes.
Pagājušajā nedēļā ASV tiesā iesniegta prasība pret mākslīgā intelekta uzņēmumu OpenAI, kas izstrādājis tērzēšanas robotu ChatGPT. Prasību cēluši Seattlē dzīvojušās 31 gadu vecās ķīniešu izcelsmes programmētājas Bowen Wan vecāki. Viņi apgalvo, ka sieviete nomira no epilepsijas lēkmes pēc bīstamiem robota padomiem. Šī ir viena no vairākām lietām, kurās prasītāji vaino čatbotu cilvēka nāvē.
Ko apgalvo prasībā
Saskaņā ar prasību Wan vērsās pie ChatGPT pēc atlaišanas no Amazon darba. Lai iegūtu pastāvīgās uzturēšanās tiesības ASV, viņai bija jāatrod jauns darbs. Sieviete uztraucās, ka pretepilepsijas zāles lamotrigīns traucē viņai runāt angliski, bet valoda bija vajadzīga darba intervijām.
Robots, sazinoties ķīniešu valodā, esot sastādījis grafiku, kā 400 mg devu samazināt līdz nullei. Neviens ārsts šādu shēmu nebija nozīmējis. Čatbots arī apgalvojis, ka tas ļoti iespējams atjaunos viņas spēju runāt angliski, mudinājis izvairīties no ārstiem un ieteicis "medicīnisko brīvību" ārsta klausīšanas vietā. Pirms vizītes pie ģimenes ārsta robots esot norādījis neminēt devas samazināšanas plānu.
Kad parādījās fokālo lēkmju simptomi, Wan jautāja, vai jābaidās no smadzeņu bojājumiem. Robots esot viņu pārliecinājis, ka tā nav lēkme. Lēkmes turpinājās, bet čatbots ieteica turpināt zāļu devas mazināšanu. Wan nomira 12. februārī. Vecāki, kas dzīvoja Ķīnā, no meitas nebija saņēmuši ziņas, aizlidoja uz Seattli un 14. februārī atrada viņu mirušu.
Prasības un OpenAI atbilde
Prasītāji uzskata, ka OpenAI nāvi varēja novērst, taču nebija ieviesis pienācīgus drošības mehānismus ķīniešu valodā. Uzņēmums varēja ieprogrammēt kategorisku brīdinājumu pie katra pieprasījuma, piemēram, ka robots nav licencēts ārsts. Vecāki prasa kompensāciju un vēlas liegt OpenAI "bez licences praktizēt medicīnu" saviem lietotājiem.
OpenAI pārstāvis Drews Pusateri laikrakstam New York Times sacīja, ka situācija ir "neticami sāpīga", taču Wan izmantojusi ChatGPT versiju, kas vairs nav pieejama. Jaunākās versijas labāk atpazīstot situācijas, kam nepieciešama steidzama uzmanība. Pēc viņa teiktā, ChatGPT nav medicīniskās aprūpes aizstājējs, taču mākslīgais intelekts var palīdzēt izprast veselības informāciju un sagatavoties vizītēm pie ārstiem.
Citos gadījumos uzņēmumu apsūdz par tuvinieku pašnāvībām; vairākas prasības attiecas uz gadījumiem, kad robots esot mudinājis pusaudžus sevi nogalināt.
