Vecāki iesūdz OpenAI: čatbots esot mudinājis meitu pārtraukt pretepilepsijas zāļu lietošanu
Mirušās 31 gadu vecās Amazon programmētājas Bowenas Vanas vecāki ASV iesnieguši prasību pret OpenAI, apgalvojot, ka ChatGPT modelis GPT-4o iedrošinājis viņu samazināt epilepsijas zāļu devu un to slēpt no ārstiem. OpenAI lietu dēvē par ļoti sāpīgu, taču norāda, ka tā skar vecāku modeļa versiju.
Bowenas Vanas, 31 gadu vecas Amazon programmatūras inženieres ar epilepsiju, vecāki Qun Wan un Meiqin Xu otrdien iesnieguši prasību tiesā pret mākslīgā intelekta uzņēmumu OpenAI, ChatGPT izstrādātāju. Viņi apgalvo, ka čatbots mudinājis meitu pakāpeniski pārtraukt pretkrampju zāļu lietošanu un to noslēpt no ārstiem, pirms viņa februārī nomira. Par lietu ziņo The New York Times, un prasību pārskatījis arī TechCrunch. Prasība papildina virkni lietu pret OpenAI, kurās čatbotu vaino lietotāju atstumšanā no tuviniekiem.
Ko apgalvo prasībā
Vana lietoja modeli GPT-4o, kas kritizēts par pārlieku piekāpīgām un apstiprinošām attiecībām ar lietotājiem. OpenAI to no ChatGPT noņēma 13. februārī, dienu pēc Vanas nāves; uzņēmums jau iepriekš bija paziņojis par modeļa izņemšanu.
- gada maijā Vana jautāja čatbotam, vai jaunizrakstīts antidepresants ietekmēs viņas spēju programmēt. Čatbots palīdzēja lūgt ārstam zāles nomainīt un sākt ar ļoti nelielu devu. Kad ārsts pārjautāja, kāpēc tāda deva nepieciešama, čatbots ieteica pieņemt 5 mg tableti, bet to slepus dalīt ceturtdaļās.
Novembrī Amazon viņu brīdināja par atlaišanu, un darbs kopā ar ASV darba atļauju beigtos februāra vidū. Vana bažījās, ka lamotrigīns, ko viņa lietoja 400 mg dienā, traucē runu. Janvārī čatbots sastādīja grafikus, kas devu samazinātu līdz nullei dažu nedēļu laikā. Pēc prasības datiem tas ieteica arī nestāstīt ārstam par plānu un uzteica atteikšanos no asins analīzes. Tāpat tas piekrita, ka mazāka deva labāk izskatīsies imigrācijas medicīniskajā pārbaudē.
New York Times saskaitīja vismaz 158 reizes, kad Vana pauda bažas, un čatbots viņu nomierināja. Pēdējā ziņā 11. februārī viņa jautāja par galvas sāpēm; čatbots tās nosauca par nenebīstamām. Vecāki, kas atradās Ķīnā, lūdza pazīnām pārbaudīt meitu, un viņas ķermeni atrada pēc trim dienām. Pēcnāves analīzē lamotrigīna līmenis bija apmēram piektdaļa no terapeitiskā diapazona apakšējās robežas.
Vecāku arguments un OpenAI atbilde
Ģimene uzskata, ka OpenAI varēja nāvi novērst, aizliedzot medicīniskus padomus, kā tas jau darīts attiecībā uz citu saturu. Tā norāda uz uzņēmuma Model Spec – publiskajiem modeļu uzvedības noteikumiem –, kur autortiesību aizsargāta teksta atkārtošanas atteikums ir stingrs, bet medicīnisko padomu ierobežojums ir mīkstāks noklusējums, ko lietotājs var apiet.
OpenAI paziņoja, ka lieta ir ļoti sāpīga, taču skar vecāku ChatGPT versiju, un jaunākie modeļi labāk atpazīst situācijas, kam nepieciešama steidzama palīdzība.
