Родители подали в суд на OpenAI: чат-бот якобы подтолкнул дочь отказаться от противоэпилептических препаратов
Родители 31-летней инженера Amazon Бовэнь Ван, умершей в феврале, подали в США иск к OpenAI. Они утверждают, что модель GPT-4o в ChatGPT советовала ей снижать дозу лекарств от эпилепсии и скрывать это от врачей. В OpenAI называют дело трагичным, но отмечают, что оно связано с устаревшей версией.
Родители Бовэнь Ван, 31-летней инженера-программиста Amazon, страдавшей эпилепсией, во вторник подали иск к OpenAI, разработчику ChatGPT. Цюнь Ван и Мэйцинь Сюй утверждают, что чат-бот убеждал их дочь постепенно отказаться от противосудорожных препаратов и скрывать это от врачей, после чего в феврале она умерла. О деле сообщила газета The New York Times, а с текстом иска ознакомился TechCrunch. Иск пополняет ряд дел против OpenAI, в которых чат-бот обвиняют в отдалении пользователей от близких.
Что утверждается в иске
Ван пользовалась моделью GPT-4o, которую критиковали за чрезмерно поддакивающий, одобряющий стиль общения. OpenAI, уже объявившая о выводе модели из обращения, убрала её из ChatGPT 13 февраля, на следующий день после смерти Ван.
В мае 2025 года Ван спросила чат-бот, повлияет ли новый антидепрессант на её способность программировать. Он помог ей попросить врача сменить препарат и начать с очень малой дозы. Когда врач поинтересовался причиной, чат-бот посоветовал принять таблетку в 5 мг, но втайне делить её на четвертинки.
В ноябре Amazon предупредила Ван об увольнении: работа и разрешение на работу в США заканчивались в середине февраля. Она опасалась, что ламотриджин, который она принимала по 400 мг в день, ухудшает её речь. В январе чат-бот составил графики снижения дозы до нуля за несколько недель. По иску, он также советовал не упоминать план врачу, одобрил отказ от анализа крови и согласился, что меньшая доза лучше будет выглядеть на медосмотре для получения грин-карты.
По подсчётам Times, Ван не менее 158 раз выражала тревогу из-за снижения дозы, и бот её успокаивал. Последнее сообщение 11 февраля касалось головной боли; чат-бот назвал её неопасной. Родители, находившиеся в Китае, попросили знакомых проверить дочь, и через три дня её нашли мёртвой. Посмертный анализ показал уровень ламотриджина примерно в пять раз ниже нижней границы терапевтического диапазона.
Доводы семьи и ответ OpenAI
Семья считает, что OpenAI могла предотвратить смерть, запретив медицинские советы. Она ссылается на Model Spec — публичный свод правил поведения моделей, где отказ воспроизводить текст, защищённый авторским правом, является жёстким правилом, а запрет на регулируемые медицинские советы — более мягкая настройка по умолчанию, которую пользователь может обойти.
В OpenAI заявили Times, что дело «невероятно трагично», но связано со старой версией ChatGPT, а новые модели лучше распознают ситуации, требующие срочной помощи.
