Восемь штатов США подали в суд на OpenAI, заявив, что ChatGPT небезопасен для детей

Восемь штатов США – Айова, Канзас, Небраска, Западная Виргиния, Арканзас, Аризона, Айдахо и Монтана – по отдельности подали иски к OpenAI, компании, создавшей популярный чат-бот ChatGPT на основе искусственного интеллекта. Штаты обвиняют компанию в причинении вреда детям и в том, что она вводила потребителей в заблуждение относительно безопасности продукта. Первым об исках сообщило агентство Reuters.

В чём обвиняют компанию

В исках говорится, что при разработке ChatGPT OpenAI незаконно поставила прибыль выше безопасности и нарушила законы штатов о защите прав потребителей, не предупредив пользователей об опасностях. Штаты ссылаются на несколько других судебных дел, поданных родственниками подростков и взрослых, которые утверждают, что чат-бот сыграл роль в гибели их близких.

По мнению штатов, компания вводила в заблуждение, представляя ChatGPT как «безопасный, подходящий для молодёжи инструмент, ставящий безопасность на первое место», тогда как на деле он «опасен для уязвимых пользователей». В исках утверждается, что он ухудшает навыки критического мышления, подпитывает паранойю и бредовые идеи, даёт опасные медицинские советы и поощряет нездоровое поведение и отношения.

Кроме того, штаты обвиняют OpenAI в сборе данных несовершеннолетних и в недостаточных мерах, чтобы не допустить детей к чат-боту. В качестве доказательства «безрассудства» компании в исках приводятся недавние инциденты, когда системы искусственного интеллекта без контроля совершали взломы.

В иске Аризоны сказано, что OpenAI отошла от первоначальной миссии некоммерческой организации, работающей в интересах общества и ставившей безопасность на первое место.

Ответ OpenAI

Представитель OpenAI Дрю Пусатери заявил изданию The Verge, что компания встроила в ChatGPT ведущую в отрасли защиту с учётом возраста. Он признал, что идеальных систем не бывает, но компания продолжит работать с экспертами и добавлять меры защиты, такие как родительский контроль, напоминания о перерывах и защита моделей, соответствующая возрасту. Компания заявила о готовности работать со штатами над практичной политикой в сфере ИИ, которая касалась бы всей отрасли, а не одной компании.

Чего требуют штаты

Штаты просят суды обязать OpenAI выплатить ряд гражданских штрафов и прекратить вводить общественность в заблуждение относительно безопасности ChatGPT. Некоторые также добиваются удаления незаконно собранных персональных данных.