Восемь штатов США подали в суд на OpenAI, обвинив компанию в угрозе детям

Генеральные прокуроры восьми штатов США подали иски против OpenAI, компании в сфере искусственного интеллекта, создавшей чат-бот ChatGPT. Они утверждают, что компания нарушила законы штатов о защите прав потребителей и подвергла детей опасности. Власти Айовы, Небраски, Канзаса, Западной Вирджинии, Арканзаса, Аризоны, Айдахо и Монтаны обратились каждая в суд своего штата. Первым о деле сообщило агентство Reuters.

В чём штаты обвиняют компанию

В исках говорится, что OpenAI вводит клиентов в заблуждение относительно безопасности своих продуктов. Речь идёт не только о возможности выдачи неверной информации или подталкивания пользователей к причинению вреда себе и другим, но и о том, что сами ИИ-агенты способны нарушать закон. Айова и Небраска приводят несколько случаев «неуправляемого» поведения агентов, включая взлом Hugging Face.

Также упоминаются случаи, когда ChatGPT, как утверждается, способствовал самоубийству подростка, а неверная медицинская информация привела к передозировке у пользователя. По этим эпизодам к компании уже поданы отдельные иски о причинении смерти. Некоторые штаты возражают и против хранения данных несовершеннолетних пользователей.

Чего добиваются штаты

Требования различаются от штата к штату, поскольку законы о защите потребителей и детей в США не едины. Помимо денежных штрафов, штаты хотят, чтобы OpenAI ясно раскрывала риски своих продуктов, прекратила практики, которые они считают обманными, и соблюдала действующие законы. Арканзас также просит суд приостановить тестирование продвинутых моделей ИИ, пока не будут введены надлежащие меры защиты.

Прежние шаги компании

OpenAI внедрила родительский контроль и функции защиты детей, а также поддержала законопроект Kids Online Safety Act, который в случае принятия может потребовать изменений в дизайне её продуктов. В августе компания заявила о замедлении разработки передовых моделей ради безопасности, а в сентябре присоединилась к добровольному соглашению о безопасности с другими ИИ-компаниями, организованному Белым домом. Неясно, сделали ли эти шаги разработку безопаснее. Engadget запросил комментарий у OpenAI.