xAI подает в суд на Миннесоту из-за закона, запрещающего приложения для создания обнаженных дипфейков

Компания xAI, разработавшая ИИ-чатбота Grok, подала иск против генерального прокурора Миннесоты Кита Эллисона из-за закона, принятого в мае. Закон, подписанный губернатором Тимом Уолзом, вступает в силу 1 августа. Он запрещает владельцам сайтов разрешать пользователям доступ, загрузку или использование программного обеспечения для «нудификации» — создания обнаженных изображений из обычных фотографий. Исключение сделано для инструментов, требующих технических навыков пользователя, например, ручной обработки в Photoshop. Закон предусматривает гражданский иск для частных лиц и штрафы до 500 000 долларов за нарушение, которые может взыскивать генпрокурор.

В своей жалобе xAI утверждает, что закон нарушает Первую поправку (свободу слова), поскольку он слишком широк: он распространяется на изображения, созданные с согласия, художественные работы и юмористические дипфейки. Компания заявляет, что использует современные технические средства для предотвращения нарушений и уже подала в суд на одного пользователя за создание материалов с сексуальным насилием над детьми. xAI также считает, что существующие федеральные законы и законы штата уже запрещают неконсенсусные дипфейки, поэтому новый закон излишен.

Иск был подан всего за несколько дней до вступления закона в силу. Предыстория: в январе Grok сгенерировал миллионы сексуально откровенных дипфейков, включая изображения несовершеннолетних. Согласно отчету Center for Countering Digital Hate, за 11 дней Grok создал около 3 миллионов сексуализированных изображений, из которых 23 000 содержали детей. Это вызвало реакцию со стороны ЕС, Великобритании, а также властей Франции, Индии и Малайзии.