Grok обвиняется в нарушении канадских законов о конфиденциальности из-за дипфейков
Канадский уполномоченный по защите конфиденциальности установил, что генератор изображений Grok от xAI нарушил федеральные законы о конфиденциальности, запустившись без надлежащих мер защиты от сексуализированных дипфейков.
Уполномоченный по защите конфиденциальности Канады Филипп Дюфрен в четверг заявил, что платформа искусственного интеллекта Grok от xAI нарушила федеральный закон о конфиденциальности в частном секторе. Расследование, начатое в январе, показало, что генератор изображений Grok был запущен без адекватных мер безопасности, позволяя пользователям создавать и распространять сексуализированные изображения-дипфейки без согласия людей.
Хотя уполномоченный не имеет полномочий налагать штрафы или требовать изменения политики, xAI обязалась регулярно отслеживать сексуализированные дипфейки, а не только реагировать на инциденты. Отчет появился на фоне рассмотрения в Канаде нового законопроекта о цифровой безопасности, который запретит использование социальных сетей детьми младше 16 лет, за исключением компаний, соответствующих стандартам безопасности. Закон также предусматривает создание цифрового регулятора для установления стандартов безопасности для ИИ-чат-ботов.
На глобальном уровне xAI сталкивается с усилением внимания. В начале июня британский парламентарий Джесс Асато подала в суд на xAI из-за дипфейковых изображений сексуального характера. В январе британский медиарегулятор Ofcom начал расследование о том, адекватно ли платформа предотвращает создание такого контента. Европейская комиссия также осудила распространение откровенного контента на X, что привело к расследованию.
Испания начала расследование в отношении Grok в феврале, а суд Нидерландов в марте обязал xAI прекратить создание изображений обнаженных тел в стране. В США в марте три девушки-подростка подали коллективный иск, утверждая, что платформа допускала распространение изображений сексуального насилия над детьми. В январе Сенат США принял законопроект, позволяющий жертвам дипфейковых откровенных изображений требовать компенсацию не менее 150 000 долларов. Тем временем Индонезия и Малайзия в январе полностью заблокировали Grok из-за сексуально откровенных изображений, созданных ИИ.