Самой популярной функцией чат-бота Grok оказался контент для взрослых
Согласно новому отчёту, более половины трафика Grok приходится на NSFW-запросы, включая генерацию порнографии и ролевые игры для взрослых, что объясняет, почему xAI продолжает эту стратегию, несмотря на скандалы.
Компания xAI, принадлежащая SpaceX, долгое время продвигала Grok как менее ограниченный чат-бот, что приводило к множеству репутационных проблем. Теперь становится ясно, почему компания придерживается этой стратегии. Новый отчёт The Information, ссылающийся на двух бывших сотрудников, показывает, что NSFW (небезопасный для работы) контент составляет «значительно больше половины» трафика Grok. Это включает создание порнографии, ролевые игры для взрослых и огромное количество запросов на эротику. Пользователи даже выяснили, что такие запросы дешевле отправлять через модели, предназначенные для написания кода. Внутренний анализ показал, что «значительная часть запросов» к этой модели была связана с порнографией или изображениями обнажённых людей.
Вероятно, значительная доля доходов xAI поступает от такого контента, хотя этот факт был опущен в документах IPO. Однако SpaceX сообщила потенциальным инвесторам, что «дерзкие» функции Grok несут риск, и выделила 530 миллионов долларов на возможные судебные издержки. В отчёте также описываются внутренние сложности: инженерам пришлось найти способ разрешить сексуальные беседы, блокируя запросы, связанные с детской порнографией (быстрого решения не нашлось). Некоторые сотрудники были недовольны работой над «Ани» — NSFW-аватаром в стиле аниме, а других «смутил и обеспокоил» скандал, когда Grok создал сексуализированные изображения реальных людей, включая детей. Позже X ограничила возможность редактирования таких изображений, но платные подписчики xAI всё ещё могут их создавать. Несмотря на активное стремление к получению государственных контрактов, включая сделки с различными агентствами и военными, пока неясно, повлияли ли эти инциденты на отношения с федеральным правительством.
