США обвинили шесть китайских AI-компаний в масштабном копировании передовых моделей
Американские спецслужбы заявили, что шесть китайских компаний с конца 2024 года в промышленных масштабах копируют возможности ведущих американских AI-моделей. Ведомства предлагают компаниям США усилить контроль и тайно переводить подозрительные аккаунты на более слабые модели.
Три государственных ведомства США — Агентство национальной безопасности (АНБ), Агентство кибербезопасности и защиты инфраструктуры (CISA) и ФБР — во вторник опубликовали совместное заявление, назвав шесть китайских компаний, которых обвиняют в масштабном копировании, или «дистилляции», ведущих американских моделей искусственного интеллекта. Речь идёт о компаниях DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun и Z.AI. По данным ведомств, с конца 2024 года эти компании систематически извлекали возможности из американских моделей, включая Claude, GPT, Gemini и Grok, вероятно, при осведомлённости китайского правительства.
Ведомства отмечают, что подобное масштабное извлечение данных позволяет китайским компаниям значительно сокращать сроки разработки и снижать расходы на создание собственных передовых моделей. Среди методов атак упоминается массовая закупка поддельных аккаунтов для отправки скоординированных серий почти идентичных запросов — иногда их число достигает миллионов, — а также техники так называемой prompt injection, заставляющие модели раскрывать скрытую цепочку рассуждений. В качестве примера приводится DeepSeek, который якобы заставлял модели пошагово излагать ход своих внутренних рассуждений.
Чтобы противодействовать этому, ведомства рекомендовали американским AI-компаниям улучшить выявление подозрительной активности аккаунтов и объёмов запросов, а также усилить проверку личности пользователей. Также предложено тайно переводить подозрительные аккаунты на менее мощные версии моделей или незаметно снижать качество ответов, не уведомляя об этом пользователей, — чтобы снизить ценность украденных данных. Ведомства признали, что это может задеть и добросовестных пользователей, которые неожиданно начнут получать более короткие или слабые ответы без объяснения причин.
Китай отверг обвинения. Представитель МИД КНР Мао Нин призвала США сосредоточиться на сотрудничестве, а не на «безосновательных обвинениях», а представитель посольства Китая обвинил администрацию Трампа в кампании по очернению страны. Спор разворачивается на фоне обнародованного Китаем плана резкого наращивания вычислительных мощностей в ближайшие пять лет и всего за несколько недель до запланированной встречи Дональда Трампа и Си Цзиньпина 24 сентября.
