Anthropic сообщила о масштабных кампаниях по «дистилляции» со стороны Alibaba, Moonshot AI и DeepSeek
Компания Anthropic заявила, что выявила пять отдельных кампаний со стороны китайских AI-компаний, включая Alibaba и Moonshot AI, направленных на извлечение возможностей модели Claude для обучения собственных моделей. Всего зафиксировано около 200 миллионов связанных с этим обращений.
В опубликованном в четверг отчёте компания Anthropic сообщила, что китайские компании применяют всё более изощрённые методы обхода её защитных механизмов с целью получить доступ к возможностям модели Claude. По данным компании, подобная активность заметно усилилась в последние месяцы на фоне обострения конкуренции в сфере искусственного интеллекта. Среди затронутых направлений — способность Claude выполнять автономные задачи, использовать различные инструменты, писать программный код, анализировать данные и вести логические рассуждения.
Впервые о подобной активности Anthropic публично заявила ещё в феврале, тогда были названы конкретные компании. Ранее о схожих случаях сообщала и OpenAI, связывая их непосредственно с компанией DeepSeek. Однако кампании, описанные в новом отчёте Anthropic, отличаются как большим масштабом, так и большей агрессивностью — в общей сложности зафиксировано около 200 миллионов связанных обращений в рамках пяти отдельных кампаний.
Как происходит извлечение данных
Такие атаки, как правило, направлены на получение внутренней цепочки рассуждений модели, которая формируется при ответах на запросы. Затем эти данные могут использоваться для обучения меньшей модели общим навыкам рассуждения методом контролируемой донастройки. Обычно Anthropic не показывает пользователям полную внутреннюю цепочку рассуждений Claude, предлагая вместо этого лишь её краткое изложение. Тем не менее злоумышленники нашли способы заставить модель раскрыть исходный процесс мышления напрямую — в одном из зафиксированных случаев запрос был замаскирован под задание на перевод текста на японский язык.
Крупнейшая кампания связана с Alibaba
Большая часть зафиксированной активности пришлась на кампанию, которую Anthropic связывает с Alibaba и называет крупнейшей подобной операцией за всю историю наблюдений компании. С мая по июль было зафиксировано 151 миллион связанных обращений, а в пиковые дни их число достигало почти трёх миллионов. Запросы поступали с 3500 различных аккаунтов, однако, поскольку все они использовали один и тот же фиксированный запрос для извлечения цепочки рассуждений, Anthropic связывает их с единой скоординированной операцией по подготовке обучающих данных для семейства моделей Qwen компании Alibaba.
Другая кампания, связанная с компанией Moonshot AI, разработчиком модели Kimi, по данным Anthropic, судя по всему, частично направляла запросы напрямую от структур китайской армии. В частности, один из запросов касался анализа записей камер видеонаблюдения на предмет «аномального» поведения человека в кадре. В течение десяти дней через сеть из 5000 аккаунтов к Claude было направлено почти 300 000 запросов, в основном нацеленных на модель Opus.
