Правительство США приказало Anthropic отключить две самые мощные модели ИИ – предупреждения о безопасности обернулись против компании

Правительство США в пятницу издало распоряжение, требующее от компании Anthropic немедленно отключить доступ к двум ее самым мощным моделям ИИ – Claude Fable 5 и Claude Mythos 5. Уведомление, по словам Anthropic, было получено в 17:21 по восточному времени, и оно аргументировано соображениями национальной безопасности. Ограничения касаются всех пользователей по всему миру, а не только иностранных граждан, на которых формально направлены правила экспортного контроля. Доступ к другим моделям Anthropic не затронут.

Mythos – самая производительная модель ИИ от Anthropic, представленная в начале апреля и с тех пор жестко ограниченная из-за ее исключительной способности находить уязвимости в программном обеспечении. По данным компании, Mythos обнаружила недостатки во всех крупных операционных системах и веб-браузерах. Вместо широкого релиза Anthropic запустила контролируемую программу Project Glasswing, предоставив модель примерно 50 проверенным организациям, включая Amazon, Apple, Google, Microsoft и CrowdStrike, для целей защитной кибербезопасности.

Fable 5, выпущенная всего три дня назад, представляет собой коммерческую версию Mythos с дополнительными ограничениями, блокирующими ответы в областях высокого риска, таких как кибербезопасность и биология. Компания утверждала, что модель безопасна для общего использования, и тесты Vals AI подтвердили, что она сразу стала самой мощной публично доступной моделью ИИ.

В своем блоге Anthropic отмечает, что, хотя распоряжение правительства оформлено как мера экспортного контроля, реальной причиной является предполагаемый взлом (jailbreak) Fable 5. Компания заявляет, что правительство предоставило лишь устные свидетельства о «потенциально узком, неуниверсальном взломе», который заключается в том, что модель запрашивают прочитать конкретную кодовую базу и найти уязвимости. Anthropic подчеркивает, что такая возможность уже широко доступна в других публичных моделях, включая OpenAI GPT-5.5, и регулярно используется специалистами по кибербезопасности в защитных целях.

«Мы не согласны с тем, что находка узкого потенциального взлома должна быть причиной для отзыва коммерческой модели, используемой сотнями миллионов людей», – написала компания. «Если этот стандарт будет применяться во всей отрасли, мы считаем, что он практически остановит развертывание всех новых моделей для всех ведущих разработчиков ИИ.»

Ситуация иронична для Anthropic, которая строила свой публичный имидж на осознанном подходе к безопасности в отличие от конкурентов. Генеральный директор OpenAI Сэм Альтман в апреле раскритиковал обращение Anthropic с Mythos как «маркетинг, основанный на страхе», предсказав, что постоянные предупреждения об опасности модели привлекут внимание правительства. Это предсказание сбылось, и теперь оно может осложнить ожидаемое первичное размещение акций Anthropic в этом году.