Anthropic отключает доступ к передовым моделям ИИ после запрета США на использование иностранцами

Компания Anthropic в пятницу заявила, что «резко отключит» свои самые передовые модели ИИ для всех пользователей после того, как правительство США приказало приостановить доступ для иностранных граждан, сославшись на соображения национальной безопасности. Директива экспортного контроля касается моделей Fable 5 и Mythos 5 и требует прекращения доступа для всех, кто не является гражданином США или постоянным жителем. Anthropic сообщила, что получила только «устные свидетельства о потенциальном узком, не универсальном jailbreak» и утверждает, что такая находка не должна быть основанием для отзыва коммерческой модели, развернутой для сотен миллионов людей.

Приказ был отдан на фоне продолжающейся напряженности между Anthropic и администрацией Трампа. Ранее в этом году компания отказалась позволить военным США использовать ее ИИ для внутреннего наблюдения и полностью автономного оружия, что привело к включению в черный список цепочек поставок, который вступит в силу позднее в 2025 году. Нынешняя директива знаменует собой эскалацию усилий США по ограничению возможностей ИИ иностранных противников, выходя за рамки контроля над чипами и непосредственно ограничивая доступ к моделям ИИ.

Недавно Anthropic запустила модель Claude Fable 5, относящуюся к классу «Mythos», со встроенными ограничениями, запрещающими использование в рискованных областях, таких как кибербезопасность. Эксперты предупреждают, что такие модели в неправильных руках могут значительно ускорить сложные кибератаки на критическую инфраструктуру. Компания отметила, что сотрудничала с правительством США в вопросах безопасности перед запуском и что модели конкурентов демонстрируют аналогичные способности к обнаружению ошибок в коде.

Подразделение облачных вычислений Amazon AWS сообщило, что Anthropic попросила его отозвать доступ к моделям для всех пользователей во всех регионах. Представитель США подтвердил, что Министерство торговли издало директиву. Бывший чиновник Белого дома Дин Болл в соцсети X отметил, что приказ фактически требует от пользователей подтверждения гражданства для доступа к последним моделям Anthropic, что может затронуть ключевых сотрудников, таких как соучредитель Крис Ола, исследователь Андрей Карпатый и философ Аманда Аскелл, родившихся за пределами США. Компания отказалась комментировать, потеряют ли эти сотрудники доступ.

Anthropic выразила надежду как можно скорее восстановить доступ, предупредив, что применение того же стандарта по всей отрасли остановит развертывание всех новых моделей для передовых провайдеров ИИ.