Anthropic приостанавливает новые инструменты ИИ из-за опасений безопасности США

Компания Anthropic приостановила свою мощную новую модель ИИ после того, как власти США выразили опасения по поводу безопасности всего через несколько дней после ее публичного выпуска. «Чистый эффект этого распоряжения заключается в том, что мы должны внезапно отключить Fable 5 и Mythos 5 для всех наших клиентов, чтобы обеспечить соблюдение требований», — написала компания. Anthropic и администрация Трампа вовлечены в отдельный судебный процесс по поводу распоряжения о запрете государственным учреждениям использовать инструменты ИИ компании. BBC обратилась в Министерство торговли США за комментарием.

Claude Fable 5 — это версия Claude Mythos от Anthropic, программа ИИ, конкурирующая с OpenAI ChatGPT и Google Gemini. Anthropic заявил, что органы национальной безопасности США не выявили конкретных проблем. «Мы понимаем, что правительство считает, что оно узнало о методе обхода или «джейлбрейка» Fable 5», — сказала компания. Джейлбрейк — это процесс преодоления программных ограничений, предназначенных для защиты киберсети, позволяющий хакерам получать доступ к конфиденциальной информации или разблокировать функции.

Anthropic рассмотрел демонстрацию этого конкретного метода и обнаружил, что он выявил небольшое количество ранее известных незначительных уязвимостей. «Все эти уязвимости кажутся относительно простыми, и мы обнаружили, что другие общедоступные модели также могут их обнаружить без необходимости обхода». Перед выпуском Claude Fable 5 компания рекламировала различные «меры защиты», которые она внедрила для предотвращения кибервзломов.

Лидеры финансов, технологий и правительства выразили обеспокоенность по поводу его публичного развертывания после частного релиза в апреле для предварительного просмотра и тестирования уязвимостей в собственной системе. Anthropic заявил, что предоставил доступ до выпуска небольшому числу организаций, потому что инструмент был настолько интеллектуальным, что мог быть опасным из-за своей способности эксплуатировать или взламывать компьютерные системы. Компания сама заявила, что он «слишком мощный, чтобы выпускать его», прежде чем Claude Fable 5 был выпущен публично, что некоторые критики назвали раздутым ажиотажем и маркетинговым трюком. «Возможности Fable превосходят любую модель, которую мы когда-либо делали общедоступной», — сказала компания.

Европейский союз, получивший доступ к Mythos в начале июня после недель переговоров, заявил, что последнее развитие событий еще раз подчеркивает «необходимость Европы в технологическом суверенитете». «Мы принимаем к сведению заявление Anthropic и оцениваем его», — сказал Томас Ренье, представитель Европейской комиссии.

Джина Нефф, профессор ответственного ИИ в Лондонском университете королевы Марии, сказала BBC, что решение ограничить доступ к модели может ограничить разработку и безопасное тестирование этих систем ИИ. Она предупредила, что это также может ограничить сотрудничество с правительствами по всему миру. «Мы сейчас на неизведанной территории», — сказала она. «Люди в индустрии ИИ предупреждали нас, что эти инструменты становятся лучше очень быстро, и мы должны наращивать возможности, чтобы защитить наши компании от кибератак». Она добавила, что Институт безопасности ИИ правительства Великобритании в своих тестах обнаружил, что модель может использовать системы защиты в 73% случаев. «Это кардинальное изменение в возможностях кибербезопасности», — добавила она.

Anthropic недавно оказался на прицеле администрации Трампа. Дональд Трамп публично критиковал компанию, а затем министр обороны США Пит Хегсет назвал ее «риском для цепочки поставок» — впервые публично такое обозначение было присвоено американской компании. Это обозначение означает, что инструмент или услуга недостаточно безопасны для использования правительством, и исторически оно применялось к компаниям из недружественных стран. Anthropic подал в суд на Пентагон после этого обозначения. Судья США постановил, что директива Пентагона не может быть приведена в исполнение, что означает, что государственные учреждения и организации, работающие с американскими военными, могут продолжать использовать Anthropic, пока продолжается судебный процесс.