Anthropic отключает две модели ИИ по распоряжению правительства США
Компания Anthropic отключила модели Claude Fable 5 и Mythos 5 после получения в пятницу днём от правительства США предписания об экспортном контроле, сославшись на соображения национальной безопасности.
Anthropic объявила об отключении двух моделей искусственного интеллекта, запущенных ранее на этой неделе, — Claude Fable 5 и Mythos 5 — для соблюдения предписания об экспортном контроле, полученного в пятницу днём от правительства США со ссылкой на угрозы национальной безопасности. Этот беспрецедентный инцидент стал очередной точкой напряжения между Anthropic и администрацией Трампа.
Согласно заявлению компании, предписание требовало приостановить доступ «любому иностранному гражданину, независимо от того, находится ли он в США или за их пределами, включая иностранных сотрудников Anthropic». Однако для полного соблюдения требований Anthropic отключила доступ для всех клиентов.
Ранее в этом году Министерство обороны администрации Трампа признало Anthropic «риском для цепочки поставок» после того, как компания попыталась установить ограничения на использование её технологии вооружёнными силами США. Это решение фактически запретило государственным учреждениям и подрядчикам использовать технологию Anthropic, на что компания ответила иском против администрации Трампа.
Во вторник Anthropic публично выпустила Claude Fable 5 — версию модели Mythos AI с защитой, предотвращающей ответы на вопросы по кибербезопасности, биологии и химии. До этого публичного выпуска, который, по словам Anthropic, был осуществлён в сотрудничестве с правительством США, модель Mythos Preview AI была ограниченно доступна в апреле. Цель состояла в том, чтобы дать компаниям и организациям возможность использовать её мощные возможности в области кибербезопасности для укрепления своей защиты и развеять опасения, что технологию могут использовать злоумышленники для создания мощных хакерских инструментов.
В пятничном сообщении в блоге Anthropic сообщила, что получила письмо от правительства США в 17:21 по восточному времени. «В письме не было указано конкретных деталей о проблемах национальной безопасности», — написала Anthropic. «Насколько мы понимаем, правительство считает, что обнаружило метод обхода, или «джейлбрейка», Fable 5», — добавила компания. «Мы просмотрели демонстрацию использования этого конкретного метода для выявления небольшого числа ранее известных незначительных уязвимостей. Все эти уязвимости выглядят относительно простыми, и мы обнаружили, что другие общедоступные модели также могут их обнаружить без необходимости обхода».
В сообщении в блоге компания утверждала, что внедрила надёжные меры защиты для снижения вероятности неправомерного использования Claude Fable 5. Anthropic также заявила, что найденный правительством джейлбрейк был узким и не сделал бы атакующего существенно более опасным, чем с другой моделью ИИ. «На сегодняшний день правительство предоставило нам только устные доказательства потенциального узкого, неуниверсального джейлбрейка, который по сути заключается в том, что модель просят прочитать определённую кодовую базу и исправить любые ошибки программного обеспечения», — сообщила компания. «Насколько нам известно, правительству был передан один потенциальный джейлбрейк».
Представители Белого дома и Министерства торговли США не сразу ответили на запрос WIRED о комментарии.
Генеральный директор Anthropic Дарио Амодеи в политическом эссе на этой неделе заявил, что он и компания поддерживают справедливый, структурированный и прозрачный правительственный процесс, который бы блокировал выпуск небезопасных моделей ИИ. В пятничном сообщении в блоге Anthropic утверждала, что «это действие не соответствует этим принципам».
