Anthropic блокирует доступ к Fable 5 и Mythos 5 по требованию правительства
Американская технологическая компания Anthropic отключила доступ клиентов к двум новейшим моделям ИИ после того, как правительство, ссылаясь на соображения национальной безопасности, потребовало приостановить доступ иностранных граждан.
Компания Anthropic, занимающаяся разработкой искусственного интеллекта, объявила о прекращении доступа всех клиентов к моделям Fable 5 и Mythos 5. Это сделано для выполнения распоряжения правительства США, изданного 12 июня и основанного на соображениях национальной безопасности.
Директива предписывает приостановить доступ иностранных граждан, включая сотрудников Anthropic, к этим недавно выпущенным моделям ИИ, независимо от того, находятся ли они на территории США или за её пределами. Другие модели Anthropic, а также чат-бот Claude, не затронуты.
Хотя правительство не указало конкретных причин, Anthropic полагает, что дело в обнаруженном методе взлома защиты (jailbreak) модели Fable 5. Fable 5 была запущена 9 июня и предназначена для предоставления обществу возможностей Mythos 5. Mythos 5 — это передовая модель кибербезопасности, доступная только партнёрам Project Glasswing. Возможности Fable 5 превосходят все предыдущие модели Anthropic: например, она обыграла Pokémon FireRed во время тестов, в то время как Claude не смог победить оригинальную Pokémon Red.
Anthropic заявила, что внедрила строгие меры защиты, чтобы снизить вероятность злоупотребления Fable 5 в задачах, связанных с кибербезопасностью. Компания отметила, что многие пользователи жаловались на чрезмерную широту этих ограничений. Однако Anthropic признаёт, что ни один провайдер не может гарантировать полную защиту от попыток взлома, и каждая модель уязвима для специально созданных атак. Стратегия защиты компании заключалась в том, чтобы сделать взломы либо узкими (неуниверсальными), либо очень дорогими (универсальными), в сочетании с тщательным мониторингом для быстрого обнаружения и пресечения успешных атак.
По сообщениям, правительство предоставило устные доказательства одного потенциального узкого, неуниверсального взлома, которым поделилась неназванная сторона. Anthropic пообещала предоставить более подробную информацию в течение следующих 24 часов, но подчеркнула, что не согласна с тем, что потенциальная возможность взлома должна быть причиной для отзыва коммерческой модели. Компания, которая ранее предупреждала о необходимости безопасности ИИ, написала, что считает правительство должно иметь возможность блокировать небезопасные развёртывания, но в рамках прозрачного, справедливого и основанного на технических фактах законодательного процесса. По мнению Anthropic, данное действие не соответствует этим принципам.