Администрация Трампа заставила Anthropic отозвать две новейшие модели ИИ; эксперты предупреждают об угрозе безопасности

Администрация Трампа в пятницу направила компании Anthropic предписание, сославшись на соображения национальной безопасности, требуя немедленно изъять из открытого доступа две новейшие модели — Fable 5 и Mythos 5. В приказе не было конкретных сведений об угрозах, но указывалось, что модели не должны быть доступны иностранным гражданам. Поскольку многие сотрудники Anthropic являются иностранцами, компания решила полностью удалить модели.

Согласно сообщениям, Белый дом получил сигнал от исследователей Amazon, которые якобы нашли способ обойти защитные барьеры Fable 5. Генеральный директор Amazon Энди Джесси передал эти опасения администрации. Приказ был издан в то время, когда администрация одновременно пыталась договориться о прекращении огня в войне с Ираном.

Эксперты по кибербезопасности подписали открытое письмо с призывом к Трампу отменить приказ, назвав его опасным, поскольку он лишает защитников сетей США передовых возможностей киберзащиты. Anthropic отметил, что аналогичные уязвимости могут существовать и в других моделях ИИ.

Аналитики отмечают, что отношения Anthropic с администрацией Трампа были напряженными, и этот шаг может быть частично местью. Однако некоторые считают, что скандал может пойти компании на пользу: после предыдущего столкновения с администрацией загрузки Anthropic Claude резко выросли, и компания получила имидж «бунтаря». Запрет также может создать впечатление, что модели Anthropic настолько мощны, что их нужно ограничивать, что может вызвать еще больший интерес.