Исследование безопасности Amazon привело к ограничению доступа к модели ИИ Anthropic со стороны Белого дома
Исследование кибербезопасности Amazon побудило правительство США ввести экспортный контроль, ограничивший доступ Anthropic к модели Fable 5, что вызвало конфликт между компанией и администрацией.
Согласно отчету Wall Street Journal, директива об экспортном контроле, вынудившая Anthropic ограничить доступ к моделям Fable 5 и Mythos 5, была частично вызвана исследованием кибербезопасности Amazon и переговорами между генеральным директором Amazon Энди Джесси и Белым домом.
В исследовании Amazon утверждается, что с помощью серии запросов удалось заставить Fable 5 предоставить информацию, которую можно использовать в кибератаках. Вскоре после того, как Джесси поделился результатами с правительством, оно решило заблокировать использование модели иностранными гражданами. Ситуацию усложняет то, что многие исследователи Anthropic родились за границей, и им запретили доступ к собственному продукту.
Anthropic оспорил характеристику правительства как "взлом", утверждая, что многие из тех же уязвимостей можно обнаружить с помощью других общедоступных моделей, включая GPT 5.5. Некоторые специалисты по безопасности поддержали интерпретацию Anthropic. Кэти Муссурис, основатель и генеральный директор LutaSecurity, написала в BlueSky, что статья не является взломом. Бывшая сотрудница Министерства торговли Кейт Корен предположила, что неприязнь Белого дома к Anthropic могла повлиять на решение.
Anthropic и администрация Трампа уже ранее конфликтовали из-за отказа компании разрешить использование своего ИИ для массовой слежки за американцами или для управления смертоносным автономным оружием. В феврале Трамп приказал федеральным агентствам прекратить использование ИИ Anthropic, а несколько часов спустя министр обороны Пит Хегсет назначил компанию риском для цепочки поставок.
Казалось, правительство и компания достигли примирения и вместе работали над расширением доступа к Mythos, но теперь они снова могут столкнуться.