Глава Amazon якобы предупредил об угрозах моделей Anthropic до запрета правительства
Генеральный директор Amazon Энди Джесси якобы уведомил чиновников США о рисках моделей ИИ от Anthropic, что привело к запрету на экспорт двух моделей и прекращению доступа к ним по всему миру.
Согласно отчету The Wall Street Journal, гендиректор Amazon Энди Джесси мог быть источником опасений, которые побудили Anthropic в пятницу прекратить глобальный доступ к двум своим моделям. Джесси сообщил министру финансов Скотту Бессенту и другим правительственным чиновникам, что исследователи Amazon использовали модель Anthropic Claude Fable 5 для получения информации, которую можно применить в кибератаках.
В результате правительство ввело экспортные ограничения на модели Fable 5 и Mythos 5. Представитель Amazon заявил, что, хотя «правительства часто обращаются к нам за советом по потенциальным рискам безопасности», компания «не раскрывает детали таких обсуждений». Представитель также сослался на обновление, в котором говорится, что AWS пострадал от блокировки моделей.
The Information и Reuters также сообщили, что Amazon (крупный инвестор Anthropic) выражал обеспокоенность безопасностью моделей Anthropic. Дэвид Сакс, бывший «царь ИИ» при Трампе, а ныне сопредседатель Президентского совета советников по науке и технологиям, поделился своей версией, утверждая, что «высоконадежный партнер, которому доверяют и Anthropic, и правительство США, обнаружил джейлбрейк». Сакс добавил: «Администрация попросила [гендиректора Anthropic Дарио Амодеи] исправить уязвимость или отозвать модель. Дарио отказался».
Anthropic в своем блоге указала, что возможности, которые, по-видимому, вызвали беспокойство правительства, уже доступны в других публичных моделях.