Белый дом устанавливает правила для ИИ на ходу

Принудительные действия без чётких правил

Прошла почти неделя с тех пор, как администрация Трампа направила директиву об экспортном контроле компании Anthropic, заставив одну из ведущих ИИ-лабораторий мира отключить свои самые передовые модели. После нескольких дней переговоров стороны всё ещё не могут прийти к соглашению о возврате Claude Mythos и Fable 5. Anthropic считает, что не нарушала никаких конкретных процедур, тогда как Белый дом утверждает, что компания действовала безответственно.

Дикий Запад регулирования ИИ

Этот инцидент подтверждает наступление эры "Дикого Запада" в регулировании ИИ в США. Хотя законов, регулирующих разработку передового ИИ, немного, компании могут столкнуться с проблемами, если пересекут негласные границы. Бывший чиновник Белого дома по технологиям на условиях анонимности отметил: "Проблема в том, что Белый дом придерживался крайне антирегуляторной позиции, а теперь столкнулся с реальными возможностями ИИ… Должна была быть подготовка и политика, но вместо этого применяется импровизированный подход."

Администрация Трампа неоднократно блокировала попытки ввести ограничения для ИИ, утверждая, что это может помешать инновациям. Президент Трамп подписал указы, отменяющие регуляторные рамки эпохи Байдена, и создал целевую группу для оспаривания законов штатов.

Непрозрачный спор и его последствия

Спор остаётся непрозрачным — правительство США так и не объяснило, что именно Anthropic сделала не так. Лучшим источником является пост в соцсети X от советника Белого дома по технологиям Дэвида Сакса. По иронии, действия Белого дома, вероятно, помешали тем самым инновациям, которые он стремится защитить. Администрация потребовала от Anthropic запретить доступ к Mythos и Fable 5 для всех иностранных граждан, лишив доступа многих собственных сотрудников и всех клиентов, включая Apple, Meta и многие компании из списка Fortune 500.

Обоснованные опасения?

У Белого дома могли быть обоснованные опасения. Как сообщается, чиновники узнали, что Anthropic поделился Mythos с южнокорейским телекоммуникационным гигантом SK Telecom, который, как утверждается, имеет связи с Китаем. Кроме того, генеральный директор Amazon Энди Джесси выразил обеспокоенность, что защиту Claude Fable 5 можно обойти. Anthropic утверждает, что координировала запуск с правительством и немедленно отозвала доступ после получения предупреждения.

Проблема: не контроль, а импровизация

Проблема "джейлбрейка" (взлома защиты) присуща всем большим языковым моделям — они вероятностны, а не детерминированы, поэтому гарантий дать нельзя. Если Белый дом будет настаивать на решении этой проблемы перед возвратом Fable 5, это может занять очень много времени.

Последствия для отрасли

Другие ИИ-лаборатории, в том числе OpenAI, Google и Meta, внимательно следят за судьбой Anthropic. Многие лидеры ИИ приходят к выводу, что необходимо предоставлять Белому дому ранний доступ к моделям и активно делиться информацией о предстоящих запусках. Президент Трамп в прошлом месяце подписал указ, создающий "добровольную" систему раннего тестирования моделей. Однако после этого инцидента она фактически превратилась в обязательный лицензионный режим. Как сказал бывший чиновник: "Администрация Трампа, честно говоря, не должна была утверждать, что это добровольная система. Теперь совершенно ясно, что они создают лицензионный режим."