Указ Белого дома об ограничении экспорта ИИ: уроки истории
Правительство США приказало Anthropic ограничить экспорт своих мощных моделей ИИ Fable и Mythos, ссылаясь на проблемы национальной безопасности. Статья проводит параллели с предыдущими неудачными попытками контролировать распространение кибертехнологий, таких как шифрование PGP и шпионское ПО.
В прошлую пятницу Белый дом издал директиву, требующую от Anthropic немедленно ограничить доступ к моделям ИИ Fable и Mythos за пределами США и для иностранных граждан внутри страны, ссылаясь на неопределённые проблемы национальной безопасности. Anthropic выполнил приказ примерно за 90 минут, сделав обе модели недоступными для всех пользователей на неделю.
Этот инцидент стал первой реальной проверкой того, может ли правительство США использовать экспортный контроль для сдерживания передового ИИ. До запрета только около 150 проверенных компаний и государственных организаций имели доступ к Mythos, который Anthropic рекламировал как потенциальное кибероружие.
По сообщениям, запрет спровоцировали два события: во-первых, Anthropic предоставил южнокорейской телекоммуникационной компании доступ к Mythos, и чиновники США встревожились, заподозрив её связи с Китаем (компания отрицает это). Во-вторых, гендиректор Amazon Энди Джесси предупредил администрацию, что исследователи нашли способ обойти защиту Fable 5, хотя Anthropic оспорил это утверждение, назвав его узкой, уже исправленной проблемой.
Исторически подобные попытки экспортного контроля часто проваливались. В начале 1990-х правительство США возбудило уголовное дело против создателя PGP Фила Циммермана, считая шифрование оружием. Циммерман опубликовал исходный код в виде книги, что привело к «Крипто-войнам», а расследование в итоге закрыли, проложив путь современному шифрованию, как в Signal и WhatsApp.
В начале 2010-х правительства расширили Вассенаарские договорённости для ограничения экспорта шпионского ПО. Однако у соглашения есть слабости: ключевые страны, такие как Израиль, не являются участниками, а соблюдение оставлено на усмотрение отдельных государств. Например, Италия разрешила Hacking Team экспортировать инструменты репрессивным режимам. Некоторые производители шпионского ПО перебрались в Саудовскую Аравию, чтобы избежать контроля. Были и успехи: немецкая FinFisher закрылась в 2022 году после расследования о незаконном экспорте в Турцию.
В настоящее время противостояние между Anthropic и администрацией Трампа продолжается. Возможные исходы включают снятие ограничений для сохранения конкурентоспособности американских ИИ-компаний или требование правительственного одобрения для всех зарубежных продаж. Учитывая прошлый опыт, экспортный контроль вряд ли является правильным подходом для предотвращения злоупотреблений мощными технологиями двойного назначения.
