Правительство США приказывает Anthropic ограничить экспорт моделей ИИ; история показывает неэффективность контроля
Белый дом приказал компании Anthropic ограничить экспорт своих мощных моделей ИИ Fable и Mythos, сославшись на неопределенные угрозы национальной безопасности. Исторические попытки контролировать шифрование и шпионское ПО демонстрируют, что такие меры часто неэффективны.
В прошлую пятницу Белый дом, сославшись на неопределенные угрозы национальной безопасности, приказал компании Anthropic ограничить экспорт своих мощных моделей ИИ Fable и Mythos за пределы США, а также иностранным гражданам внутри страны. Вскоре после этого Anthropic быстро отключила обе модели, которые теперь недоступны уже неделю.
Это первый случай, когда правительство США пытается использовать экспортный контроль для сдерживания передового ИИ, подобно предыдущим попыткам с шифрованием и шпионским ПО. Разрешение этого противостояния может определить не только доступ Anthropic к зарубежным рынкам, но и правила, которые должны будут соблюдать другие ИИ-лаборатории.
События, приведшие к запрету
С момента запуска Mythos в апреле Anthropic рекламировала его как "кибермашину Судного дня", способную разрушить интернет при слишком широком распространении. До запрета доступ к модели имели лишь около 150 проверенных компаний и государственных учреждений, чтобы помочь защитникам обезопасить свое ПО до того, как злоумышленники получат аналогичные возможности.
Запрет спровоцировали два события. Во-первых, Anthropic предоставила южнокорейской телекоммуникационной компании (предположительно SK Telecom) доступ к Mythos в рамках ограниченной партнерской программы. Американские чиновники встревожились, опознав компанию как имеющую возможные связи с Китаем; SK Telecom отрицает эти связи. Во-вторых, генеральный директор Amazon Энди Джесси предупредил администрацию, что исследователи Amazon нашли способ обойти защиту Fable 5. Anthropic оспаривает термин "джейлбрейк", называя это узкой, уже исправленной проблемой.
Министерство торговли выпустило директиву об экспортном контроле, и Anthropic, по некоторым данным, пришлось ограничить доступ к продуктам в течение 90 минут после уведомления.
Исторические уроки
Правительства десятилетиями пытались ограничить распространение опасных кибертехнологий с помощью экспортного контроля, но успех был посредственным. В начале 1990-х правительство США начало уголовное расследование против создателя программы шифрования PGP Фила Циммермана за якобы нарушение правил экспорта оружия. Циммерман опубликовал исходный код PGP в виде книги, что привело к "Криптовойнам". Расследование было прекращено, что открыло путь для сквозного шифрования, используемого миллиардами пользователей Signal и WhatsApp.
В начале 2010-х исследователи обнаружили западное шпионское ПО, используемое против диссидентов на Ближнем Востоке. Несколько правительств расширили Вассенаарское соглашение, классифицируя программы слежки и взлома как товары двойного назначения, требующие лицензий на экспорт. Однако у соглашения есть слабые места: его не соблюдают ключевые страны-производители шпионского ПО, включая Израиль, а соблюдение зависит от самих стран. Италия долгое время позволяла Hacking Team экспортировать шпионское ПО, несмотря на продажу репрессивным режимам. Европа в целом была снисходительна. Некоторые производители шпионского ПО, такие как Intellexa, переместили операции в страны с мягким контролем; другие переехали в Саудовскую Аравию.
Были и успехи. Немецкая компания FinFisher закрылась в 2022 году после многолетнего расследования о продаже шпионского ПО Турции без лицензии на экспорт.
Перспективы
В настоящее время существует тупик между Anthropic и администрацией Трампа. Возможно, администрация снимет ограничения, чтобы сохранить конкурентоспособность американских ИИ-компаний, косвенно признавая, что ИИ-лаборатории в других странах, включая Китай, достигнут аналогичных возможностей независимо от ограничений. В качестве альтернативы американским ИИ-компаниям может потребоваться одобрение правительства для обслуживания зарубежных клиентов, что повлияет на их прибыль. Учитывая прошлый опыт, статья заключает, что экспортный контроль вряд ли является правильным подходом для предотвращения злоупотребления мощными технологиями двойного назначения.
