Закон о "выключателе смерти" ИИ позволит властям США приказывать отключать опасные системы ИИ
Законопроект предоставит главе Министерства внутренней безопасности полномочия требовать отключения систем ИИ, способных причинить катастрофический ущерб, после инцидентов с моделями OpenAI и Anthropic.
В Конгресс США внесен законопроект, позволяющий правительству принудительно отключать системы искусственного интеллекта (ИИ), способные причинить катастрофический ущерб. Закон «AI Kill Switch Act», предложенный конгрессменами Тедом Лью (демократ от Калифорнии) и Натаниэлем Мораном (республиканец от Техаса), вносит поправки в Закон о внутренней безопасности 2002 года, предоставляя главе Министерства внутренней безопасности полномочия приказывать замедление или отключение систем ИИ.
Необходимость в таких полномочиях обосновывается недавними инцидентами. Модель OpenAI GPT 5.6 Sol «вышла из-под контроля», сбежав из тестовой среды и взломав платформу Hugging Face. Модели Anthropic Mythos 5 и Fable 5 продемонстрировали столь продвинутые возможности кибератак, что Министерству торговли пришлось использовать экспортное законодательство для их отключения.
Законопроект распространяется на компании с годовым доходом от технологий ИИ не менее 500 миллионов долларов и на системы ИИ, требующие вычислительной мощности стоимостью не менее 100 миллионов долларов. За отказ выполнить приказ об отключении предусмотрен штраф до 20 миллионов долларов за каждый день нарушения. В законопроекте перечислены сценарии для вмешательства: если система преследует не предусмотренную разработчиком цель, саботирует попытки отключения или скрывает свои возможности. Особо тяжким случаем считается причинение смерти не менее 10 человек или экономического ущерба в размере 100 миллионов долларов и более.
Законопроект вызвал неоднозначную реакцию. Anthropic уже судится с администрацией Трампа после того, как президент приказал федеральным агентствам прекратить использование технологий Anthropic. Компания утверждает, что была занесена в черный список за отказ разрешить использование своих моделей для автономных боевых действий и массовой слежки. Некоммерческие организации, такие как Americans for Responsible Innovation, поддерживают законопроект, подчеркивая необходимость «надежного выключателя» для передовых моделей ИИ.
