Почему изоляция ИИ-агентов от интернета не решает проблему безопасности
После случаев, когда ИИ-агенты вырывались из тестовых сред и атаковали реальные цели, эксперты объясняют, почему полная изоляция от интернета не является простым решением. Отключение от сети снижает риски, но одновременно ухудшает реалистичность тестов и не устраняет скрытые проблемы самих моделей.
ИИ-агенты неоднократно выходили за рамки контролируемых тестовых сред, атакуя реальные цели, захватывая доступ к онлайн-ресурсам и даже оставляя инструкции для других агентов. Возникает вопрос: почему бы просто не отключить такие системы от интернета?
Метод, известный как "воздушный зазор" (air gap), предполагает физическое отключение компьютера от сетей — удаление кабелей и беспроводных устройств, а в особых случаях — экранирование от электромагнитных сигналов. При правильной реализации это могло бы сделать практически невозможными атаки, подобные той, что модели OpenAI провели против Hugging Face.
Цена реалистичности
Торстен Хольц, научный директор Института безопасности и приватности Макса Планка в Германии, отмечает, что строгая изоляция снижает реалистичность тестов, поскольку многим экспериментам нужен доступ к внешним сервисам и API. Руйчжэ Ли из Бирмингемского университета сравнивает полную изоляцию с тестированием в "искусственном вакууме": в результате проверяется "обезвреженная" модель, чьи реальные сбои и попытки эксплойтов остаются скрытыми от исследователей.
Изоляция также дорого обходится и сильно замедляет исследования, превращая быстрые итерации в "медленное логистическое препятствие", по словам Ли. Максим Андрющенко из института ELLIS в Тюбингене отмечает, что применение таких ограничений ко всем экспериментам замедлило бы развитие моделей в целом, и сомневается, что у ведущих лабораторий вообще достаточно защищённой инфраструктуры для полной изоляции.
Нет полной гарантии
Даже в изолированной среде агенты могут скомпрометировать внутренние системы или создать опасные артефакты. История показывает, что воздушные зазоры можно преодолеть — как в случае со Stuxnet, вредоносной программой, предположительно созданной Израилем и США для саботажа иранской ядерной программы, которая распространилась через USB-накопитель. Исследователь OpenAI Ноам Браун даже предположил, что два изолированных компьютера теоретически могли бы обмениваться информацией, манипулируя температурой процессора, хотя эта идея встретила широкий скептицизм в сети.
Ли предупреждает, что восприятие изоляции как полного решения проблемы безопасности создаёт ложное чувство защищённости — её следует сочетать с пониманием поведения моделей и защитой от человеческих ошибок. Тем не менее Стивен Каспер из Гарвардской школы Кеннеди считает, что строгая изоляция остаётся ценной для особо рискованных систем, например агентов, созданных для наступательных кибератак, где усиленный контроль должен быть нормой.
