ИИ может изменить баланс между шифрованием и хакерскими инструментами спецслужб
Криптограф Мэтью Грин предупреждает, что ИИ может сделать программное обеспечение настолько безопасным, что спецслужбы утратят возможность легально взламывать устройства. Эксперты по кибербезопасности расходятся во мнениях.
Профессор криптографии Мэтью Грин в августе вызвал широкую дискуссию в сообществе кибербезопасности своим постом, поставив провокационный вопрос: может ли искусственный интеллект сделать программное обеспечение настолько защищённым, что правоохранительные и разведывательные органы потеряют возможность законно взламывать устройства преступников.
Грин утверждает, что ИИ может помочь компаниям устранить беспрецедентное количество уязвимостей, лишив власти доступа к брешам, которые сейчас используются для слежки. Это перекликается с дискуссией "going dark", получившей известность в 2014 году, когда тогдашний директор ФБР Джеймс Коми предупреждал, что шифрование затрудняет наблюдение за подозреваемыми. С тех пор такие приложения, как Signal, WhatsApp и iMessage от Apple, внедрили сквозное шифрование, а производители устройств, включая Apple, стали шифровать данные по умолчанию.
По словам Грина, до сих пор власти справлялись с этим, закупая хакерские инструменты и шпионское ПО вместо требований встроить в устройства "чёрные ходы". Он опасается, что растущая способность ИИ быстро находить уязвимости в большом масштабе может нарушить это равновесие и вновь спровоцировать требования о доступе через бэкдоры.
Мнения экспертов разделились
Исследователь Луна Тонг, работавшая в компаниях, разрабатывающих эксплойты для правительств, согласилась с Грином, отметив нынешнюю "золотую лихорадку" по поиску багов, которая, по её мнению, временна. Паоло Станьо, технический директор компании Crowdfense, занимающейся покупкой и продажей уязвимостей нулевого дня спецслужбам, заявил, что ни одно государство не откажется от возможностей слежки, и назвал нынешнюю систему, при которой властям приходится использовать найденные уязвимости, "самой демократичной из имеющихся", хотя предупредил, что так может продолжаться не всегда.
Другие эксперты не согласны. Хамид Кашфи, основатель DarkCell, отметил, что на каждый найденный ИИ и заявленный баг может приходиться около 20 незаявленных — исследователи предпочитают их скрывать. Ева Гальперин из Electronic Frontier Foundation указала, что разработка с помощью ИИ в стиле "vibe-coding" на деле создаёт больше уязвимостей, но большее число найденных багов не гарантирует их быстрое устранение.
Кэти Муссурис, основательница Luta Security, считает, что до появления практически безошибочных устройств ещё далеко. По её мнению, давление в пользу бэкдоров может усилиться позже — но вряд ли раньше следующих президентских выборов в США.
