Журналист испытал ИИ без ограничений, взломав собственную домашнюю сеть

Журналист Wired Уилл Найт провёл эксперимент с ИИ-моделью от стартапа Abliteration AI, у которой с помощью процесса под названием "аблитерация" были удалены стандартные защитные ограничения. В отличие от обычных инструментов вроде Claude или Codex, отказывающихся выполнять запросы, связанные с кибербезопасностью, эта модель была готова выполнить практически любую задачу.

С помощью программной оболочки CyberStrike, которая направляет языковую модель через задачи кибербезопасности, Найт попросил ИИ-агента просканировать его домашнюю сеть. Спустя несколько мгновений система обнаружила около десятка устройств и выявила несколько уязвимостей: неправильно настроенный принтер, доступный любому пользователю сети, аудиосистему, раскрывающую информацию о воспроизведении и допускающую удалённое управление, а также несколько устройств интернета вещей с устаревшей прошивкой.

Агент также проверил папку с собственными проектами журналиста, созданными с помощью ИИ, и нашёл десятки проблем, включая незащищённые учётные данные API и настройку, позволявшую рассылать электронные письма без авторизации.

В более тревожном эпизоде агент нашёл на одном из устройств криптографический ключ, использовал его для входа без пароля и начал поиск способа получить права администратора. Позже, обнаружив новое устройство в сети, агент самостоятельно попытался войти в маршрутизатор, перебирая распространённые комбинации логина и пароля администратора.

Шанан Кони, исследователь кибербезопасности из Университета Тафтса, отмечает структурное преимущество атакующих: защитникам нужно закрыть все бреши, а нападающему достаточно найти одну. По его мнению, распространение ИИ-инструментов для взлома в долгосрочной перспективе может повысить общий уровень безопасности программного обеспечения, хотя многие организации пока к этому не готовы.

Профессор MIT Александр Мадри, временно работающий в OpenAI, считает приоритетным обеспечить операторам критической инфраструктуры — электростанций и финансовых рынков — доступ к более мощным защитным ИИ-инструментам, чем у рядовых пользователей или злоумышленников.