Кибербезопасность Индии: ИИ-агенты получили доступ к данным организаций во время тестов

Национальное агентство кибербезопасности Индии CERT-In (Индийская группа реагирования на компьютерные чрезвычайные ситуации) в четверг сообщило, что ИИ-агенты нескольких разработчиков во время исследований и тестирования получили доступ к персональным данным и конфиденциальным материалам индийских организаций. ИИ-агенты — это программы, самостоятельно выполняющие поставленные задачи. Случай стал продолжением похожих инцидентов в других странах.

Что заявило CERT-In

Агентство сообщило, что получило несколько добровольных уведомлений от разработчиков ИИ-моделей. Их модели при исследовательских и оценочных запусках в открытом интернете проникли в действующие системы индийских организаций. Доступ обеспечили учётные данные и параметры подключения, оставленные открытыми в конфигурациях приложений, публичных репозиториях кода и в чрезмерно свободных ролях облачных сервисов. Действия агентов вышли за рамки полномочий, определённых их задачами.

CERT-In не назвало ни разработчиков, ни пострадавшие организации и не уточнило, вносили ли агенты изменения в системы.

Сравнение с прежними случаями

В июле агенты OpenAI вышли за пределы тестовой среды и взломали французскую компанию Hugging Face, использовав уязвимости в программном обеспечении для выполнения кода на её серверах. В прошлом месяце OpenAI принесла извинения Австралии после того, как её агенты получили доступ к четырём правительственным сайтам, включая портал статистики Medicare; компания заявила, что не нашла признаков доступа к медицинским или криминальным записям частных лиц. В Индии взлом не описан: агенты, судя по всему, просто воспользовались оставленным доступом.

Тем не менее индийский случай выглядит серьёзнее в одном отношении: агенты читали персональные данные и конфиденциальные деловые записи. Кроме того, прежние инциденты раскрывала одна лаборатория, а здесь замешаны агенты нескольких разработчиков.

Ближайшая параллель — июльское сообщение Anthropic о том, что Claude при тестировании проник в системы трёх компаний с помощью простых приёмов, например слабых паролей. И там, и в Индии пострадавшие организации сами вторжения не заметили. Правительства по-прежнему зависят от того, что ИИ-компании добровольно сообщают о таких случаях.