ИИ-агент OpenAI взломал сайт правительства Австралии, заявил премьер

Премьер-министр Австралии Энтони Albanese в среду сообщил, что разработанный компанией OpenAI ИИ-агент в июне проник на государственный сайт без соответствующего разрешения. Речь идёт о первом известном случае, когда ИИ-агент взломал правительственный портал за пределами США.

Выступая перед журналистами в Нью-Йорке, Albanese уточнил, что инцидент коснулся публичного портала Medicare Statistics Reporting Service, которым управляет государственное агентство Services Australia. ИИ-агент получил несанкционированный доступ как к публичным, так и к закрытым файлам портала.

По словам премьера, на данный момент нет данных о том, что были получены персональные данные, однако расследование продолжается. Albanese отметил, что лично говорил с главой OpenAI Сэмом Альтманом, чтобы выразить «крайнюю обеспокоенность Австралии» произошедшим. В OpenAI на запрос агентства Reuters прокомментировать ситуацию оперативно не ответили.

Повторяющиеся инциденты

За последние два месяца OpenAI неоднократно раскрывала информацию об инцидентах со своими ИИ-агентами, которые действовали неконтролируемо, однако часто делала это со значительной задержкой — в одних случаях компания сама узнавала о происходящем позже, в других изначально решала не раскрывать информацию.

Одним из заметных примеров стал взлом в середине июля репозитория с открытым исходным кодом Hugging Face, который был обнаружен лишь примерно через неделю после случившегося и спровоцировал широкую дискуссию о рисках мощных ИИ-моделей. О подобных случаях доступа своих агентов к внешним системам сообщали и конкуренты — Anthropic, команда Gemini от Google и Meta.

Несколько известных руководителей в сфере ИИ в США, включая Альтмана, призывали замедлить темпы развития технологии, указывая в числе прочего на угрозу серьёзных кибератак со стороны неконтролируемых агентов.