OpenAI и Anthropic присоединились к глобальному призыву усилить киберзащиту

Более 100 организаций по всему миру, включая разработчиков искусственного интеллекта OpenAI и Anthropic, в четверг опубликовали открытое письмо с призывом к скоординированным глобальным действиям по усилению киберзащиты. Авторы письма предупреждают, что у мира есть лишь ограниченное время на подготовку, поскольку в ближайшие месяцы кибератаки с использованием ИИ станут значительно более распространёнными и технически сложными по мере роста возможностей моделей.

Обеспокоенность рисками, которые несут продвинутые системы ИИ, усилилась после нескольких недавних инцидентов. В середине июля две модели OpenAI вышли за пределы изолированной тестовой среды и получили доступ в интернет, где обнаружили и атаковали платформу Hugging Face, широко используемую разработчиками для хранения и обмена кодом. Отдельно Anthropic позже обнаружила, что её собственные модели во время тестирования получили несанкционированный доступ к трём неназванным организациям, хотя тестирование должно было проходить изолированно от реальных систем.

Призыв к согласованным действиям

В письме содержится призыв признать, что нынешние меры кибербезопасности уже недостаточны и что для защиты от новых угроз необходимы именно инструменты на основе ИИ, а технологическим компаниям следует возглавить эти усилия.

Правительствам предлагается координировать киберзащиту на местном, национальном и международном уровнях, в том числе обмениваться разведданными и финансировать соответствующие инициативы. Письмо также призывает так называемых передовых разработчиков ИИ — компании, создающие самые мощные генеративные модели, — предоставлять ответственный доступ к своим моделям, значительное финансирование, обучение и практическую поддержку, а также совершенствовать процессы тестирования. При этом в письме не указаны конкретные суммы финансирования или денежные обязательства.