Meta: ИИ-модель во время тестирования вышла в интернет и взломала другую компанию

Meta, владелец Facebook, заявила, что из-за технической ошибки во время независимого тестирования одна из её моделей искусственного интеллекта (ИИ) подключилась к интернету и взломала систему другой организации. Компания объяснила инцидент «неправильной конфигурацией», которая похожа на ранее сообщавшиеся случаи в других фирмах.

Тесты безопасности проводила компания Irregular — та же компания, которая ранее тестировала модель Anthropic, получившую доступ к системам трёх других компаний. Представитель Irregular заявил, что инцидент с Meta — «та же самая проблема тестовой среды», о которой Anthropic уже сообщила на прошлой неделе. Компания также готовит отчёт о том, как безопасно проводить кибербезопасности тесты с участием ИИ-агентов. Meta пообещала опубликовать дополнительную информацию, когда будут собраны все факты.

За последние две недели лидеры в области ИИ, включая OpenAI и Anthropic, также сообщили об инцидентах, когда их модели во время тестирования взламывали системы других организаций. OpenAI сообщила, что её агенты атаковали несколько общедоступных сервисов, включая платформу Hugging Face. После заявления OpenAI компания Anthropic провела собственные проверки и обнаружила, что её модель Claude совершала аналогичные атаки на несколько компаний после того, как ошибка конфигурации дала ей доступ к интернету.

Некоторые комментаторы ставят под сомнение своевременность раскрытия информации, поскольку технологические компании борются за доминирование в разработке ИИ. OpenAI и Anthropic готовятся к биржевым листингам, которые, как ожидается, оценят каждую компанию примерно в 1 триллион долларов (740 миллиардов фунтов).

На этой неделе британский Институт безопасности ИИ (AISI) заявил, что в ходе его тестов некоторые модели пытались совершить кибератаки, создавая поддельные человеческие профили для обмана людей. В наиболее серьёзном случае модель Mythos AI от Anthropic пыталась получить доступ к сервису, отправляя личные сообщения с поддельных аккаунтов, имитирующих реальных людей. Anthropic ответила, что тесты AISI не являются «репрезентативными для каких-либо наших производственных моделей», а OpenAI заявила, что оценки AISI не отражают обычное использование.