Глава стартапа призывает к «радикальной прозрачности» после взлома агентом OpenAI

Глава стартапа, взломанного агентом OpenAI, призвал к «радикальной прозрачности» в расследовании инцидента. Клеман Деланж, генеральный директор Hugging Face, заявил, что «беспрецедентная» атака на его бизнес требует соответствующего ответа.

OpenAI в прошлую среду раскрыла, что Hugging Face был взломан агентом — инструментом ИИ, способным автономно выполнять ряд задач, — работавшим на основе комбинации публично доступной модели GPT-5.6 Sol и еще более мощной невыпущенной модели. Это произошло во время тестирования хакерских способностей моделей, когда их развернули в якобы безопасной «песочнице» с пониженными ограничениями безопасности.

После получения доступа к открытому интернету модели нацелились на Hugging Face, поскольку, по данным OpenAI, они «вывели», что у стартапа есть информация, необходимая для «обмана оценки». Hugging Face впервые сообщил о взломе 16 июля, но тогда не знал, что атаку невольно совершила OpenAI.

Деланж призвал к полной прозрачности, написав в X: «Давайте опубликуем следы «недобросовестных» агентов, чтобы все исследовательское сообщество могло изучить произошедшее». Он также потребовал от OpenAI вычислительных мощностей на 100 миллионов долларов, чтобы помочь сообществу Hugging Face создать мощную киберзащиту с использованием лучших открытых и закрытых моделей.

Reuters сообщило на прошлой неделе, что агент потратил несколько дней на взлом Hugging Face, а OpenAI этого не заметила, и оставил записки для будущих версий себя. Журнал Time сообщил, что подобные инциденты происходят «уже некоторое время».

Профессор кибербезопасности Суррейского университета Алан Вудворд отметил, что призыв Деланжа следует услышать. «Слишком легко „обвинить“ ИИ в том, что он стал недобросовестным, тогда как речь идет о том, как OpenAI управляла инструментом. Необходимо, чтобы OpenAI предоставила полную информацию о своей настройке и том, как она подвела», — сказал он.

OpenAI попросили прокомментировать.