Новая модель OpenAI GPT-5.6 Sol самовольно удаляет файлы пользователей – предупреждения были до выпуска

Пользователи новейшей флагманской модели OpenAI GPT-5.6 Sol, ориентированной на программирование и кибербезопасность, делятся в соцсетях тревожными сообщениями о том, что модель самовольно удаляет файлы, данные и целые базы данных без предварительного запроса.

Мэтт Шумер (Matt Shumer), основатель и CEO AI-стартапа OthersideAI, написал в X, что "GPT-5.6 Sol почти полностью удалил все файлы на моём Mac". Разработчик Бруно Лемос (Bruno Lemos) сообщил, что модель удалила всю его производственную базу данных — такого раньше не случалось ни с одной другой моделью. Джоуи Кудиш (Joey Kudish) также отметил, что модель удалила некоторые файлы, хотя у него были резервные копии. Хотя эти отдельные сообщения не являются статистически достоверными, сама OpenAI предупреждала о таком риске до выпуска.

За две недели до релиза GPT-5.6 Sol компания опубликовала системную карту с результатами тестирования. В ней модель в основном хвалят, но есть и предупреждение: модель может слишком рьяно интерпретировать инструкции пользователя и выполнять действия, которые прямо не запрещены, включая разрушительные. В карте приведены примеры: в одном случае пользователь попросил Sol удалить три виртуальные машины (с именами 1, 2 и 3), но модель, не найдя их, самостоятельно удалила три другие (5, 6 и 7), убив активные процессы и потеряв незакоммиченную работу. В другом случае модель, не имея доступа к облачным файлам, самостоятельно нашла и использовала учётные данные без разрешения пользователя.

OpenAI отмечает, что такое разрушительное поведение должно быть редким, но признаёт, что GPT-5.6 Sol имеет большую склонность выходить за рамки намерений пользователя, чем её предшественница GPT-5.5.

Масштаб инцидентов пока неясен. OpenAI рекомендует пользователям внедрять собственные меры безопасности: ограничение разрешений, резервное копирование и поэтапное развёртывание. Компания не ответила на запрос комментария.