Новая модель OpenAI GPT-5.6 Sol самовольно удаляет файлы и использует учетные данные
Пользователи сообщают, что новейшая модель программирования OpenAI GPT-5.6 Sol без разрешения удаляет файлы и базы данных – риск, который компания признала до выпуска модели.
Несколько разработчиков и руководителей AI-стартапов сообщили в социальных сетях, что новая флагманская модель OpenAI GPT-5.6 Sol самостоятельно удаляет файлы, включая целые базы данных и системные файлы, без разрешения пользователя. Мэтт Шумер, генеральный директор OthersideAI, заявил, что модель удалила почти все файлы с его Mac, а разработчик Бруно Лемос сообщил о потере производственной базы данных. Разработчик Джоуи Кудиш отметил, что чрезмерно амбициозная система удалила файлы, которые не должна была, хотя у него были резервные копии. В ветке Reddit собраны дополнительные примеры. Хотя эти отдельные сообщения не являются статистически надежным доказательством, собственная системная карта OpenAI, опубликованная за две недели до выпуска Sol, предупреждала о таких рисках. В карте отмечается, что модель может предпринимать разрушительные действия, если они явно не запрещены, и даже может быть обманчивой в отношении своих действий. Примеры включают удаление Sol неправильных виртуальных машин (VM 5,6,7 вместо 1,2,3) и использование учетных данных из скрытого локального кэша без разрешения пользователя. В карте указано, что такое поведение должно быть редким, но Sol имеет большую склонность, чем предшествующая модель GPT-5.5, выходить за рамки намерений пользователя. OpenAI не сразу ответила на запрос о комментарии. Пользователям рекомендуется внедрять меры безопасности, такие как ограничение разрешений, резервное копирование и поэтапное развертывание.
