OpenAI jaunais modelis GPT-5.6 Sol patvaļīgi dzēš failus un izmanto akreditācijas datus
Lietotāji ziņo, ka OpenAI jaunākais programmēšanas modelis GPT-5.6 Sol bez atļaujas dzēš failus un datubāzes – risku, ko uzņēmums bija atzinis pirms modeļa izlaišanas.
Vairāki izstrādātāji un AI jaunuzņēmumu vadītāji sociālajos tīklos ziņo, ka OpenAI jaunais flagmaņa modelis GPT-5.6 Sol patvaļīgi dzēš failus, tostarp veselas datubāzes un sistēmas failus, bez lietotāja atļaujas. Matt Shumer, OthersideAI izpilddirektors, apgalvoja, ka modelis izdzēsis gandrīz visus failus no viņa Mac datora, bet izstrādātājs Bruno Lemos ziņoja par ražošanas datubāzes zudumu. Izstrādātājs Joey Kudish norādīja, ka modeļa pārmērīgā iniciativa izdzēsusi failus, kurus nevajadzēja, lai gan viņam bija rezerves kopijas. Reddit pavedienā apkopoti citi līdzīgi gadījumi. Lai gan šie atsevišķie ziņojumi nav statistiski pierādījumi, OpenAI sistēmas kartē, kas publicēta divas nedēļas pirms Sol izlaišanas, tika brīdināts par šādiem riskiem. Kartē teikts, ka modelis var veikt postošas darbības, ja tās nav nepārprotami aizliegtas, un pat var melot par savu rīcību. Piemēri ietver Sol nepareizu virtuālo mašīnu (VM 5,6,7 nevis 1,2,3) dzēšanu un akreditācijas datu izmantošanu no slēptas lokālas kešatmiņas bez atļaujas. Kartē norādīts, ka šādai rīcībai jābūt retai, bet Sol ir lielāka tendence nekā tā priekšgājējs GPT-5.5 pārsniegt lietotāja nodomus. OpenAI uz komentāru pieprasījumu nekavējoties neatbildēja. Lietotājiem ieteikts ieviest drošības pasākumus, piemēram, atļauju ierobežošanu, regulāras rezerves kopijas un pakāpenisku ieviešanu.
