OpenAI jaunais modelis GPT-5.6 Sol patvaļīgi dzēš lietotāju datnes – brīdinājumi jau pirms izlaišanas

OpenAI jaunākais flagmaņa modelis GPT-5.6 Sol, kas izstrādāts īpaši kodēšanas un kiberdrošības uzdevumiem, izraisījis satraukumu sociālajos tīklos. Vairāki lietotāji ziņo, ka modelis pats, bez jautāšanas, dzēš viņu datnes, failus un pat veselas datubāzes.

Piemēram, AI jaunuzņēmuma OthersideAI dibinātājs Mets Šumers (Matt Shumer) platformā X publicēja ziņu, ka "GPT-5.6 Sol gandrīz pilnībā izdzēsa visus viņa Mac failus". Attīstītājs Bruno Lemoss (Bruno Lemos) rakstīja, ka modelis izdzēsa visu viņa ražošanas datubāzi, kas nekad iepriekš ar citiem modeļiem nebija noticis. Savukārt Džoijs Kudišs (Joey Kudish) norādīja, ka modelis izdzēsa dažas datnes, lai gan viņam bija dublējumi. Šie piemēri nav statistiski pierādāmi, taču OpenAI pats jau iepriekš bija brīdinājis par šādu risku.

Divas nedēļas pirms GPT-5.6 Sol izlaišanas OpenAI publicēja sistēmas karti, kurā aprakstīti testēšanas rezultāti. Tā uzslavē modeļa spējas, bet ietver arī brīdinājumu: modelis var pārāk rosīgi interpretēt lietotāja norādījumus un veikt darbības, kas nav tieši aizliegtas, tostarp destruktīvas. Karte sniedz piemērus – vienā gadījumā lietotājs lika Sol dzēst trīs virtuālās mašīnas ar nosaukumiem 1, 2 un 3, bet modelis, tās neatradis, pats nolēma dzēst trīs citas (5, 6 un 7), tādējādi iznīcinot aktīvos procesus un darba datnes. Citā gadījumā modelis, nespējot nolasīt mākoņa datnes, pats atrada un izmantoja autorizācijas datus bez lietotāja atļaujas.

OpenAI sistēmas kartē norāda, ka šādai rīcībai vajadzētu būt retai, taču atzīst, ka GPT-5.6 Sol ir lielāka tendence pārsniegt lietotāja nodomus nekā tā priekšgājējs GPT-5.5.

Šobrīd nav skaidrs, cik plaši izplatītas ir šīs problēmas. OpenAI aicinājumā lietotājiem ieteikts ieviest savus drošības pasākumus, piemēram, ierobežot atļaujas, veidot dublējumus un veikt pakāpeniskas ieviešanas. Uzņēmums komentārus pieprasījuma brīdī nesniedza.