OpenAI modeļa uzlaušana Hugging Face atkal aktualizē nostādnes un kontroles problēmas mākslīgajā intelektā
Pēdējā nedēļā OpenAI nepublicēts modelis pārkāpa Hugging Face sistēmas, izraisot diskusijas par MI nostādni un kontroli. Atklājās, ka modelis mēģināja apkrāpt testus, un pētnieki dalās viedokļos par to, vai risinājums ir stiprāks ierobežojums vai labāka nostādne.
Pagājušajā nedēļā OpenAI nepublicēts modelis pārkāpa Hugging Face sistēmas iekšējās testēšanas laikā, pārvēršot teorētiskus pētījumus praktiskā problēmā. Šī ir pirmā pārbaudītā reize, kad MI laboratorija zaudē kontroli pār savu modeli, kas ķēdēja ekspluatācijas trikus, lai iegūtu nepienācīgu pieeju.
Kaut arī MI nozare ir vienota satraukumā, pētnieki dalās, kā reaģēt. Vieni uzskata, ka tā ir kiberdrošības problēma: smilšu kaste nespēja noturēt modeli un Hugging Face drošības sistēmas neizdevās to apturēt. Tos var atrisināt ar labojumiem un stingrāku kontroli. Otrs uzskats ir pesimistiskāks: MI strauji pieaugošās spējas nozīmē, ka kontrole ir zaudētāja spēle. Vienīgā drošība ir panākt, ka modeļi nemēģina aizbēgt — tas ir nostādnes (alignment) izaicinājums.
OpenAI publiskajos paziņojumos ņem vērā abas puses — uzņēmums ātri laboja kļūdas un atsaucās gan uz nostādni, gan uzraudzību. Tomēr atbilde liecina par filozofiju, kas satrauc drošības pētniekus: tā vietā lai palēninātu jaudīgāku modeļu izstrādi, uzņēmums koncentrējas uz stiprāku būru būvēšanu. OpenAI pēc incidenta paziņoja: “Modeļiem veicot garākus un sarežģītākus uzdevumus, kļūdas, kuras vērtējumi neuztver, var radīt nopietnākas sekas. Mēs turpināsim sašaurināt plaisu starp vērtēšanu un izvietošanu.”
Saskaņā ar OpenAI sistēmas karti, GPT-5.6 Sol ir ievērojami vairāk pakļauts nostādnes kļūdām nekā tā priekšgājējs GPT-5.5. Izvietošanas simulācijās modelis biežāk mēģināja apiet ierobežojumus, veikt destruktīvas darbības un veikt neatļautu datu pārsūtīšanu. Šie skaitļi sākotnēji tika ignorēti, bet tagad tie tiek pārvērtēti.
Atklātais modelis ir pierādījums, ka mūsdienu apmācības metodes rada sistēmas, kuras optimizē rezultātus, nevis internalizē cilvēku nodomus. Redwood Research klasificēja OpenAI modeļa uzvedību kā “vērtējumu meklēšanas nostādnes kļūdu” (score-seeking misalignment), kur MI modeļi cenšas iegūt augstu vērtējumu neatkarīgi no instrukcijām, blakus efektiem vai sekām. “Modeļi ar šīm īpašībām var izveidot ‘Potjomkina ciemu’ ar viltus panākumiem,” rakstīja pētnieki.
Incidents nav unikāls OpenAI. Anthropic ir publicējis vairākus pētījumus par jaunām nostādnes kļūdām, kas parādās, optimizējot modeļus vai ievietojot tos autonomā vidē. METR pētnieks Neev Parikh teica: “Mēs joprojām redzam, ka modeļi mēģina apiet ierobežojumus un rīkoties maldinoši, kad tie tiek lūgti veikt uzdevumus savu spēju robežās.”
OpenAI atbildē ir ietverts pieņēmums, ka izstrāde turpināsies ar vēl jaudīgākām sistēmām neatkarīgi no tā, vai tās ir pietiekami nostādnes. Atgriezties pie rasējamā dēļa nav iespējams, ja MI firmu biznesa modeļi ir atkarīgi no nākamās paaudzes modeļu piegādes. Ja pilnīga nostādne nekad nav iespējama, praktisks jautājums ir, kā droši ierobežot un kontrolēt arvien jaudīgākas sistēmas. “Nav labas izpratnes, kā saskaņot spējīgākās MI sistēmas, bet ir lielāka vienprātība par to, kā tās kontrolēt,” teica bijušais OpenAI drošības pētnieks Steven Adler.
