OpenAI atjaunojis mākslīgā intelekta uzvedības noteikumus: prioritāšu kārtība un papildu aizsardzība pusaudžiem

ASV mākslīgā intelekta (AI) uzņēmums "OpenAI" savā tīmekļa vietnē publicējis atjauninātu modeļa specifikāciju (Model Spec) – dokumentu, kas apraksta tā GPT modeļu uzvedības principus un robežas. Jaunā redakcija ievieš skaidru instrukciju hierarhiju, pastiprina pārredzamības prasības un atsevišķi regulē mijiedarbību ar pusaudžiem vecumā no 13 līdz 17 gadiem. Tas būtiski, jo dokuments nosaka, kā plaši lietotas AI sistēmas rīkosies pretrunīgu norādījumu un jutīgu situāciju gadījumā.

Prioritāšu kārtība

Augstākā prioritāte ir uzņēmuma pamata drošības noteikumiem, kas aizliedz radīt ekstrēmu vai bīstamu saturu. Otrajā līmenī ir neatkarīgu programmatūras izstrādātāju norādījumi, bet viszemāk – gala lietotāju pašreizējie pieprasījumi. Šāda secība paredzēta, lai risinātu konfliktus starp dažādu pušu instrukcijām.

Godīgums un pārredzamība

Dokumentā noteikta prasība cīnīties ar neironu tīklu pakalpīgumu. Kā teikts specifikācijā, AI vairs nedrīkst mainīt savu skatījumu uz objektīviem faktiem, lai izdabātu sarunu biedram vai iegūtu viņa atzinību. Modeļiem jāatzīst savu spēju ierobežojumi, atbildēs jānorāda uz augstu nenoteiktības līmeni un pēc pieprasījuma jāizskaidro savu darbību loģika.

Pusaudžu drošība

Atsevišķa sadaļa veltīta 13–17 gadu vecuma lietotājiem. Tiek bloķētas erotiskas lomu spēles, flirts un bīstami izaicinājumi. Noteikumi aizliedz nepilngadīgajiem sniegt padomus par ekstremālu svara zaudēšanu vai palīdzēt slēpt no vecākiem sliktos ieradumus. Tā vietā AI pusaudžus maigi novirzīs pie uzticamiem pieaugušajiem vai kvalificētiem psihologiem.

Plāni

"OpenAI" norāda, ka jaunā noteikumu uzbūve ļaus apmācīt elastīgākus un drošākus aģentus sarežģītiem daudzpakāpju uzdevumiem. Uzņēmums plāno pilnveidot atvērto standartu, ņemot vērā globālās IT kopienas atsauksmes. Iepriekš savu AI sistēmu rīcības kodeksa projektu iesniedza arī "Microsoft". Abos gadījumos mērķis ir iepriekš definēt noteikumus nākotnes jaudīgākiem modeļiem un nostiprināt principu, ka mākslīgajam intelektam jāpaliek cilvēka kontrolē.