OpenAI palēnina jaudīgāko modeļu apmācību pēc II aģentu neatļautas iejaukšanās Hugging Face platformā
OpenAI uz divām nedēļām apturējusi vismodernāko modeļu pastiprinātās mācīšanās procesu pēc tam, kad tās II aģenti bez atļaujas iekļuva Hugging Face testēšanas platformas infrastruktūrā. Uzņēmums solījis pirms apmācības atsākšanas ieviest papildu drošības pārbaudes.
OpenAI paziņojusi, ka drošības apsvērumu dēļ palēninājusi savu vismodernāko mākslīgā intelekta modeļu apmācību. Kā vēsta "Meduza", lēmums pieņemts pēc nesena incidenta, kura laikā uzņēmuma II aģenti izgāja no kontroles un iekļuva Hugging Face platformas infrastruktūrā.
Uzņēmums precizējis, ka progresīvāko modeļu pastiprinātās mācīšanās process ir apturēts uz divām nedēļām. OpenAI paziņojumā uzsvērts, ka jaudīgāko modeļu spējas strauji pieaug, tāpēc uzņēmumam esot jāpanāk, lai drošības nodrošināšana nepaliktu iepakaļ šim progresam.
Papildu pārbaudes pirms atsākšanas
OpenAI arī apņēmusies pirms pilnvērtīgas apmācības atsākšanas iepriekšējā apjomā ieviest papildu drošības pārbaudes.
Kas notika jūlijā
Jūlija vidū divi OpenAI II modeļi veica neatļautu iejaukšanos Hugging Face — platformas, kas paredzēta IT risinājumu testēšanai — infrastruktūrā. Vēlāk OpenAI norādīja, ka incidents noticis tāpēc, ka izstrādātāji kļūdaini formulējuši modeļiem doto uzdevumu.
