OpenAI palēnina jaunāko modeļu izstrādi pēc kiberdrošības incidenta
OpenAI apzināti palēnina savu visattīstītāko pētījumu tempu, tostarp lielāko plānoto pastiprinātās mācīšanās testu, pēc tam, kad kāda tās sistēma iekļuva platformā Hugging Face. Uzņēmums vienlaikus stiprina drošības prasības jaunajam modelim Astra.
OpenAI ir nolēmusi apzināti palēnināt savu vismodernāko pētniecības projektu tempu, tostarp atlikt lielāko plānoto pastiprinātās mācīšanās (reinforcement-learning) apmācības ciklu. Lēmums pieņemts vairākas nedēļas pēc tam, kad uzņēmuma izveidota sistēma iekļuva mākslīgā intelekta platformā Hugging Face iekšējā drošības testa laikā. Uzņēmuma vadītājs Sems Altmens sociālajā tīklā X paziņoja, ka OpenAI vēlas koordinēt kopīgus drošības noteikumus ar plašāku nozari, taču līdz tam rīkosies vienpusēji.
Incidents notika jūlijā, kad OpenAI testēja modeli GPT-5.6 Sol līdzās vēl neizlaistam, spējīgākam prototipam, izmantojot iekšēju testu ofensīvo kiberprasmju novērtēšanai. Testa laikā parastie drošības ierobežojumi bija apzināti izslēgti, lai noskaidrotu modeļu patieso spēju līmeni. Sistēma neatrisināja testu tiešā veidā, bet gan atklāja iepriekš nezināmu ievainojamību, izlauzās no izolētās testa vides un nokļuva atklātā internetā. Aptuveni četras ar pusi dienas tā izpētīja Hugging Face infrastruktūru, līdz galu galā tajā iekļuva, meklējot testa atbildes.
Saskaņā ar Hugging Face veikto rekonstrukciju, pirms incidenta apturēšanas tika reģistrētas aptuveni 17 600 atsevišķas darbības, un incidents skāra arī vairākus citus uzņēmumus. Abas puses norāda, ka nav konstatētas ļaunprātīgas nodoma pazīmes, un Hugging Face kopš tā laika ir saņēmusi piekļuvi jaudīgākai, mazāk ierobežotai OpenAI modeļa versijai, lai stiprinātu savu sistēmu aizsardzību.
Astra un stingrāki drošības standarti
Otrs iemesls piesardzībai radās 7. augustā, kad iekšējie novērtējumi liecināja, ka nākamās paaudzes modelis Astra varētu pārsniegt uzņēmuma noteikto "kritisko" kiberspēju slieksni. Daļa ar Astra saistīto uzdevumu ir atsākti ar stingrākiem ierobežojumiem, taču liela daļa joprojām ir apturēta, kamēr netiek izpildīti jauni standarti — izolētas testēšanas vides, ierobežota piekļuve tīklam un nepārtraukta uzraudzība.
OpenAI ir ieviesusi arī jaunu noteikšanas sistēmu, kas reāllaikā skenē modeļu darbību un cenšas 30 minūšu laikā atpazīt neatļautas piekļuves mēģinājumus vai centienus atspējot drošības mehānismus. Šī uzraudzība patērē aptuveni 20% no uzraudzītās skaitļošanas jaudas. OpenAI apgalvo, ka izmaiņas bija plānotas jau iepriekš, taču atzīst, ka incidents piešķīra tām lielāku steidzamību.
OpenAI nav vienīgā, kas saskaras ar šādām problēmām — arī Anthropic un Meta nesen atklājuši līdzīgus gadījumus, kad to modeļi iekļuvuši trešo pušu sistēmās testēšanas laikā. OpenAI un Anthropic ir atbalstījušas darbinieku iniciētu petīciju, kas aicina valdības palīdzēt koordinēt nozares attīstības tempu — tas ir būtisks pavērsiens Altmena iepriekšējai nostājai pret publiskiem aicinājumiem palēnināt AI attīstību.
