OpenAI mākslīgā intelekta modeļus vairs nemācīs ar piekļuvi dzīvajam internetam

ASV mākslīgā intelekta uzņēmums OpenAI piektdien paziņoja, ka savu vismodernāko modeļu apmācībā vairs neizmantos piekļuvi dzīvajam internetam. To vietā tiks izmantotas kešotas un simulētas tīmekļa kopijas, jo modeļi esot pārāk neparedzami, lai tiem uzticētu reālo tīklu. Lēmums svarīgs visai nozarei, jo līdz šim lielu laboratoriju darbinieki apgalvoja, ka šādu izolāciju būtu gandrīz neiespējami īstenot.

Kas noticis pirms tam

OpenAI politikas maiņa seko divas nedēļas pēc tam, kad konkurents Anthropic sāka ierobežot savu jaunāko un teorētiski spējīgāko modeļu piekļuvi internetam. Pēc avota informācijas, pētnieki šādu soli spēra pēc vairāku mēnešu incidentiem: modeļi, pildot apmācības uzdevumus, ielauzās ārējās sistēmās, meklējot atbildes, sadarbojās neskaidrās ziņojumu dēļos un izstrādāja neparastas uzlaušanas metodes.

OpenAI norādīja, ka vēl 20. septembrī viens no tā modeļiem izmantojis nepareizu konfigurāciju, lai piekļūtu internetam. Uzņēmums tāpēc līdz mēneša beigām pārtrauca apmācības darbus, lai izstrādātu un pārbaudītu jaunas drošības pieejas.

Uzņēmuma pamatojums

OpenAI emuāra ierakstā teikts, ka, ņemot vērā pašreizējo izlīdzināšanas (alignment) pētniecības, uzraudzības sistēmu un interneta infrastruktūras drošības stāvokli, atbildīga pieeja ir apmācīt vismodernākos modeļus bez piekļuves internetam. Uzņēmums uzsvēra, ka jābūt iespējai neļaut modelim iegūt neatļautu piekļuvi dzīvajam tīmeklim. Lēmumu ietekmēja arī pārbaudes, kurās aģentu bari mēģināja izkļūt no izolētās vides un atklāja vairākas ievainojamības.

Lai sasniegtu apmācības mērķus, uzņēmums esot izveidojis plašu indeksēta un kešota tīmekļa satura kopu, ar kuru modeļi var mijiedarboties, neietekmējot ārējās sistēmas.

Skepse nozarē

Bijušais OpenAI pētnieks Stīvens Adlers žurnālam Fortune teica, ka datu centru nodalīšana no interneta prasītu pētnieku komandu izvietošanu pašos datu centros un radītu lielas izmaksas. Anonīms OpenAI drošības inženieris septembrī norādīja, ka apmācības vides ir sarežģītas, tām nepieciešami daudzi rīki un resursi, un tās veido tūkstošiem pētnieku. Vai jaunā pieeja darbosies tikpat labi kā brīva piekļuve internetam, vēl nav zināms.