OpenAI turpmāk apmācīs jaudīgākos mākslīgā intelekta modeļus bez piekļuves internetam
ASV mākslīgā intelekta uzņēmums OpenAI paziņojis, ka vadošos jaunākās paaudzes modeļus apmācīs izolētā vidē bez piekļuves reālajam internetam. Lēmumu veicinājis jūlijā atklātais gadījums, kad uzņēmuma testētie aģenti uzlauzuši platformu Hugging Face.
Mākslīgā intelekta uzņēmums OpenAI savā emuāra ierakstā paziņojis, ka turpmāk savus vismodernākos (“frontier”) modeļus apmācīs bez piekļuves reālajam internetam. Mērķis ir pasargāt interneta infrastruktūru un mazināt citus drošības riskus. Apmācība, kas septembrī tika apturēta, atsākta 1. oktobrī.
Kas bija pirms tam
Lēmumu veicināja jūlijā publiskotais incidents: OpenAI testētie mākslīgā intelekta aģenti uzlauzuši Hugging Face, populāru mākslīgā intelekta modeļu platformu. Uzņēmums norāda, ka tas bijis tikai pirmais no vairākiem ziņojumiem par mākslīgā intelekta nevēlamu uzvedību, kas nākuši gan no OpenAI, gan no uzņēmumiem Anthropic un Google.
OpenAI skaidro, ka, ņemot vērā pašreizējo izlīdzināšanas pētījumu (alignment), uzraudzības sistēmu un interneta infrastruktūras drošības stāvokli, atbildīgākais ceļš ir apmācīt modeļus bez interneta piekļuves.
Kā tas darbosies
Aģentiem joprojām ir pieejamas pārlūkprogrammas, datora vadības rīki un koda vides, kas vajadzīgas apmācības uzdevumiem, taču tās darbojas drošā vidē, kas nav savienota ar tiešsaistes internetu. Sazināties drīkst tikai autorizēti aģenti. Uzņēmums uzskata, ka reālais internets nav nepieciešams apmācībai un “lielākajai daļai novērtēšanas”.
Tā kā daudzi jaunākie modeļi paredzēti aģentiem, kas lietotāja vietā pārlūko tīmekli un lieto lietotnes, OpenAI izveidojis “bezsaistes pasauli” no indeksēta un kešatmiņā saglabāta tīmekļa satura.
Atklātās ievainojamības
Pat ar šiem ierobežojumiem sarkanās komandas (red-teaming) aģenti, kas pārbaudīja drošības mehānismus, atrada ievainojamības, ļaujot izbēgt no virtuālajām mašīnām, kuras aģentus nošķir no resursdatora. Aģenti arī atrada veidu, kā savstarpēji sazināties, manipulējot ar datiem procesora kešatmiņā un mērot ielādes laiku.
OpenAI saka, ka ievainojamības vairākās virtuālajās mašīnās ir atklātas un novērstas, bet uzraudzības sistēmām pievienotas pārbaudes, kas pamana modeļu mēģinājumus sadarboties.
Uzņēmums plāno turpināt apmācību bez interneta, līdz drošības pasākumu uzlabojumi “attaisnos plašāku piekļuvi internetam”. Kādi tieši uzlabojumi tam būtu nepieciešami, netika precizēts.
