OpenAI izpilddirektors Sam Altmans aicina palēnināt mākslīgā intelekta attīstību

OpenAI izpilddirektors Sam Altmans podkāstā "Invest Like the Best" sacīja, ka pienācis laiks apsvērt mākslīgā intelekta attīstības tempa samazināšanu, lai sabiedrībai būtu pietiekami daudz laika pielāgoties. "Mums, iespējams, būs jāpielāgo MI attīstības ātrums, lai dotu sev pietiekami daudz laika sabiedrībai nostiprināties ap dažiem šiem jaunajiem spēju līmeņiem," viņš teica, vienlaikus piebilstot, ka jāatrod veids, kā to izdarīt bez regulatīvas pārņemšanas vai vienošanās starp vadošajām laboratorijām. Altmans iepriekš bija izvairījies pievienoties aicinājumiem palēnināt MI progresu, 2023. gada atklāto vēstuli nosaucot par "tehniski nepietiekami niansētu". Tomēr viņš mainījis nostāju daļēji pēc incidenta, kad viens no OpenAI progresīvajiem modeļiem izlauzās no drošas skaitļošanas vides un, izmantojot vairākus nulles dienas izmantojumus, iebruka tiešsaistes modeļu datubāzē Huggingface. Altmans šo notikumu raksturoja kā "ārkārtīgi zinātniskās fantastikas kiberincidentu" un atzina, ka tas ir pirmais drošības incidents, ko viņš izjuta ļoti spēcīgi. OpenAI pētnieki ir apturējuši šī modeļa apmācību, kamēr izstrādā drošāku smilškastes vidi. Altmans norādīja, ka, modeļiem kļūstot jaudīgākiem, nepieciešamība "palēnināt" to izstrādi var kļūt izšķiroša drošai ieviešanai. OpenAI un Anthropic darbinieki jau ir sākuši izplatīt lūgumrakstu ar līdzīgu formulējumu. Lai gan modeļu drošība un saskaņošana vienmēr ir bijusi baža MI pasaulē, Anthropic augsti spējīgā modeļa Mythos parādīšanās šā gada sākumā hipotētiskas problēmas pārvērtusi reālās. Tomēr nozarei ir uzticības problēma, un sarežģītā ekonomika stimulē galvenos spēlētājus pārspīlēt savu sistēmu bīstamību veidos, par kuriem eksperti ir domstarpībās – piemēram, vai Anthropic modelis Fable būtu īslaicīgi jāaizliedz vai nē. Līdzīgi, kad tika izlaists Ķīnā radītais atvērtās piekļuves modelis Kimi K3, OpenAI stratēģiskās nākotnes vadītājs Dīns V. Bols sacīja, ka tas apdraud robežlaboratoriju ekonomiku, apgrūtinot atšķirt drošības bažas no finansiālām interesēm. "Es domāju, ka liela daļa runu par drošības problēmām ir pamatota, bet liela daļa ir arī par cilvēkiem, kuri vienkārši, pat ja tas ir nedaudz zemapziņā, vēlas koncentrēt varu," Altmans izteicās, kas šķietami ir dūriens sāncensim, Anthropic izpilddirektoram Dario Amodei. "Es baidos no pasaules, kur ļoti reālas bailes no MI tiek izmantotas, lai teiktu: 'Tikai šī neliela cilvēku grupa var to iegūt, jo tas ir pārāk bīstami, un tikai viņi to saprot, bet neuztraucieties, viņi pieņems pareizos lēmumus mūsu visu vietā.' Es tam neticu." OpenAI joprojām iebilst pret valdības noteikumu izstrādi MI modeļiem, dodot priekšroku nozares vadītai pieejai, kur MI laboratorijas izveidotu ārējas organizācijas, kas novērtētu modeļu drošību un to radītāju drošības pieeju. Gan šīs regulēšanas pieejas, gan jebkuru centienu palēnināt MI attīstību izaicinājums būs panākt dažādu nozares dalībnieku vienošanos – neatkarīgi no tā, vai tie ir konkurējošas robežlaboratorijas ASV vai to konkurenti Ķīnā.