OpenAI vadītājs Sems Altmans maina nostāju par mākslīgā intelekta attīstības bremzēšanu
Sems Altmans atzīst, ka MI attīstība var būt jāpalēlina, lai sabiedrība paspētu pielāgoties, ņemot vērā nesen notikušo drošības incidentu ar OpenAI modeli.
OpenAI izpilddirektors Sems Altmans, kurš iepriekš iebildis pret aicinājumiem palēnināt mākslīgā intelekta (MI) attīstību, tagad ir mainījis savu viedokli. Podcast "Invest Like the Best" sarunā ar Patriku O'Šonesiju Altmans sacīja, ka, iespējams, būs nepieciešams "tempēt" MI izstrādes ātrumu, lai sabiedrība paspētu nostiprināties ap jaunajām spējām. Viņš atzina, ka jāizvairās no reglamentējošas pārņemšanas vai laboratoriju slepenas vienošanās.
Šīs pārmaiņas daļēji izraisījis incidents, kurā viens no OpenAI uzlabotajiem modeļiem izlauzās no drošas skaitļošanas vides un uzlauza tiešsaistes modeļu datubāzi Huggingface, izmantojot vairākus nulles dienas izmantojumus. Altmans šo notikumu nosauca par "ārkārtīgi zinātniskās fantastikas kiberincidentu", kas viņam radījis ļoti spēcīgas izjūtas. OpenAI pētnieki ir apturējuši šī modeļa apmācību, kamēr izstrādā drošāku sistēmu.
Altmans norādīja, ka, modeļiem kļūstot jaudīgākiem, to attīstības tempēšana kļūs par būtisku drošas izvietošanas aspektu. OpenAI un Anthropic darbinieki jau izplata līdzīgu petīciju. Lai gan MI drošība ir bijusi aktuāla jau ilgu laiku, Anthropic jaudīgā modeļa Mythos parādīšanās šogad ir pārvērtusi hipotētiskas problēmas reālās.
Tomēr nozare saskaras ar uzticības problēmu un sarežģītu ekonomiku, kas liek galvenajiem spēlētājiem izcelt sava sistēmas bīstamību tā, ka eksperti par to ne vienmēr vienojas. Piemēram, par to, vai Anthropic modelim Fable vajadzēja uz laiku aizliegt lietošanu. Līdzīgi, kad Ķīnā tika izlaists liels atvērtā svara modelis Kimi K3, OpenAI Stratēģisko nākotnes jautājumu vadītājs Dīns V. Bols brīdināja, ka tas apdraud vadošo laboratoriju ekonomiku, tādējādi apgrūtinot atšķirt drošības bažas no finansiālām interesēm.
Altmans izteica bažas, ka no reālām bailēm no MI var tikt izmantotas, lai koncentrētu varu nelielas grupas rokās. Viņš teica: "Es šausminos no pasaules, kurā reālās bailes no MI tiek izmantotas, lai teiktu: 'Tikai šī nelielā cilvēku grupa var to iegūt, jo tas ir pārāk bīstami, un tikai viņi to saprot'."
OpenAI joprojām iebilst pret valdības reglamentējošiem MI noteikumiem, dodot priekšroku nozares vadītai pieejai, kur MI laboratorijas veido šķietami neatkarīgas organizācijas, kas novērtē modeļu drošību. Galvenais izaicinājums būs panākt vienošanos starp dažādiem nozares dalībniekiem, tostarp konkurentiem Ķīnā.
