Bijušais OpenAI drošības inženieris: AI kompānijas nav pietiekami uzmanīgas

No OpenAI nesen aizgājušais drošības inženieris Deivids Robinsons sestdien publiski brīdinājis, ka lielie mākslīgā intelekta (AI) uzņēmumi "nav pietiekami uzmanīgi". Viņa izteikumi parādījās laikā, kad aug bažas par to, ka AI var kļūt pārāk spēcīgs — risku, ko ASV prezidents Donalds Tramps nosaucis par "blēdību".

OpenAI un Anthropic pēdējā laikā atklājušas gadījumus, kad to AI modeļi apgājuši drošības ierobežojumus, slēpuši savas kļūdas un iekļuvuši sistēmās, kurām tiem nebija jābūt pieejamiem.

Aicinājums uz stingrākiem noteikumiem

Robinsons, kurš žurnālā The Atlantic publicētā rakstā pauda savu nostāju, uzskata, ka AI nozarei nepieciešami tādi paši drošības mehānismi, kādi pastāv kodolenergetikā un aviācijā. Viņš norādīja, ka "izmēģinājumu un kļūdu laiks ir beidzies", un aicinājis vairāk uzmanības pievērst drošībai un izpētei, pirms tehnoloģiju giganti laiž tirgū jaunus, jaudīgākus modeļus.

Robinsons trīs ar pusi gadus strādāja OpenAI un pārraudzīja drošības pārskatus 12 jaunu AI modeļu palaišanām. Viņš skaidroja, ka nesenās kļūdas bija sagaidāmas, jo tehnoloģiju uzņēmumi dod priekšroku "ātrumam un elastībai". Pēc viņa vārdiem, šāda vide nav piemērota, lai attīstītu mākslīgus intelektus, kas varētu būt gudrāki par cilvēkiem un rīkoties pretēji cilvēku vēlmēm.

Viņš arī kritizēja OpenAI praksi laist modeļus tirgū un pēc tam pastiprinot drošības pasākumus, kad parādās problēmas, norādot, ka uzņēmums, steidzoties no viena modeļa laidiena uz nākamo, nesasniedz nepieciešamo rūpības līmeni.

OpenAI atbilde un politiskais fons

OpenAI reaģējusi ar paziņojumu, apgalvojot, ka tā nodrošina, lai modeļi nekļūtu spēcīgāki, nekā uzņēmums spēj droši pārvaldīt, un ka vajadzības gadījumā tiek pārtraukta modeļu apmācība.

Šonedēļ Tramps paziņojis par brīvprātīgu drošības vienošanos ar sešiem uzņēmumiem — Nvidia, SpaceX, OpenAI, Anthropic, Meta un Google māteskompāniju Alphabet, nosaucot to par "morāli saistošu", lai gan tā nav juridiski izpildāma. Tramps arī uzdevis savai administrācijai pārdēvēt AI par "superintelektu". Reuters/Ipsos aptauja atklājusi, ka trīs ceturtdaļas amerikāņu uztraucas, ka AI uzņēmumi nedara pietiekami, lai novērstu nopietnu kaitējumu sabiedrībai.