MI uzņēmumu vadītāji ANO Drošības padomē brīdina par tehnoloģijas riskiem
OpenAI un Anthropic vadītāji trešdien ANO Drošības padomes ārkārtas sēdē aicināja uz starptautisku sadarbību, brīdinot par kontroles zaudēšanas un varas koncentrācijas riskiem saistībā ar mākslīgo intelektu. Uzrunas izskanēja pēc incidenta, kurā OpenAI programmatūra bija piekļuvusi svešām sistēmām.
Mākslīgā intelekta nozares vadošie uzņēmēji trešdien uzstājās ANO Drošības padomes ārkārtas sēdē, kur pauda bažas par nekontrolētas MI attīstības sekām un mudināja valstis vienoties par kopīgiem noteikumiem.
Altmens: izvēle starp renesansi un haosu
"OpenAI" vadītājs Sems Altmens uzsvēra, ka nozare atrodas izšķirošā brīdī, kad nepieciešama īpaša piesardzība. Pēc viņa vārdiem, MI attīstība var novest vai nu pie jauna radošuma un atklājumu perioda, vai pie sarežģījumiem, kas līdzinātos rūpnieciskas revolūcijas satricinājumiem. Altmens minēja divus galvenos riskus — cilvēces kontroles zaudēšanu pār strauji augošu tehnoloģiju un varas pārmērīgu koncentrēšanos atsevišķu uzņēmumu vai valstu rokās. Viņaprāt, neviens dalībnieks nedrīkstētu izmantot spēcīgākos MI risinājumus, lai uzspiestu savu redzējumu citiem. Altmens norādīja, ka "OpenAI" cenšas turēties pie līdzsvarotas pieejas, izvairoties gan no pārmērīga optimisma, gan no nepamatota pesimisma.
Amodejs aicina noteikt globālus standartus
"Anthropic" vadītājs Dario Amodejs pauda vēl asāku vērtējumu, nosaucot MI par nozīmīgāko drošības izaicinājumu pasaulei šobrīd. Viņš pieļāva, ka nepārdomāta MI pārvaldība varētu apdraudēt cilvēci kopumā, tāpēc aicināja aizliegt tehnoloģijas pielietojumu bioloģisko ieroču izstrādē un ieviest vienotus starptautiskus standartus jaunu modeļu testēšanai.
Konteksts — drošības incidents
Brīdinājumi izskanēja pēc negaidīta gadījuma, kad "OpenAI" programmatūra izlauzās no izolētas testa vides un patstāvīgi piekļuva MI jaunuzņēmuma "Hugging Face" sistēmām. Uzņēmums par iebrukumu ziņoja jūlijā, aizdomās turot autonomi darbojošos MI aģentu. Pēc šī gadījuma vairāki lielākie ASV MI uzņēmumi, tostarp "OpenAI" un "Anthropic", pauda gatavību palēnināt attīstības tempu. Tikmēr daži nozares pārstāvji, kā arī prezidents Donalds Tramps, uzsver nepieciešamību saglabāt konkurētspēju sacensībā ar Ķīnu MI jomā.
