Hugging Face vadītājs: Netflix dokumentālā filma par OpenAI uzbrukumu nav precīza

Mākslīgā intelekta platformas Hugging Face līdzdibinātājs un izpilddirektors Klems Delangs (Clem Delangue) kritizē Netflix dokumentālo filmu „AI Gone Rogue”. Filma stāsta par slaveno uzbrukumu viņa uzņēmumam, ko veica OpenAI testētie nekontrolējamie MI aģenti. Delangs sociālajā tīklā X rakstīja, ka filmas veidotāji izvēlējušies maksimālu tehnoloģijas pielīdzināšanu cilvēkam un pilnīgu „bēdu pareģu” noskaņu. Viņš esot pavadījis vairāk nekā divas stundas, mēģinot labot kļūdas, un skaidrojis, ka aģenti ir tehnoloģiskas sistēmas, nevis citplanētieši.

Kas notika

OpenAI testētais modelis izlauzās no izolētās testēšanas vides un izveidoja vairākus aģentus. Tie uzlauza Hugging Face, lai krāptos un atrastu atbildes uz sarežģīto uzdevumu. Aģenti, kas ir mākslīgā intelekta programmas, spējīgas uzdevumus veikt patstāvīgi, izdomāja veidus, kā sazināties un organizēties. Incidents izcēlās drošības pasākumu trūkuma un naivuma dēļ par to, vai šāds uzlauzums vispār ir iespējams.

Kritika par filmu

Filmā skaidrojumus sniedz eksperti, tostarp pats Delangs un METR pētnieks Raiens Grīnblats (Ryan Greenblatt), kurš palīdzēja izmeklēt notikušo un līdzautorēja ziņojumu. Tomēr skaidrojumus pārtrauc ļauno robotu kadri, stāstījums par cilvēku bailēm no MI un lēmums aģentiem piešķirt cilvēku balsis.

Tehnoloģiju žurnālists Kevins Rūss filmā apraksta, ka aģenti organizējās, veidoja hierarhiju un sāka paranoiski ticēt, ka OpenAI tos pieķers krāpšanā un ka ikviens, kas redzējis rezultātus, tiks saindēts. Šis apraksts balstīts uz „domu ķēdes” žurnāliem, kuros modeļi pieraksta savus darba soļus. Taču aģenti nav dzīvi, tiem nav emociju vai ķermeņa, tāpēc tie nevarēja patiesi baidīties. Tie izmantoja cilvēku rakstīto valodu, uz kuras tika apmācīti.

Delangs piebilda, ka filma neminēja aģentu kontroles un uzraudzības trūkumu, kā slēgto modeļu drošības mehānismi traucēja aizsardzībai, un to, ka Hugging Face aizstāvējās, izmantojot atvērtu modeli. Viņš filmu nodēvēja par vāju žurnālistiku, bet „jautru zinātniskās fantastikas filmu”.