Anthropic pētnieki brīdina par AI riskiem, Musks sauc satraukumu par „psiop”
Vairāki Anthropic darbinieki publiski pauduši bažas, ka uzņēmuma veidotā AI tehnoloģija varētu apdraudēt cilvēci jau tuvāko desmit gadu laikā. Elons Musks un citi šīs bažas nodēvējuši par sagatavotu kampaņu jeb „psiop”.
Diena pēc tam, kad bijušais Anthropic pētnieks Jēkabs Koksons paziņoja par savu aiziešanu no uzņēmuma, brīdinot, ka ne Anthropic, ne konkurents OpenAI neveido mākslīgo intelektu atbildīgi, viņa paziņojumam publiski pievienojušies vairāki citi uzņēmuma darbinieki.
Koksons trešdien rakstīja, ka abi uzņēmumi „riskē ar mūsu dzīvībām”. Viņa izteikumi izraisīja plašu rezonansi, un vairāki Anthropic pētnieki atzina, ka daudzi kolēģi domā līdzīgi, taču publiski par to nerunā.
Anna Vanga, kas Anthropic strādā ar vispārējā mākslīgā intelekta drošību un iepriekš strādājusi Google DeepMind, norādīja, ka daudzi uzņēmumā vēlas palēnināt attīstības tempu, lai izstrādātu plānu risku mazināšanai. Viņa uzsvēra, ka pagaidām nav zinātniski pamatota plāna, kā tikt galā ar riskiem, ko rada AI sistēmas, kuras spēj sevi rekursīvi pilnveidot.
Cits darbinieks, Dreiks Tomass, pauda cieņu Koksona lēmumam un atzina, ka process notiek pārāk strauji, lai gūtu pietiekamu pārliecību par drošību pirms iespējamas mākslīgā superintelekta rašanās.
Musks runā par sazvērestību
Elons Musks internetā vietnē X reaģēja skeptiski, saucot notikušo par „iestudējumu”. Koksons viņam atbildēja ar selfiju, apliecinot, ka viņa bažas ir patiesas. Musks un vairāki konservatīvi noskaņoti komentētāji, tostarp pētnieks Pārkers Teiers, izteica teoriju, ka notikušais varētu būt sagatavota kampaņa, lai veicinātu AI regulējumu. Šo viedokli publiski atbalstīja arī miljardieris Bils Akmens.
Citi Anthropic darbinieki, tostarp drošības pētnieks Semjuels Markss un komandas vadītājs Evans Hjūbindžers, apstiprināja, ka nopietni uztver iespēju, ka AI varētu izraisīt cilvēces iznīcību, un lēš šo varbūtību tuvāko desmit gadu laikā virs 10 procentiem.
Zinātnieks Gerijs Markuss gan pauda šaubas par apokaliptisku scenāriju, tā vietā brīdinot par tuvākiem draudiem — AI radītiem patogēniem, dezinformācijas izraisītiem konfliktiem un uzbrukumiem kritiskajai infrastruktūrai. Tajā pašā dienā Anthropic publiskoja ziņojumu par to, kā uzņēmums atklājis un apturējis mēģinājumu izmantot tā AI modeļus bioloģiskā ieroča izstrādei.
