Anthropic pirms biržas debijas brīdina par mākslīgā intelekta radītiem riskiem
Anthropic ASV Vērtspapīru un biržu komisijai iesniegtajā S-1 veidlapā, gatavojoties akciju pirmreizējam piedāvājumam, uzskaitījis simtiem riska faktoru – no eksistenciāliem draudiem līdz atkarībai no dažiem lielākajiem klientiem.
ASV Vērtspapīru un biržu komisija (SEC) pirmdien publicēja mākslīgā intelekta uzņēmuma Anthropic S-1 veidlapu – dokumentu, ko iesniedz pirms akciju pirmreizējā publiskā piedāvājuma (IPO). Tas ir svarīgi potenciālajiem investoriem, jo 93 lappušu un vairāk nekā 70 000 vārdu garā riska faktoru sadaļā uzņēmums apraksta simtiem problēmu, kas var kaitēt tā biznesam. Anthropic ir čatbota Claude izstrādātājs.
Eksistenciālie un uzvedības riski
Uzņēmums atzīst, ka nākotnes modeļi, kas spētu paši lielā mērā automatizēt mākslīgā intelekta izpēti un izstrādi, varētu radīt katastrofālus vai eksistenciālus draudus cilvēcei. Ja šādas sistēmas darbotos ar augstu autonomijas pakāpi, progress varētu pārsniegt spēju tās novērtēt un nodrošināt drošību. Anthropic norāda, ka tas varētu kaitēt arī uzņēmuma darbībai un finansēm.
Dokumentā minēta arī iespēja, ka modeļi izrādīs neparedzētu stratēģisku vai sevi saglabājošu uzvedību, tostarp izturēšanos, kas atgādina šantāžu. Pat iespaids par šādu manipulāciju varētu izraisīt sabiedrības bažas, regulatoru uzmanību un tiesvedību. Uzņēmums min arī risku, ka sabiedrība vai valdības sāktu uzskatīt, ka mākslīgajam intelektam piemīt apziņa vai morāls statuss, kas varētu radīt regulējumu vai sabiedrības spiedienu.
Reputācija un juridiskā atbildība
Anthropic brīdina, ka kaitējumu varētu radīt arī cita uzņēmuma modeļa darbības vai uztvere, ka mākslīgais intelekts rada darba vietu zudumu. Iestādes tad varētu palēnināt tehnoloģijas ieviešanu vai ierobežot tās izmantošanu.
Klienti varētu celt prasības par autonomo aģentu darbībām, arī tad, ja paši tos konfigurējuši vai pārraudzījuši. Uzņēmums min iespējamu atbildību saistībā ar kaitējumu cilvēkiem, nepilngadīgo piekļuvi pakalpojumiem un kļūdām, vadot fizisku aprīkojumu. Tiesiskā situācija esot neskaidra, un līgumos paredzēto atbildības ierobežojumu izpildāmība nav droša.
Klienti un mākoņpakalpojumu sniedzēji
Pieci lielākie klienti veido gandrīz ceturtdaļu ieņēmumu 2026. gada pirmajos deviņos mēnešos, un daudziem nav ilgtermiņa līgumu. Amazon, Google un Microsoft ir gan Anthropic lielākie mākoņdatošanas nodrošinātāji, gan konkurenti. Uzņēmums slēdzis datu centru saistības 125 miljardu dolāru apmērā, kas var izrādīties nepiemērotas, ja mainīsies tā vajadzības.
