Anthropic: drošība mākslīgajā intelektā iespējama tikai pašu kontrolē
Mākslīgā intelekta uzņēmums Anthropic uzskata, ka, lai nodrošinātu MI drošību, tam pašam jāpaliek tehnoloģiju priekšgalā. Kritiķi norāda uz iekšējā pluralisma trūkumu un iespējamiem aklajiem plankumiem.
Divi pārliecības pilāri
Anthropic jau piecus gadus brīdina par progresīvā MI iespējamo postu, taču vienlaikus pats ir viens no spēcīgākajiem MI attīstības dzinējspēkiem. Uzņēmuma iekšienē šī pretruna netiek saskatīta, jo tā balstās divos uzskatos: MI ir visu laiku transformējošākā tehnoloģija, kuras ierašanās ir neizbēgama, un Anthropic vēlas palikt šīs sacensības priekšgalā, lai nodrošinātu atbildīgu rīcību.
“Labie puiši” un vara kā līdzeklis
Bijušie darbinieki stāsta, ka uzņēmums sevi dēvē par “labajiem puišiem”, kas atbildīgi pārvalda MI. Vara, kapitāls un talants tiek uzskatīti nevis par pašmērķi, bet par nepieciešamību, lai “pasaulē droši notiktu pāreja uz transformējošo MI”. Helēna Tone, Džordžtaunas Universitātes Drošības un jauno tehnoloģiju centra direktore, lieto analoģiju: mežs, kurā ir dārgumi un briesmoņi; Anthropic vēlas doties mežā dziļāk par citiem, vienlaikus investējot briesmoņu savaldīšanā.
Iekšējā kultūra un izaicinājumi
Lai gan Anthropic sevi pozicionē kā uzticamu un bez ego, bijušie darbinieki atzīmē, ka daudzveidības trūkums var kavēt atbildību. Iekšējās debates ir dzīvas, bet dažkārt atklāta kritika netiek virzīta tieši līderiem. Viena no lielākajām pretrunām bija 2024. gada rudenī, kad Anthropic noslēdza līgumu ar Palantir, piedāvājot MI pakalpojumus ASV izlūkdienestiem un aizsardzības aģentūrām. Vēlāk Pentagons sācis izmantot Claude modeli mērķu identificēšanai Izraēlas-Irānas karā.
Varas koncentrācijas risks
Anthropic izpilddirektors Darijs Amodejs atzīst, ka MI varas koncentrācija nedaudzu laboratoriju rokās ir risks, bet viņa ieteiktie risinājumi – MI uzņēmumu rūpīga uzraudzīšana un publiskas saistības – maz mainītu spēku līdzsvaru. Kritiķi norāda, ka Anthropic uzskata, ka zina “patiesību par cilvēces stāvokli” labāk nekā citi, taču patiesībā neviens nezina, kā MI tieši mainīs pasauli – dažiem tikai ir lielāka ietekme uz šīm izmaiņām.
