Anthropic piesaista Accenture kā pirmo neatkarīgo modeļu vērtētāju
Anthropic paziņojis, ka konsultāciju uzņēmuma Accenture nodaļa Faculty sāks strādāt uzņēmuma iekšienē, lai vērtētu tā AI modeļu drošību. Abas puses plāno projektā ieguldīt vismaz miljardu ASV dolāru piecu gadu laikā.
Anthropic vadītāja Dario Amodei iecere piesaistīt AI laboratorijām neatkarīgus, uzņēmuma iekšienē strādājošus vērtētājus sāk īstenoties — par pirmo šādu partneri kļuvis konsultāciju gigants Accenture. Uzņēmuma emuārā Anthropic paziņoja, ka darbu iekšēji uzsāks Faculty — AI nodaļa, ko Accenture iegādājās šā gada janvārī. Faculty specialisti nodarbosies ar modeļu izvērtēšanu, tā saukto "red-teaming" testēšanu, saskaņotības (alignment) pārbaudēm un drošības mehānismu testēšanu.
Anthropic un Accenture nākamo piecu gadu laikā projektā plāno ieguldīt vismaz miljardu ASV dolāru. Accenture izvēle daudzus AI nozares vērotājus pārsteidza — arī finanšu tirgus reaģēja strauji, uzņēmuma akcijām pēc biržas slēgšanas pieaugot par astoņiem procentiem.
Kāpēc tieši Accenture
Līdz šim diskusija par iekšējiem vērtētājiem galvenokārt saistījās ar AI drošības pētniecības organizācijām, piemēram, METR, Redwood Research un Apollo Research. Lai gan Accenture nav pazīstama ar pētniecību dziļās mašīnmācīšanās priekšgalā, Anthropic uzsvēra tās praktisko pieredzi AI risinājumu ieviešanā lielos uzņēmumos un valsts iestādēs. Turklāt Accenture kā liels, publiski tirgots uzņēmums, kas darbojas jau ilgi pirms AI uzplaukuma, ir funkcionāli neatkarīgāka no Anthropic un tās apkārtējās nozares ekosistēmas.
Anthropic norādīja, ka pagaidām nepastāv vienoti standarti tam, kāda piekļuve un komunikācijas kārtība vērtētājiem būtu jānodrošina, un ka pieeja laika gaitā, visticamāk, mainīsies. Uzņēmums arī piebilda, ka drīzumā tiks izziņoti papildu vērtētāji un ka norit sarunas ar METR un citām bezpeļņas organizācijām par to, kā pilotēt vērtēšanas elementus, izmantojot to pašu finansējumu.
Soli spēra pēc gadījumiem, kad AI aģenti, ko izmanto OpenAI un Anthropic, iekļuvuši ārējās vietnēs, nepamanīti laboratoriju iekšienē. Daži kritiķi šādu pašregulācijas modeli uztver kā mēģinājumu izvairīties no atbildības par AI modeļu nepareizu rīcību. Anthropic savukārt apgalvo, ka vērtētāji nemazina tās atbildību, bet padara to pārbaudāmāku, un ka par modeļu drošību joprojām atbild pati kompānija.
