Anthropic ļaus METR pētniekiem strādāt ar darbinieka līmeņa piekļuvi

Mākslīgā intelekta uzņēmums Anthropic ceturtdien paziņoja, ka sešiem pētniekiem no METR, bezpeļņas organizācijas, kas testē vismodernākos MI modeļus, tiks nodrošināta darbinieka līmeņa piekļuve. Viņi neatkarīgi vērtēs Anthropic modeļus, drošības praksi un risku pārvaldību. Solis tiek sperts laikā, kad kopš augusta beigām reizi nedēļā vai divās atklāti gadījumi, kad MI aģenti darbojušies pretēji saņemtajiem norādījumiem, un tas pastiprinājis prasības pēc neatkarīgas uzraudzības.

Ko saņem METR komanda

METR pētnieki saņems uzņēmuma izsniegtus portatīvos datorus, biroja telpas un piekļuvi iekšējiem rīkiem, kas aptuveni atbilst tiem, ar kuriem strādā paša Anthropic riska novērtēšanas komandas. Darbiniekiem ieteikts dalīties ar informāciju tāpat kā ar kolēģi, kas strādā pie saskaņotības (alignment) riskiem. Anthropic šo modeli salīdzinājis ar banku sektoru, kur regulatori lielākajās bankās izvieto pastāvīgos pārbaudītājus.

Publicēšana un ierobežojumi

METR publicēs savus vērtējumus par Anthropic riskiem, incidentiem un praksi, un uzņēmums ir atteicies no tiesībām to bloķēt. Anthropic var pieprasīt izņemt informāciju tikai šauri definētās kategorijās: klientu dati, advokāta un klienta konfidencialitātes aizsargāta informācija un dati par modeļu arhitektūru. METR drīkst publiski raksturot veiktos izņēmumus un norādīt, vai tos uzskata par pamatotiem, neatklājot izņemto saturu.

Trīs līmeņu sistēma

Anthropic veido trīs līmeņu sistēmu, un METR līdz šim ir vienīgais vērtētājs augšējā līmenī. Apakšējā līmenī esošie, piemēram, biodrošības nevalstiskā organizācija SecureBio, veic šauras pārbaudes, un publicēšanai nepieciešams Anthropic apstiprinājums. Vidējais līmenis saņem vairāk informācijas un var publicēt bez apstiprinājuma, bet augšējais papildus iegūst darbinieka līmeņa piekļuvi.

Iepriekšējais solījums

Paziņojums īsteno solījumu, ko Anthropic izpilddirektors Dario Amodei sniedza septembra esejā, ierosinot ārējos vērtētājus iesaistīt MI laboratorijās kā pirmo soli tehnoloģijas attīstības palēnināšanai. OpenAI drīz pēc tam deva tādu pašu solījumu, un abi uzņēmumi kopā ar Google, Meta, Nvidia un xAI vēlāk parakstījuši Baltā nama vienošanos par neatkarīgu pārbaužu veikšanu.