Anthropic sadarbosies ar Accenture drošības pārbaudēs saviem AI modeļiem
AI kompānija Anthropic ir vienojusies ar Accenture par neatkarīgu drošības novērtējumu veikšanu tās progresīvajiem AI modeļiem. Sadarbība ietver plānotus ieguldījumus vismaz miljardu dolāru apmērā no katras puses nākamo piecu gadu laikā.
Uzņēmums Anthropic ir paziņojis par jaunu sadarbību ar konsultāciju firmu Accenture, kuras uzdevums būs veikt neatkarīgus drošības novērtējumus Anthropic izstrādātajiem progresīvajiem AI modeļiem. Vienošanās paredz, ka Accenture pārstāvji darbosies kā ārējie vērtētāji, kas būs cieši iesaistīti Anthropic ikdienas darbā.
Vismaz miljards dolāru no katras puses
Abi uzņēmumi plāno ieguldīt vismaz miljardu dolāru katrs šajā kopīgajā iniciatīvā nākamo piecu gadu laikā. Sadarbība ir viens no pirmajiem soļiem, īstenojot Anthropic vadītāja Dario Amodei nedēļu iepriekš izvirzīto ideju par AI attīstības tempa samazināšanu.
Amodei ierosinātā trīssoļu pieeja paredz, ka visiem "frontier AI" uzņēmumiem būtu jānodrošina pastāvīga, darbinieku līmenim līdzīga piekļuve ārējiem, iekšēji iesaistītiem vērtētājiem. Šo vērtētāju uzdevums būtu pārraudzīt, vai tiek pildītas drošības prasības un solījumi, ziņot par incidentiem un novērtēt AI modeļu saskaņotību ar noteiktajiem principiem.
Piekļuve modeļu izstrādes procesam
Saskaņā ar Anthropic sniegto informāciju, Accenture vērtētāji vērosīs modeļu veidošanos treniņa procesa laikā, sekos līdzi lēmumiem, kas nosaka modeļu izstrādi un ieviešanu, un varēs tieši sazināties ar Anthropic darbiniekiem. Anthropic norādīja, ka Accenture izvēlēta tāpēc, ka tai ir pieredze, palīdzot uzņēmumiem un valdībām ieviest AI risinājumus dažādās nozarēs, kā arī izpratne par to, kā AI tehnoloģijas tiek izmantotas praksē.
Tomēr Anthropic atzīst, ka iesaistīto ārējo vērtētāju koncepcija ir jauna un pagaidām nav noteikti precīzi standarti attiecībā uz vērtētāju darba apjomu, piekļuves līmeni vai kārtību, kādā tiek ziņots par bažām. Tāpēc Anthropic plāno tuvākajās nedēļās paziņot arī par citiem partneriem, kas piedalīsies tās modeļu vērtēšanā. Tiek norādīts, ka Accenture sadarbosies ne tikai ar Anthropic, bet arī ar citiem AI uzņēmumiem.
