Baseten un Base Labs kopā ar Hugging Face un Goodfire veido drošības standartu atvērtā svara AI modeļiem
Baseten pētniecības nodaļa Base Labs uzsākusi partnerību ar Hugging Face un Goodfire AI, lai izstrādātu drošības novērtēšanas un uzraudzības infrastruktūru atvērtā svara AI modeļiem. Iniciatīva nāk laikā, kad Hugging Face platformā jau ir vairāk nekā 6000 modeļu, no kuriem ar tā sauktās "abliterācijas" metodi noņemti drošības mehānismi.
Uzņēmums Baseten trešdien paziņoja par jaunu drošības infrastruktūras iniciatīvu, ko īstenos tā šogad dibinātā pētniecības nodaļa Base Labs. Projektā iesaistīti divi partneri — modeļu koplietošanas platforma Hugging Face un interpretējamības uzņēmums Goodfire AI.
Partnerības mērķis ir izveidot rīkus un metodes, kas ļautu novērtēt un pastāvīgi uzraudzīt atvērtā svara AI modeļu drošību. Base Labs plāno šīs metodes publiskot un veidot tā, lai drošība būtu iebūvēta modeļu apmācības un izvietošanas procesā, nevis pievienota pēc fakta.
Konteksts: abliterācijas problēma
Paziņojums nāk brīdī, kad nozarē notiek diskusijas par atvērtā svara modeļu drošības riskiem. Šos modeļus var padarīt bīstamus, izmantojot metodi, kas pazīstama kā "abliterācija" — tā ļauj noņemt modelī iebūvētos drošības ierobežojumus. Pēc uzņēmuma norādītā, Hugging Face platformā šobrīd ir vairāk nekā 6000 šādā veidā modificētu modeļu.
Baseten sociālajā platformā X pauda uzskatu, ka atvērtība ir priekšrocība AI drošībai, jo tā nodrošina lielāku redzamību modeļu darbībā un vairāk iespēju drošības pētījumus pārvērst konkrētos, pārredzamos kontroles mehānismos — atšķirībā no slēgtā koda risinājumiem.
Uzņēmumi pagaidām nav atklājuši tehniskās detaļas par to, kā partnerība praktiski darbosies. Goodfire, atbildot uz Baseten paziņojumu, norādīja, ka drošībai jābūt iebūvētai atvērtajos modeļos un ka to jānodrošina tiem, kas šos modeļus piedāvā izmantošanai — norāde, ka tieši Goodfire, kas specializējas AI modeļu "melnās kastes" atklāšanā, varētu uzņemties šo lomu.
Uzņēmumu fons
Baseten, kas nodrošina AI modeļu darbināšanas infrastruktūru, jūnijā piesaistīja 1,5 miljardu dolāru Series F investīciju kārtā, sasniedzot 13 miljardu dolāru vērtējumu. Goodfire AI šogad piesaistījis 150 miljonu dolāru Series B investīciju kārtu, ko vadījis B Capital, lai attīstītu savu modeļu interpretējamības platformu.
Baseten aicina plašāku programmatūras attīstītāju kopienu iesaistīties un dot ieguldījumu jaunā drošības standarta izveidē.
