OpenAI izstrādā jaunu privātuma rīku, lai apsteigtu Anthropic konkurences cīņā
OpenAI paziņojusi par jaunu automatizētu drošības uzraudzības sistēmu, kas ļauj atklāt ļaunprātīgu AI izmantošanu, nesaglabājot klientu datus — pretstatā Anthropic nesenajai datu glabāšanas politikai.
OpenAI izziņojusi jaunu pakalpojumu ar nosaukumu Private Safety Processing, ko pagaidām testē ar izvēlētiem klientiem. Sistēma automātiski uzrauga iespējamu AI ļaunprātīgu izmantošanu, taču nesaglabā nevienu klienta datu vienību — tas atšķiras no konkurenta Anthropic pieejas.
Jūlijā Anthropic paziņoja par politiku, kas ļauj uzņēmumam glabāt lietotāju sarunas līdz 30 dienām attiecībā uz tā dēvētajiem "aptvertajiem modeļiem", tostarp visiem Mythos klases modeļiem. Politika tika ieviesta drošības nolūkos, taču izraisījusi neapmierinātību daļā uzņēmumu, kas apstrādā sensitīvus datus un nevēlas, lai tos glabātu vai pārbaudītu AI izstrādātājs.
Kā darbojas jaunā sistēma
Līdzīgi kā vairums citu AI kompāniju, arī OpenAI parasti ievēro tā saukto Zero Data Retention (ZDR) politiku, kad speciāli aģenti uzrauga iespējamus pārkāpumus katras sesijas ietvaros, nesaglabājot lietotāju datus. Jaunā Private Safety Processing tehnoloģija paplašina šo pieeju, ļaujot analizēt vairākas sarunas — nevis tikai vienu sesiju — lai atklātu shēmas, kad ļaunprātīgs lietotājs apzināti sadala pieprasījumus starp vairākām sesijām, lai izvairītos no atklāšanas.
Ja sistēma konstatē aizdomīgu aktivitāti, tā nosūta OpenAI šauri definētu signālu par konkrētu aktivitātes veidu, bez cilvēka veiktas sarunu pārskatīšanas. Balstoties uz šo signālu, OpenAI izlemj, vai nepieciešama rīcība — piemēram, sazināšanās ar klientu, kurš pēc saviem ieskatiem var izvēlēties dalīties ar datiem.
Savukārt Anthropic norāda, ka tās sistēmā cilvēku veikta datu pārskatīšana ir iespējama, taču to veic ierobežots skaits apstiprinātu darbinieku caur kontrolētu piekļuves ceļu, un katra pārskatīšanas sesija tiek reģistrēta neizmaināmā žurnālā.
Jaunumu OpenAI izziņojusi laikā, kad konkurence starp abiem uzņēmumiem saasinājusies — ziņots, ka OpenAI otrā ceturkšņa izaugsme bijusi lēnāka nekā Anthropic, kura ikgadējais ieņēmumu apjoms tagad sasniedz ap 65 miljardiem dolāru. Abi uzņēmumi strādā pie sākotnējā publiskā piedāvājuma iespējamības.
