OpenAI izceļ jaunu privātuma pieeju drošības uzraudzībā, konkurējot ar Anthropic
OpenAI paziņoja par jaunu pakalpojumu Private Safety Processing, kas ļauj atklāt iespējamu AI ļaunprātīgu izmantošanu, nesaglabājot klientu datus — pretstatā Anthropic nesenajai datu glabāšanas politikai.
OpenAI izsludinājusi jaunu, izvēlētiem klientiem paredzētu izmēģinājuma pakalpojumu ar nosaukumu Private Safety Processing. Tas ir automatizēts risinājums, kas seko līdzi iespējamai mākslīgā intelekta ļaunprātīgai izmantošanai, taču pilnībā nesaglabā lietotāju datus.
Šis solis vērtējams kā tieša atbilde uz Anthropic konkurenci — pagājušajā mēnesī uzņēmums izsludināja politiku, kas ļauj tam noteiktu, tā sauktu "aptverto" modeļu (tostarp visu Mythos klases modeļu) lietotāju sarunas glabāt līdz 30 dienām drošības analīzes nolūkos. Šī politika izraisījusi neapmierinātību daļā klientu, īpaši uzņēmumu vidū, kas strādā ar sensitīviem datiem un nevēlas, lai tos glabātu vai pārbaudītu AI izstrādātājs.
Kā darbojas jaunā sistēma
OpenAI, tāpat kā vairums citu AI uzņēmumu, jau šobrīd izmanto tā saukto Zero Data Retention (ZDR) politiku — automatizēti aģenti pārbauda iespējamus pārkāpumus katras atsevišķas sesijas ietvaros, datus neuzglabājot. Private Safety Processing šo pieeju paplašina, ļaujot analizēt vairākas sarunas kopā, nevis tikai vienu sesiju atsevišķi.
Tas palīdz atklāt gadījumus, kad ļaunprātīgs lietotājs — piemēram, mēģinot izveidot ļaunprogrammatūru kiberuzbrukumam — apzināti sadala savus pieprasījumus vairākās sesijās, lai izvairītos no atklāšanas. Ja sistēma konstatē aizdomīgu darbību, tā nosūta OpenAI šauri definētu signālu, uz kura pamata uzņēmums lemj, vai nepieciešama rīcība. Šādā gadījumā OpenAI sazinās ar klientu, kurš pēc saviem ieskatiem var izlemt dalīties ar papildu datiem.
Anthropic savukārt norāda, ka cilvēku veikta datu pārbaude notiek tikai caur kontrolētu piekļuves ceļu, iesaistot nelielu apstiprinātu darbinieku loku, un katra šāda pārbaude tiek fiksēta neizmaināmā žurnālā.
Konkurence starp abiem uzņēmumiem šobrīd ir saasinājusies — ziņots, ka OpenAI otrā ceturkšņa izaugsme bijusi lēnāka nekā Anthropic, kura gada ieņēmumu apjoms sasniedzis 65 miljardus dolāru. Abi uzņēmumi strādā pie iespējamas biržas kotēšanas.
