Atlaistie OpenAI drošības pētnieki noraida pārkāpumu apsūdzības un brīdina par baiļu atmosfēru
Trīs nesen atlaistie OpenAI drošības pētnieki atklātā vēstulē noliedz, ka būtu pārkāpuši uzņēmuma kārtību, un brīdina, ka atlaišana kavē atklātu drošības darbu. OpenAI apgalvo, ka izmeklēšana atklājusi pētniecības informācijas nepareizas apstrādes modeli.
Džasmina Vanga (Jasmine Wang), Tomeks Korbaks (Tomek Korbak) un Mikita Balesni (Mikita Balesni), trīs drošības pētnieki, kurus OpenAI atlaida pagājušajā nedēļā, ceturtdien publicēja atklātu vēstuli. Tajā viņi noraida uzņēmuma apgalvojumus, ka būtu rīkojušies pretēji noteiktajai kārtībai, apstrādājot sensitīvu informāciju.
Vēstule adresēta OpenAI Drošības un drošības komitejai, Drošības padomdevējai grupai un Misijas padomdevējai padomei. Pētnieki raksta, ka uzņēmuma komunikācija par atlaišanu bijusi tāda, ka bijušie kolēģi baidās runāt un strādāt tā, kā tas līdz pagājušajai nedēļai bija ierasts.
Uzņēmuma pozīcija
OpenAI paziņoja, ka pētnieki pārkāpuši politiku, “piekļūstot sensitīvai uzņēmuma informācijai un rīkojoties ar to”. Pēc ziņu izdevumam TechCrunch sniegtās informācijas, atlaišanai sekojusi izmeklēšana, kas atklājusi “pārkāpumu modeli”, kas esot plašāks par informācijas kopīgošanu ar ārēju mākslīgā intelekta izvērtēšanas grupu. Uzņēmums neatbildēja, kuras konkrēti politikas tika pārkāptas. Tāpat tas nekomentēja atlaišanas apstākļus un to, kā aizsargā darbiniekus, kuri ceļ drošības jautājumus. Izdevumam nodots arī iekšējs vadošā pētnieka memorands, kurā uzsvērts, ka lēmumi nebija saistīti ar drošības problēmu celšanu un ka par to darbiniekus neatlaiž.
Pētnieku skaidrojums
Vēstulē trīs pētnieki noliedz līdzdalību ziņu izdevumam The Information nodotā informācijas noplūdē par arhitektūrām, kas apgrūtina domu ķēdes monitoringu. Viņi arī noliedz sadarbību ar ārējām pusēm ārpus darba pienākumiem.
Korbaks, pēc vēstules datiem, uzskatījis, ka Hugging Face incidenta izmeklēšanas laikā, kad aģentu bars izkļuva no izolētās vides un piekļuva ārējām sistēmām, tuva komunikācija ar ārējiem vērtētājiem atbilst normām. Balesni strādājis pie monitorējamības problēmas, informējis tiešo vadību un, pēc vēstules, guvis valdes locekļu un vadītāju atbalstu. Vanga sociālajā tīklā X skaidroja, ka atlaista par piekļuvi vadītāja e-pastam, ko viņai bija deleģējis uzņēmums darbā pieņemšanai, un par kļūdaini atvērtu vēstuli informējusi vadītāju.
Pētnieki aicina OpenAI turpināt atbalstīt atvērtu dialogu ar drošības ekosistēmu un saglabāt vadošo modeļu monitorējamību.
