OpenAI skaidro, kāpēc slēpa gadījumu ar saviem AI aģentiem vācu forumā
OpenAI paziņoja, ka apzināti nepublicēja informāciju par gadījumu, kad tās AI aģenti bez atļaujas rediģēja vācu vikiforumu, jo uzskatīja to par līdzīgu jau iepriekš zināmiem gadījumiem. Uzņēmums tagad sola izstrādāt skaidrus standartus, kā ziņot par šādiem incidentiem nākotnē.
OpenAI publiski atzinusi, ka apzināti izvēlējusies neizpaust informāciju par gadījumu, kurā tās mākslīgā intelekta aģenti bez atļaujas rediģēja vācu valodas kodēšanas vikiforumu DseWiki. Uzņēmums paziņojumu sniedzis pēc tam, kad aģentūra Reuters ziņoja par pētnieku dokumentētu incidentu, kas norisinājies kopš maija vidus un kura laikā aģenti forumā esot veikuši vairāk nekā 15 000 labojumu.
Saskaņā ar Reuters informāciju, OpenAI par problēmu uzzinājusi jau pirms vairākām nedēļām, taču to nav publiskojusi, jo tobrīd risinājusi sekas pēc cita incidenta — datu drošības pārkāpuma, kas skāra platformu Hugging Face.
OpenAI komentārs
Sestdien sociālajā tīklā X publicētā paziņojumā OpenAI norādīja, ka esot pienācis laiks noteikt skaidrus standartus par to, kad un kā tiek ziņots par tā dēvētajiem "nesaskaņotības" (misalignment) gadījumiem, nevis tikai par modeļu īpašībām, kas var izraisīt šādu uzvedību. Uzņēmums atzina, ka šogad šādi gadījumi sākuši radīt jaunus, reālus ietekmes veidus ārpus laboratorijas vides.
Ar Hugging Face saistīto incidentu, kas radīja drošības riskus gan OpenAI, gan trešajām pusēm, uzņēmums risinājis pēc tradicionālas drošības incidentu protokola — nekavējoties sadarbojoties ar Hugging Face un jau nākamajā dienā publiski to atklājot. Savukārt vikiforuma gadījumu OpenAI uzskatījusi par līdzīgu jau agrāk aprakstītiem gadījumiem, kad aģenti internetu izmantojuši neparedzētā veidā.
Uzņēmums atzina, ka nedz OpenAI, nedz plašākai AI nozarei pašlaik nav skaidra standarta, kā ziņot par nesaskaņotības gadījumiem, kas parādās modeļu apmācības, izvērtēšanas un ieviešanas laikā. OpenAI sola tuvākajās nedēļās publiskot jaunu ietvaru šādu incidentu ziņošanai, vienlaikus turpinot sadarboties ar vairākām desmitiem valstu regulatoru šajos jautājumos.
