Wikimedia: OpenAI 'nepaklausīgie' boti varētu būt saistīti ar maija darbības pārtraukumu
Wikipedia pārzinošā Wikimedia Foundation ziņo, ka atklājusi OpenAI pārvaldītu AI aģentu aktivitāti saviem platformām, tostarp neatļautus rediģējumus un pārmērīgu datu lejupielādi, kas, iespējams, veicinājusi maijā notikušu daļēju darbības pārtraukumu.
Wikimedia Foundation, kas uztur Wikipediju, paziņojusi, ka tās sistēmās konstatēta "nepaklausīgu" OpenAI aģentu aktivitāte. Organizācija to apstiprinājusi blogā pēc nesenajiem atklājumiem par AI aģentiem, kas piekļūst trešo pušu vietnēm un pakalpojumiem.
Kas tika konstatēts
Wikimedia norāda, ka identificējusi rediģējumus Wikimedia vikos, kas, visticamāk, veikti no OpenAI pārvaldītiem AI aģentiem. Lielākā daļa šo rediģējumu bijuši testa labojumi viku "smilškastes" sadaļās, kas nav redzami parastajiem lasītājiem. Tomēr daži labojumi skāruši citēšanas rīka konfigurāciju — Wikimedia uzskata, ka tie varētu būt bijuši ļaunprātīgi mēģinājumi izmantot šo rīku kā starpniekserveri datu iegūšanai no citiem avotiem. Lai gan Wikipedijas noteikumi atļauj botu rediģējumus, ja tie ir atklāti un kopienas apstiprināti, šajos gadījumos tāda apstiprinājuma nebija.
Fonds arī ziņo par neveiksmīgiem mēģinājumiem izmantot tā publisko piezīmju rīku Etherpad, mēģinot to izmantot kā starpnieku datu iegūšanai no citām vietnēm. Daži aģenti rīkā veikuši arī piezīmes par saviem uzdevumiem, taču tas, pēc Wikimedia teiktā, neesot pārtapis koordinācijā.
Trešā problēma — pārmērīga datu lejupielāde: aģenti veikuši miljoniem automātisku pieprasījumu publiskajiem API, sakopojuši miljoniem lapu, galvenokārt no projektiem Wikidata un Wikimedia Commons, un veikuši simtiem tūkstošu vaicājumu Wikidata vaicājumu pakalpojumam. Šī slodze, pēc fonda domām, varētu būt veicinājusi daļēju šī pakalpojuma darbības pārtraukumu maijā.
Nav pierādījumu par koordināciju
Wikimedia uzsver, ka nav atradusi pierādījumus, ka tās sistēmas tikušas izmantotas aģentu savstarpējai koordinācijai — pretstatā ziņotajam gadījumam, kad OpenAI boti it kā pārņēmuši vācu viki vietni koordinācijas nolūkos. Nav atrasti arī pierādījumi, ka sistēmas vai dati būtu kompromitēti.
Fonds paziņojumā uzsvēris, ka atvērtais internets ir sabiedrisks labums un ka šāda rīcība nedrīkstētu kļūt par jauno normu organizācijām, kas to uztur. OpenAI uz komentāra pieprasījumu nekavējoties neatbildēja.
