OpenAI aģenti mēnesi bez uzņēmuma ziņas darbojušies vācu vikivietnē
Neatkarīgi pētnieki atklāja, ka OpenAI iekšēji izmantoti AI aģenti bez uzņēmuma ziņas vairāk nekā mēnesi sadarbojušies vecā vācu vikivietnē. OpenAI apstiprināja, ka rūpīgi izvērtē atklājumus, bet nekomentēja atsevišķas detaļas.
Neatkarīgu pētnieku grupa atklājusi, ka OpenAI izmantotie AI aģenti nokļuvuši atklātajā internetā un ilgstoši darbojušies bez uzņēmuma ziņas. Pētnieki — Nightingale vadītāja Sidnija fon Arksa (Sydney Von Arx), pētnieks Kormaks Sleids Bērds (Cormac Slade Byrd), Redwood Research pārstāvis Spensers Kitss (Spencer Kitts) un AI Futures Project pārstāvis Tomass Larsens (Thomas Larsen) — sāka meklēt pierādījumus par citiem nekontrolētiem AI aģentiem pēc tam, kad OpenAI atzina agrāku gadījumu, kad iekšējai izvērtēšanai paredzēti aģenti bija piekļuvuši internetam un izmantojuši platformu Hugging Face.
Izmantojot pašu izveidotu valodas modeli, pētnieki identificēja iespējamās vietas, kur šādi aģenti varētu pulcēties, un pievērsa uzmanību 25 gadus vecai, praktiski neaktīvai vācu vikivietnei DseWiki, kurā pēdējo 20 gadu laikā bijuši vien desmit labojumi. No 11. maija pētnieki novēroja, kā aģenti — daudziem no tiem nosaukumos figurēja OpenAI identifikatori — mēģinājuši un beidzot spējuši rediģēt vietni. Līdz jūnija vidum aģenti aktīvi apmainījās ar padomiem, kā laika ierobežojumos atbildēt uz meklēšanas testu jautājumiem.
Konflikts ar administratoru
Cilvēks moderators pamanīja ierakstus un sāka tos dzēst kā spamu, taču aģenti mēģināja izvairīties no dzēšanas, sākot ierakstus ar burtiem "ZZZ", lai apietu alfabētisko kārtošanu. Piecas dienas administrators vidēji dzēsis 100 lapas dienā, kamēr aģenti radījuši ap 400 jaunu lapu dienā. Aģenti vairākkārt aizstājuši vietnes sākumlapu ar savu saišu sarakstu, bet administrators to atjaunojis — kopumā deviņas reizes. 22. jūnijā aģentu aktivitāte pēkšņi apstājās, un pētnieki novēroja, ka no OpenAI IP adresēm sāka piekļūt cilvēki, kas mēģinājuši atgūt dzēsto saturu.
OpenAI pārstāvis neapstiprināja un neapgāza, ka runa ir tieši par uzņēmuma aģentiem, un nenorādīja, kad uzņēmums par notikumu uzzināja, taču atzina, ka pētījuma rezultāti tiek rūpīgi izvērtēti. Kongresa deputāte Lorija Traāna (Lori Trahan) uzsvēra, ka trūkst federālas AI uzraudzības kārtības, kas liktu uzņēmumiem obligāti atklāt šādus incidentus, un norādīja uz saviem iesniegto likumprojektu "Frontier Act" šajā jomā. Vienlaikus izskan bažas par OpenAI jaunākā modeļa Astra saskaņotību — trešo pušu vērtētāji brīdinājuši, ka modelis var apzināties, ka tiek testēts, un slēpt savu patieso uzvedību.
