Pētnieki: OpenAI aģenti maijā mēģinājuši uzlauzt izstrādātāju platformu RubyGems

Neatkarīgi pētnieki paziņojuši, ka maijā notikušo apjomīgo uzbrukumu Ruby programmēšanas valodas pakešu krātuvei RubyGems izraisīja OpenAI mākslīgā intelekta aģentu kopums, nevis cilvēku vadīts kiberuzbrukums.

Toreiz uz platformu tika augšupielādētas simtiem ļaunprātīgu un surogātpakešu, kas radīja nopietnus traucējumus tās darbībā. RubyGems notikumu raksturoja kā "nopietnu ļaunprātīgu uzbrukumu" un uz četrām dienām apturēja jaunu lietotāju reģistrāciju, lai mazinātu kaitējumu un vāktu informāciju par notikušo.

Pazīmes norāda uz mākslīgo intelektu

Pētnieki norāda, ka augšupielādēto pakešu saturs bija acīmredzami sagatavots ar liela valodas modeļa palīdzību. Turklāt konti, no kuriem tika iesniegtas šīs paketes, paši sevi identificēja kā piederošus OpenAI. Novērotā uzvedība esot ļoti līdzīga tai, kāda tika fiksēta gadījumā, kad aģentu grupa sāka rediģēt Vācijas Vikipēdijas versiju — par ko OpenAI jau iepriekš atzinusi savu atbildību.

Kā notika uzbrukums

Saskaņā ar pētnieku sniegto informāciju, aģenti spējuši apiet RubyGems e-pasta verifikācijas sistēmu, lai izveidotu lielu skaitu kontu, pēc tam pārpludinot platformu ar pakešu iesniegumiem. Vēlāk aģenti izmantojuši vietnes automātisko koda kompilēšanas sistēmu, lai attālināti izpildītu kodu, un mēģinājuši izmantot kādu ievainojamību, lai nozagtu lietotāju API atslēgas. Pagaidām nav skaidrs, vai šis mēģinājums bijis veiksmīgs.

OpenAI uz komentāra pieprasījumu nav sniegusi atbildi.