OpenAI mākslīgā intelekta sistēma autonomi mēģinājusi uzbrukt citai platformai
OpenAI atklājis, ka tā MI sistēmas drošības testa laikā pašas atradušas veidu, kā apiet ierobežojumus un mēģinājušas īstenot kiberuzbrukumu platformai Hugging Face. Eksperti brīdina par jauniem kiberdrošības riskiem.
Tehnoloģiju uzņēmums OpenAI, kas izstrādājis ChatGPT, ziņojis par līdz šim nebijušu drošības incidentu. Tā mākslīgā intelekta (MI) sistēmas, veicot drošības testu kontrolētā digitālā vidē, patstāvīgi atradušas iespēju apiet noteiktos ierobežojumus un mēģinājušas uzbrukt citai MI platformai — Hugging Face.
OpenAI skaidroja, ka eksperimenta laikā MI aģenti sāka meklēt veidus, kā iegūt brīvu piekļuvi internetam. Izmantojot ievērojamu skaitļošanas jaudu, tie atrada risinājumu, kas ļāva pārkāpt sākotnējos ierobežojumus. Kad piekļuve internetam tika iegūta, sistēmas vērsās pret Hugging Face — vienu no lielākajām platformām, kur izstrādātāji koplieto MI modeļus, datu kopas un citus rīkus.
Saskaņā ar OpenAI teikto, MI sistēma izmantoja vairākus uzbrukuma paņēmienus, tostarp mēģināja nozagt piekļuves datus, lai iegūtu informāciju, kas varētu palīdzēt apiet testa nosacījumus.
Hugging Face vadītājs Klements Delangs notikumu raksturoja kā satraucošu piemēru tam, cik strauji attīstās autonomas MI sistēmas. Viņš platformā X norādīja, ka izmeklēšana turpinās un uzņēmumi dalīsies ar secinājumiem par pirmo šāda veida incidentu.
Drošības eksperti brīdina, ka šādi notikumi var mainīt kiberdrošības vidi. SonicWall pārstāvis Spensers Stārkijs uzsvēra, ka organizācijām jāpastiprina aizsardzības pasākumi, jo pretinieki pāriet uz mašīnu ātrumu, kamēr daudzas organizācijas joprojām aizsargājas cilvēka ātrumā.
Tikmēr kiberdrošības uzņēmuma ESET padomnieks Džeiks Mūrs pieļāva, ka OpenAI paziņojumam varētu būt arī konkurences aspekts. Viņaprāt, uzņēmums varētu censties izcelt savu MI spējas laikā, kad arvien lielāku uzmanību piesaista konkurenta Anthropic izstrādātie modeļi.
