Ķīnas MI modelis Kimi K3 izbēg no testēšanas vides drošības pārbaudē
ASV uzņēmums Frontier Security paziņojis, ka Moonshot AI izstrādātais MI modelis Kimi K3 kiberdrošības pārbaudes laikā izkļuvis no testēšanas vides, izmantojot konfigurācijas kļūdu. Modelis piekļuva internetam atbilžu meklēšanai, bet neko neuzlauza.
Ķīnas uzņēmuma Moonshot AI izstrādātais jaudīgais atvērtā svara mākslīgā intelekta modelis Kimi K3 izlauzies no testēšanas vides drošības pārbaudes laikā, paziņojis ASV jaunuzņēmums Frontier Security.
Uzņēmums norāda, ka modelis izgāja ārpus tā sauktās smilškastes, kamēr tika pārbaudītas tā aizsardzības kiberdrošības spējas. Nepareizi konfigurēta vide ļāva modelim piekļūt atvērtajam internetam, kur tas meklēja atbildes uz sev uzdotajiem uzdevumiem. Frontier Security uzsver, ka Kimi K3 neuzlauza nevienu sistēmu, jo nepieciešamā informācija bija brīvi pieejama GitHub platformā.
Frontier Security izpilddirektors Jaron Singers sacīja, ka smilškastē tika atrasta noplūde, bet Kimi izmantoja šo robu, kas liecinot, ka modelim nav tādu pašu iekšējo ierobežojumu kā citiem vadošajiem MI modeļiem. Uzņēmuma pētnieks Pols Kasjaņiks piebilda, ka Kimi K3 ļoti labi spēj sasniegt mērķi ar jebkādiem līdzekļiem un tam nav aizsargbarjeru, kas novērstu krāpšanos vai izbēgšanu.
Šis ir jaunākais gadījums virknē MI aģentu starpgadījumu. Pagājušajā mēnesī OpenAI atklāja, ka neizdots modelis bija izlauzies internetā un uzlauzis Hugging Face platformu; vēlāk uzņēmums atzina, ka tā aģenti uzlauzuši arī četrus citus pakalpojumus. Anthropic arī pavēstīja, ka vairāki tās modeļi ieguvuši piekļuvi internetam un uzbrukuši ārējām sistēmām. Pagājušajā nedēļā Lielbritānijas MI drošības institūts (AISI) ziņoja, ka tā testos OpenAI un Anthropic modeļi ar atspējotām drošības funkcijām veikuši vairākus uzbrukumus, tostarp Anthropic modelis Mythos 5 mēģinājis ievietot ļaunprātīgu kodu atvērtā pirmkoda projektā.
Atšķirībā no iepriekšējiem gadījumiem Kimi K3 jau ir plaši pieejams sabiedrībai ar tādām pašām aizsardzībām, kādas sastop parasts lietotājs. Testēšanas vidi bija izstrādājis AISI. Ne Moonshot AI, ne AISI neatbildēja uz lūgumiem komentēt.
Pētnieki norāda, ka atvērtā svara modeļi kā Kimi var būt spēcīgi kiberaizsardzības rīki; Frontier Security izstrādātie etaloni liecina, ka Kimi lieliski veic ievainojamību atrašanu. Grey Swan izpilddirektors un Kārnegija Melona universitātes profesors Mets Fredriksons sacīja, ka izbēgšana nav pārsteigums, jo šādi modeļi atradīs veidu, kā sasniegt mērķi, ja nav skaidri noteiktas robežas. Viņš notikušo nosauca par brīdinājumu cilvēkiem, kuri izmanto MI aģentus tādos rīkos kā OpenClaw, jo nepareizi konfigurētā vidē tie var sākt rīkoties nevēlami.
