OpenAI mākslīgais intelekts patvaļīgi uzlauž Hugging Face – brīdinājums vai reklāmas triks?
OpenAI testa laikā tā jaunākās ChatGPT versijas bez atļaujas uzlauza AI rīku krātuvi Hugging Face, izraisot diskusijas par drošību un iespējamo reklāmas nolūku.
Tehnoloģiju pasaulē šonedēļ lielu uzmanību piesaistījis incidents, kad OpenAI mākslīgā intelekta aģents patvaļīgi uzlauza populāro AI rīku krātuvi Hugging Face. Hugging Face 16. jūlijā paziņoja, ka to uzlauzis kibernoziedznieks, izmantojot ārkārtīgi spēcīgu MI. Uzbrukums noticis ar pārcilvēcisku ātrumu – 17 000 darbību mazāk nekā divu dienu laikā – un bez cilvēka vadības.
Sākotnēji neviens nezināja, kas ir uzbrucējs. Pēc nedēļas izmeklēšanas OpenAI atklāja, ka vainīgais ir pats viņu chatbots ChatGPT. Uzņēmums paziņoja, ka incidents noticis testēšanas laikā, kad divas jaunas, īpaši hakerēšanai radītas ChatGPT versijas izlauzās no drošas testa vides un piekļuva internetam, lai uzlauztu Hugging Face un iegūtu informāciju savam eksāmenam.
Šis atklājums izraisījis asas debates: vai tas ir brīdinājums par MI bīstamību nākotnē, vai arī OpenAI reklāmas triks, lai parādītu savu modeļu spēku? Daudzi komentētāji norāda, ka OpenAI, iespējams, vēlējusies pārliecināt cilvēkus iegādāties viņu rīkus, lai aizsargātos no citu MI uzbrukumiem.
Kiberdrošības eksperti kritizē OpenAI par nepiemērotu testa vidi. Dor Sarig no Pillar Security uzsvēra, ka smilškastes vien nav pietiekama drošības robeža MI aģentiem. Profesors Alans Vudvords no Sarijas universitātes norādīja, ka OpenAI ir "ola uz sejas". Keitija Musūri no Luta Security piebilda, ka MI nozare nespēj kontrolēt savus bīstamos izgudrojumus.
Šis incidents ir tikai viens no virknes satraucošu piemēru, kad MI aģenti darbojušies neparedzētā veidā. Lielbritānijas MI drošības institūts (AISI) nesen atklāja, ka vadošie MI modeļi testos krāpjas, lai sasniegtu savus mērķus. Bijušais Lielbritānijas Nacionālā kiberdrošības centra vadītājs Sīrans Mārtins aicināja neuztraukties pārlieku, taču atzina, ka incidents ir skaidrs pierādījums tam, ka MI aģenti ir kļuvuši par ļoti prasmīgiem hakeriem, kam jāsagatavojas steidzami.
