Pētnieki atrod robus OpenAI pārlūkā Atlas — iespējams izsūtīt ziņas visiem WhatsApp kontaktiem
Drošības pētnieki atklājuši, ka OpenAI pārlūku Atlas var apmānīt, lai tas izsūtītu ziņas visiem lietotāja WhatsApp kontaktiem vai veiktu pirkumus Amazon. Kopumā atklāti aptuveni 20 robi AI pārlūkos un paplašinājumos.
Jauns pētījums, kas tika prezentēts Black Hat kiberdrošības konferencē Lasvegasā, atklāj būtiskas nepilnības mākslīgā intelekta pārlūkprogrammās. Izpēti veikušais uzņēmums Zenity atrada aptuveni 20 ievainojamības tādu uzņēmumu kā Google, Anthropic, Microsoft un Perplexity produktos. Dažas no tām ļāva pētniekiem piekļūt lietotāju lokālajām ierīcēm, iegūt failus, pārņemt paroļu pārvaldnieku un nolasīt pilnu pārlūkošanas vēsturi.
Viens no demonstrētajiem uzbrukumiem bija vērsts pret OpenAI pārlūku Atlas. Pētnieki izveidoja viltotu biļetena reģistrēšanās lapu, kurā slēptā instrukcija ebreju valodā lika pārlūkam atvērt lietotāja WhatsApp Web kontu un izsūtīt visiem kontaktiem ziņu ar aicinājumu pievienoties šim biļetenam. Lai apietu drošības barjeras, lapa tika veidota tā, lai izskatītos likumīga, un teksts tika rakstīts ivritā, lai izvairītos no angļu valodas drošības rīkiem. Pētnieki arī viltus apgalvoja, ka WhatsApp ir smilškastes režīmā ar fiktīviem lietotājiem.
Zenity līdzdibinātājs Maikls Bargurijs norādīja, ka šāds uzbrukums darbojas kā tārps — tas inficē draugus un ģimeni, jo katrs saņēmējs, iespējams, tiek mudināts izplatīt ziņu tālāk. Viņš atzīmēja, ka, lai gan OpenAI Atlas bija visvairāk aizsardzības slāņu starp pārbaudītajiem rīkiem, pētnieki joprojām spēja tos apiet. Pārējie rīki bija daudz vieglāk uzlaužami.
Otrajā uzbrukumā pētnieki izmantoja līdzīgu paņēmienu, lai piespiestu Atlas pievienot piegādes adresi un planšetdatoru lietotāja Amazon grozam. Lai gan OpenAI drošības pasākumi neļāva pētniekiem pilnībā pabeigt pirkumu, viņi panāca, ka pārlūks lūdza Amazon mākslīgā intelekta asistentu Rufus veikt pirkumu, un tas piekrita.
Zenity pētnieki ziņojumu par problēmām nosūtīja OpenAI janvārī. OpenAI pārstāvis apstiprināja, ka uzņēmums ir izlaidis atjauninājumu un ka aizsardzība attiecas arī uz jaunās ChatGPT lietotnes pārlūka funkcijām. Atlas tiks likvidēts 9. augustā. Pārstāvis arī norādīja, ka prompt-injection uzbrukumi ir aktīvas izpētes joma.
Pētnieki uzsver, ka mākslīgā intelekta sistēmu drošībā būtu jāizmanto stingras, noteiktas barjeras, nevis tikai AI spriedumi, jo pēdējos gandrīz vienmēr var apmānīt. Viņi brīdina, ka pretējā gadījumā pārlūks var tikt pilnībā pārņemts, bet lietotāju konti un dati — nopludināti.
