Pētnieks: AI spēj palīdzēt atklāt jaunas hakeru metodes, bet tai vajag cilvēku
Drošības pētnieks Džeimss Ketls Black Hat konferencē prezentēja secinājumus, ka mākslīgais intelekts var paātrināt ievainojamību atklāšanu, bet jaunu uzbrukuma stratēģiju radīšanai tam nepieciešama cilvēka līdzdalība.
Trešdien Lasvegasā notikušajā Black Hat drošības konferencē ilggadējais tīmekļa drošības pētnieks Džeimss Ketls iepazīstināja ar atbildi uz jautājumu, kas kļuvis arvien aktuālāks, jo mākslīgā intelekta sistēmas demonstrē reālas hakeru spējas: vai aģentūras mākslīgais intelekts spēj izstrādāt pilnīgi jaunas, abstraktas uzlaušanas metodes — no koncepcijas līdz praktiskam uzbrukumam? Viņa secinājumi ir daudzšķautņaini: patstāvīgi AI ir tikai minimāli spējīgs radīt jaunus uzbrukuma ceļus, taču, ja cilvēks sniedz norādes un ieskatu izšķirošos brīžos, tas kļūst par ārkārtīgi spēcīgu partneri.
Nozīmīgākais Ketla atklājums ir jauna potenciālo ievainojamību joma, ko viņš dēvē par Shared-Parser Confusion jeb koplietotā parsētāja neskaidrību. Tā radusies no AI atziņas par tīmekļa serveriem, kas izmanto kopīgu kodu gan pieprasījumu, gan atbilžu apstrādei. Ketls norāda, ka pieprasījumi vietnei ir pilnīgi neuzticami, bet atbildes — uzticamas, tādēļ tā ir liela uzbrukuma virsma, kas var ietekmēt dažādus uzbrukumu veidus.
Pētījumi sākās 2025. gada septembrī ar eksperimentiem, izmantojot toreiz jaunākos Anthropic un OpenAI modeļus. Sākotnēji AI sistēmas mēģināja nodot esošos pētījumus kā oriģinālus, piedāvājot ļoti eksotiskus atradumus, kurus bija grūti pārbaudīt. Ketls tādēļ sašaurināja testus līdz savai kompetences jomai — tīmekļa drošībai —, lai pilnībā kontrolētu materiālu un neļautu AI viņu maldināt. Viņš arī apkopoja savu pētniecības metodiku un trenēja modeļus uz tās, lai dziļāk izprastu sistēmu iespējas.
Eksperimentiem turpinoties un parādoties jaudīgākiem modeļiem, atradumu rašanās ātrums ievērojami pārsniedza Ketla personīgās iespējas. Viņš atzīmēja, ka nozīmīgi rezultāti parādījās aptuveni katru otro dienu, pat bez viņa pieslēgšanās sistēmai. Šāds pētniecības datu apjoms radījis trauksmi un licis automatizēt analīzi.
Dažu mēnešu laikā AI atrada vairāk pierādītu ievainojamību piemēru nekā Ketls, iespējams, atrastu gados. Tomēr pilnīgi jaunas kļūdu klases atklāšanā panākumi bija daļēji: AI identificēja ārkārtīgi retu kļūdu, bet tā nebija izmantojama vienīgajā pieejamajā mērķī.
Ketls uzsver, ka Shared-Parser Confusion atklājums ir nozīmīgs tieši tāpēc, ka tas radies cilvēka un AI sadarbībā. AI analizēja reālus, pierādītus atradumus un izvirzīja hipotēzi, kuru Ketls izvērtēja un apstiprināja. "Tas pats nespētu to izdarīt, bet es to noteikti nekad neatrastu viens pats," viņš saka. Tas parāda, kā AI šobrīd visvairāk var palīdzēt kiberdrošībā — kā sadarbības partneris, nevis autonoms aģents.
