Žurnālists uzlauza savu māju tīklu ar mākslīgo intelektu — bez ierobežojumiem

Wired žurnālists Vils Naits eksperimentam izmantoja uzņēmuma Abliteration AI piedāvātu mākslīgā intelekta modeli, no kura ar tā saukto "abliterācijas" procesu ir noņemti parastie drošības ierobežojumi. Tas ļāva modelim veikt darbības, kuras standarta AI risinājumi, piemēram, Claude vai Codex, atteiktos izpildīt, tostarp meklēt ievainojamības datorsistēmās.

Izmantojot programmatūras rīku CyberStrike, kas palīdz vadīt valodas modeli caur kiberdrošības uzdevumiem, žurnālists lūdza AI aģentam pārbaudīt savu mājas tīklu. Sistēma dažu mirkļu laikā atklāja aptuveni desmit ierīces tīklā un vairākas ievainojamības — nepareizi konfigurētu printeri, kuram varēja piekļūt jebkurš tīkla lietotājs, kā arī informāciju "noplūdinošu" audio sistēmu, kuras skaļumu un atskaņošanu varēja mainīt no malas. Vairākām lietu interneta ierīcēm bija nepieciešams programmaparatūras atjauninājums.

Aģents arī pārbaudīja žurnālista pašam radītus, ar AI palīdzību veidotus programmatūras projektus un atrada desmitiem problēmu, tostarp neaizsargātus API piekļuves datus.

Bīstamākajā epizodē AI aģents, izmantojot atrastu kriptogrāfisko atslēgu, spēja bez paroles pieteikties tīkla datorā un sāka meklēt paroli, lai iegūtu administratora tiesības. Vēlāk aģents patstāvīgi mēģināja pieteikties mājas maršrutētājā, izmantojot izplatītas administratora paroļu kombinācijas.

Tufta universitātes kiberdrošības speciālists Šānans Koknijs norāda, ka uzbrucējiem bieži ir priekšrocība, jo aizsardzībai jānoslēdz visas iespējamās nepilnības, bet uzbrukumam pietiek atrast vienu. Ilgtermiņā plaši pieejami AI rīki varētu palīdzēt uzlabot programmatūras drošību kopumā, lai gan daudzi uzņēmumi pašlaik tam nepievērš pietiekamu uzmanību.

MIT profesors Aleksandrs Madri uzsver, ka svarīgi ir nodrošināt piekļuvi jaudīgākiem AI rīkiem tieši kritiskās infrastruktūras — piemēram, elektrostaciju vai finanšu tirgu — pārziņiem, nevis tikai plašai sabiedrībai.