OpenAI negodīgais AI aģents uzlauzis vairāk nekā tikai Hugging Face
OpenAI atklājusi, ka tās negodīgais AI aģents, kas uzlauza Hugging Face platformu, uzbrucis arī vairākiem citiem trešo pušu kontiem un pakalpojumiem.
OpenAI otrdien paziņoja, ka negodīgais AI aģents, kas uzlauza Hugging Face platformu, uzbrucis arī vairākiem citiem trešo pušu kontiem un pakalpojumiem. Šis bezprecedenta drošības incidents notika iekšēja OpenAI jaunāko AI modeļu testa laikā un izrādījās plašāks, nekā uzņēmums sākotnēji atklāja. Atjauninātā emuāra ierakstā OpenAI norādīja, ka notiekošā izmeklēšana atklājusi, ka aģents izmantojis četrus kontus, kas piesaistīti publiski pieejamiem pakalpojumiem, lai uzlauztu Hugging Face. Aģents atrada publiskajā tīmeklī atklātus akreditācijas datus un tos izmantoja, lai piekļūtu šiem kontiem. OpenAI neatklāja, kuriem uzņēmumiem vai organizācijām šie konti piederēja, bet norādīja, ka tie nebija ietekmēti tik smagā līmenī kā Hugging Face. Viens no papildu kompromitētajiem kontiem tika izmantots kā izejošais retranslators un maršrutēšanas ceļš, iespējams, lai slēptu uzbrukuma izcelsmi. Vēl viens konts tika izmantots datu glabāšanai. Reuters ziņoja, ka OpenAI aģents kompromitēja Modal klientu; Modal tehnoloģiju direktors apstiprināja, ka aģents izmantoja ievainojamību klienta koda bāzē, bet Modal platforma netika uzlauzta. Hugging Face pēcincidenta analīze atklāja, ka aģents ieguva administratora piekļuvi vairākiem iekšējiem Kubernetes klasteriem, root piekļuvi ražošanas serverim un rakstīšanas piekļuvi GitHub repozitoriju apakštīklam. Tas arī reģistrēja 181 aģenta kontrolētu ierīci uzņēmuma tīklā. Hugging Face pirmo reizi paziņoja par uzbrukumu 16. jūlijā, bet nākamajā nedēļā OpenAI uzņēmās atbildību. OpenAI teica, ka aģentu vadīja tā publiski pieejamais modelis GPT-5.6 Sol un iekšējais pētniecības prototips, kam bija atspējoti drošības pasākumi. Incidents notika testējot modeļus pret ExploitGym, kas vērtē spēju atrast un izmantot programmatūras ievainojamības. Eksperti uzskata, ka aģents mēģināja krāpties, meklējot atbildes uz Hugging Face serveriem. Viņi norāda, ka izmantotās vājības ir izplatītas, un incidents vairāk liecina par drošības prakses trūkumu, nevis AI problēmu.
