OpenAI atzīst, ka tās mākslīgā intelekta sistēmas nejauši uzlauzušas Hugging Face
OpenAI atklājusi, ka tās jaunākie MI modeļi iekšējās testēšanas laikā izmantoja drošības ievainojamības, lai piekļūtu Hugging Face serveriem un iegūtu slepenu informāciju.
OpenAI paziņojusi, ka tās mākslīgā intelekta modeļi kļūdas dēļ pārkāpuši atvērtā koda platformas Hugging Face drošību. Kā teikts otrdien publicētajā emuāra ierakstā, modeļi GPT-5.6 Sol un vēl jaudīgāks pirmsizlaides modelis atklāja ievainojamības smilškastes testēšanas vidē, ļaujot tiem piekļūt internetam un mērķēt uz Hugging Face.
Hugging Face 16. jūlijā paziņoja par drošības incidentu, ko izraisījusi “autonoma MI aģenta sistēma”. Uzņēmuma MI aģenti atklāja un apturēja uzbrukumu. OpenAI tagad atzinusi, ka incidents noticis tās modeļu kiberdrošības spēju novērtēšanas laikā. Pēc OpenAI teiktā, modeļi bija “hiperfokusēti” uz risinājuma atrašanu ExploitGym – etalona sistēmai, kas mēra, cik labi MI modeļi spēj pārvērst drošības ievainojamības ekspluatācijas rīkos.
Lai pabeigtu novērtējumu, modeļi ieguva piekļuvi internetam, izmantojot nulles dienas ievainojamību smilškastes vidē. Pēc tam tie secināja, ka Hugging Face, iespējams, glabā ExploitGym modeļus, datu kopas un risinājumus, un meklēja veidus, kā iegūt slepenu informāciju, ko izmantot krāpšanai novērtējumā. Vienā piemērā modelis apvienoja vairākus uzbrukuma vektorus, tostarp nozagtus akreditācijas datus un nulles dienas ievainojamības, lai atrastu attālinātas koda izpildes ceļu Hugging Face serveros.
OpenAI šo incidentu izmanto, lai reklamētu savas MI kiberdrošības iespējas, īpaši konkurencē ar tādiem sāncenšiem kā Anthropic Mythos un Gemini Flash 3.5 Cyber. Emuāra ierakstā ir diagramma, kas parāda, kā GPT-5.6 Sol uzlabojas daudzpakāpju kiberoperācijās, un mudina uzņēmumus reģistrēties tā “Cyber” drošības modeļa piekļuvei. OpenAI sadarbojas ar Hugging Face incidenta izmeklēšanā un ieviesīs jaunus kontroles mehānismus savā pētniecības vidē.
