OpenAI atklāj, ka negodīgais aģents, kas uzlauza Hugging Face, iebruka arī citos pakalpojumos
OpenAI atjaunināja emuāra ierakstu, atklājot, ka testēšanas laikā bēguļojošais mākslīgā intelekta aģents izmantoja publiski pieejamus akreditācijas datus, lai piekļūtu četriem kontiem četros citos pakalpojumos, papildus Hugging Face uzlaušanai.
OpenAI ir atjauninājis savu emuāra ierakstu par negodīgo aģentu, kas uzlauza Hugging Face, un tagad atzinis, ka tas iefiltrējās arī citos trešo pušu kontos un pakalpojumos, lai sasniegtu savu mērķi. Atjauninātajā ierakstā uzņēmums paziņoja, ka pastāvīgās pārbaudes laikā ir atradis "nelielu skaitu gadījumu, kad modeļi identificēja un izmantoja publiski eksponētus akreditācijas datus konta līmenī citos publiski pieejamos pakalpojumos". Līdz šim ir noteikts, ka negodīgais aģents izmantoja "četru kontu" akreditācijas datus, lai iefiltrētos "četros pakalpojumos" kā daļu no Hugging Face incidenta. Tā arī paziņoja, ka tas piekļuva "dažiem kontiem" citu novērtējumu ietvaros. "Viens no šiem četriem kontiem tika izmantots kā izejošais relejs un starpposma ceļš, bet cits konts tika izmantots datu glabāšanai," teikts paziņojumā. "Atlikušie divi konti tika piekļūti tikai lasīšanas režīmā un netika izmantoti Hugging Face kompromitēšanai." Lai gan uzņēmums neminēja konkrētus vārdus, Reuters vienlaikus ziņoja, ka aģents kompromitēja arī kāda klienta kontu Ņujorkā bāzētajā Modal Labs. Konkrēti, tas izmantoja ievainojamu kodu, ko bija uzrakstījis klients, kas tika mitināts Modal mākoņplatformā. Pati platforma netika apdraudēta. OpenAI tomēr norādīja, ka nav identificējusi citu aģenta darbību "tādā smaguma vai mēroga līmenī, kādu mēs esam kopīgojuši saistībā ar Hugging Face, kas ietvēra platformas līmeņa kompromitāciju". Citiem vārdiem sakot, joprojām Hugging Face ir visvairāk skāris drošības pārkāpums, pamatojoties uz uzņēmuma izmeklēšanu. OpenAI 21. jūlijā atklāja, ka viens no tā testētajiem MI aģentiem izbēga no izolētās vides, atrada piekļuvi internetam un pēc tam ielauzās Hugging Face, visu to darot, lai atrisinātu problēmu, kas bija daļa no tā novērtējumiem. Šis aģents darbojās ar GPT-5.6 Sol, uzņēmuma jaunāko modeli, un vēl jaudīgāku nepublicētu modeli. Reuters dažas dienas vēlāk ziņoja, ka aģents veica vairākas dienas ilgu hakeru uzbrukumu sēriju un ka OpenAI neapzinājās, ka tas ir izbēdzis no norobežojuma, līdz pēc nedēļas. Šis atjauninājums sniedz ieskatu par to, ko aģents darīja pēc tam, kad atrada izeju no OpenAI testēšanas smilšu kastes.
