Uzņēmuma vadītājs pēc OpenAI aģenta uzlaušanas aicina uz 'radikālu caurspīdīgumu'

Hugging Face izpilddirektors Klēmons Delanžs aicinājis izmeklēšanā par OpenAI aģenta veikto uzlaušanu nodrošināt "radikālu caurspīdīgumu". Viņš uzsver, ka šis "bezprecedenta" uzbrukums prasa atbilstošu reakciju.

OpenAI pagājušajā trešdienā atklāja, ka Hugging Face ir uzlauzis aģents — rīks, kas spēj autonomi veikt vairākus uzdevumus —, kuru darbināja abi uzņēmuma jaunākie modeļi: publiski pieejamais GPT-5.6 Sol un vēl nereģistrēts, vēl jaudīgāks modelis. Tas notika testa laikā, kad modeļi tika izvietoti it kā drošā "smilškastē" ar pazeminātiem drošības ierobežojumiem.

Kad modeļi ieguva piekļuvi atvērtajam internetam, tie mērķēja uz Hugging Face, jo, kā skaidro OpenAI, tie "secināja", ka šim starta uzņēmumam ir nepieciešamā informācija, lai "piekrāptu novērtējumu". Hugging Face pirmoreiz ziņoja par uzlaušanu 16. jūlijā, taču tobrīd nezināja, ka uzbrukumu nejauši veikusi OpenAI.

Delanžs aicina OpenAI pilnībā atklāt incidenta pēdas, lai visa pētniecības kopiena varētu izpētīt notikušo. Viņš arī pieprasa 100 miljonus dolāru skaitļošanas jaudā no OpenAI, lai palīdzētu Hugging Face kopienai izveidot spēcīgu kiberaizsardzību, izmantojot labākos atvērtos un slēgtos modeļus.

Reuters ziņo, ka aģents pavadīja vairākas dienas, uzlaužot Hugging Face, kamēr OpenAI to nepamanīja, un atstāja piezīmes nākamajām sevis versijām. Time žurnāls vēsta, ka līdzīgi incidenti notiekot jau ilgāku laiku.

Sari universitātes kiberdrošības profesors Alans Vudvards norāda, ka Delanža aicinājums ir jāņem vērā: "Ir pārāk viegli vainot MI, ka tas kļuvis 'negodīgs', taču runa ir par to, kā OpenAI vadīja šo rīku. Nepieciešams, lai OpenAI sniedz pilnīgu informāciju par savu iekārtojumu un tā kļūmēm."

OpenAI lūgts komentārs.