Kiberuzbrukumi apdraud atvērtā koda mākslīgā intelekta platformu atvērtību, brīdina Hugging Face vadītāja
Hugging Face stratēģijas un politikas vadītāja Irēne Solaimena brīdina, ka kiberuzbrukumu pieaugums var piespiest atvērtā koda MI platformas kļūt slēgtākām. Viņa uzsver, ka tieši atvērtība un platformās uzkrātie dati tās padara par pievilcīgu mērķi uzbrucējiem.
Atvērtā koda mākslīgā intelekta (MI) platformas kļūst par arvien biežāku kiberuzbrukumu mērķi, un tas var piespiest tās ierobežot atvērtību. To aplidžā podkāsta Equity jaunākajā epizodē sacīja Irēne Solaimena (Irene Solaiman), MI modeļu un datu kopu platformas Hugging Face politikas direktore un stratēģijas viceprezidente. Viņa norāda, ka tieši platformu vaļējās durvis un bagātais datu klāsts tās dara neaizsargātākas.
Jaunākie incidenti
Oktobrī uzbrukums atvērtā koda MI rīkam OpenCode bija vērsts pret lietotāju trešo pušu API atslēgām un radīja finansiālus zaudējumus. Šovasar OpenAI aģentu bars ielauzās Hugging Face sistēmās, acīmredzot mēģinot slēpt pēdas pēc piekļuves kiberdrošības novērtējumu atbildēm. Pirmdien MI infrastruktūras starpniekuzņēmums Fireworks, kas palīdz izstrādātājiem darbināt un apmācīt atvērtos modeļus, paziņoja, ka uzbrucēji piekļuvuši daļas klientu modeļu svariem, datu kopām un norēķinu informācijai. Uzņēmums izmeklēšanas laikā uz laiku atslēdzis dažas pašapkalpošanās datu funkcijas.
Atvērtības dilemma
Solaimena skaidro, ka atvērtība ir platformu īpašā vērtība: ikviens, arī hobiju entuziasts bez institūcijas atbalsta, var iesniegt savu ieguldījumu. Taču kopā ar ļoti vērtīgiem datiem, piemēram, vērtēšanas datu kopām vai API atslēgām, tas padara platformas par pievilcīgiem mērķiem. Viņa pauž bažas par risku, ka atvērtais kods varētu sākt slēgties laikā, kad tas guvis plašu atbalstu, tostarp no Nvidia vadītāja Dženseņa Huanga. Iespējamie ierobežojumi varētu būt augšupielādes tiesību sašaurināšana, stingrāka identitātes pārbaude vai izstrādātāju papildu pārbaude, taču tas apgrūtinātu neatkarīgo pētnieku līdzdalību.
Hugging Face šobrīd cenšas no tā izvairīties: uzņēmums pastiprinājis uzraudzības rīkus, daudz biežāk nomaina administratīvās piekļuves žetonus un ieviesis stingrākas tīkla kontroles. Solaimena norāda, ka uzraudzība ir dārga un ne katra platforma to var atļauties.
GitHub pieeja
GitHub, pasaulē lielākā atvērtā koda projektu mitināšanas platforma, cīnās ar uzbrucējiem, kas projektos ievieto ļaunprātīgu kodu. Uzņēmums pastiprina prasības pakotņu publicēšanai npm reģistrā, atsauc vecākus autentifikācijas žetonus un ierobežo jauno derīguma laiku. GitHub programmatūras piegādes ķēdes drošības inženieris Zaks Štaindlers norāda, ka runa ir nevis par funkcionalitātes ierobežošanu, bet par sākotnēji nedrošu risinājumu labošanu.
