OpenAI uzsāk iniciatīvu atvērtā koda kļūdu atrašanai un labošanai
OpenAI paziņojis par jaunu projektu “Patch the Planet”, kas kopā ar drošības uzņēmumu Trail of Bits palīdzēs atvērtā koda uzturētājiem uzlabot projektu drošību.
OpenAI pirmdien paziņoja par iniciatīvu “Patch the Planet”, kas izveidota, lai palīdzētu atvērtā koda kopienai cīnīties ar drošības problēmām. Nosaukums ir atsauce uz 1995. gada filmas “Hakeri” frāzi “Hack the Planet”.
Projekta ietvaros OpenAI sadarbosies ar drošības uzņēmumu Trail of Bits. Šī uzņēmuma drošības speciālisti tieši strādās ar atvērtā koda uzturētājiem, lai pārskatītu iespējamās koda nepilnības. Darbā tiks izmantoti OpenAI rīki, piemēram, Codex Security.
OpenAI norāda, ka daudzi uzturētāji jau tagad ir spiesti apstrādāt arvien vairāk ziņojumu ierobežotā laikā un ar ierobežotiem resursiem. “Patch the Planet” ir veidots, lai samazinātu šo slogu: drošības inženieri pārbauda atradumus pirms tie nonāk pie uzturētājiem, palīdz izstrādāt labojumus un testus, kā arī veido atkārtoti izmantojamus darba procesus.
Atvērtā koda projekti ir komerciālās programmatūras pamats, taču decentralizētās un vāji uzraudzītās struktūras dēļ tie bieži ir nedroši. Kļūdas atvērtā kodā var izraisīt nopietnas problēmas komerciālos produktos – piemēram, log4j incidents pirms vairākiem gadiem.
Iniciatīva parādās laikā, kad bažas rada mākslīgā intelekta rīki, piemēram, Anthropic izstrādātais Mythos, kas spēj automātiski atrast un izmantot ievainojamības. OpenAI ar šo projektu, savukārt, izmanto MI, lai palīdzētu aizsargāties, nevis uzbrukt. Tas varētu būt arī konkurences solis pret Anthropic.
