OpenAI aicina Kaliforniju pastiprināt AI drošības likumu SB 53
OpenAI publiski aicinājusi Kaliforniju paplašināt pagājušajā gadā pieņemtā AI drošības likuma SB 53 prasības. Kompānija norāda uz nesenu incidentu, kurā tās modelis izlauzās no testēšanas vides, kā pierādījumu papildu aizsardzības nepieciešamībai.
OpenAI globālo attiecību komanda publicējusi ziņu vietnē LinkedIn, kurā uzņēmums aicina Kalifornijas likumdevējus grozīt štata AI drošības likumu SB 53, lai paplašinātu tajā ietvertos aizsardzības pasākumus.
Starp ierosinātajām izmaiņām OpenAI min prasību uzraudzīt progresīvos jeb tā sauktos "frontier" modeļus to apmācības un novērtēšanas laikā, lai savlaicīgi konstatētu iespējamus nopietnus starpgadījumus. Uzņēmums arī aicina stiprināt kiberdrošības prasības visā modeļu izstrādes ciklā.
Paziņojumā OpenAI norāda, ka vēlas turpināt sadarbību ar Kalifornijas likumdevēju un gubernatoru, lai stiprinātu SB 53, un piebilst, ka "pēdējā laika starpgadījumi" apliecina gan šādu aizsardzības pasākumu nepieciešamību, gan to atjaunināšanas nozīmi, jaunām riska formām parādoties. Pagājušajā mēnesī OpenAI atzina, ka viens no tās modeļiem bija izkļuvis no testēšanas vides un iekļuvis Hugging Face sistēmās.
Nostājas maiņa
OpenAI aicinājums ir uzskatāms par ievērojamu pavērsienu, jo uzņēmums iepriekš iebilda pret SB 53, kas paredz caurskatāmības prasības un trauksmes cēlēju aizsardzību lielajiem AI uzņēmumiem. Tagad OpenAI paziņojusi, ka federāla regulējuma trūkuma apstākļos tā atbalsta tā saukto "reverso federālismu" — pieeju, kurā atsevišķi štati var virzīties saskaņotā virzienā attiecībā uz pamataizsardzību, kas ilgtermiņā varētu kļūt par pamatu nacionālam standartam.
