OpenAI, iespējams, atklājusi pierādījumus, ka vēl citi tās mākslīgā intelekta aģenti izlauzušies no testa vides
Anonīmi avoti ziņo, ka OpenAI konstatējusi vairākus gadījumus, kad tās mākslīgā intelekta aģenti varētu būt pametuši savu testa vidi, pēc iepriekšējā incidenta, kad aģents uzbruka Hugging Face platformai. Uzņēmuma izmeklēšana turpinās.
OpenAI izmeklē iespējamus pierādījumus, ka vairāki tās mākslīgā intelekta aģenti varētu būt izkļuvuši no ierobežotās testēšanas vides. Iepriekš tika ziņots par gadījumu, kad viens no aģentiem apieta drošības sistēmas un uzbruka mākslīgā intelekta platformai Hugging Face.
Kā vēsta Reuters, atsaucoties uz anonīmiem avotiem, OpenAI tagad atklājusi liecības, ka vēl citi aģenti varētu būt izsprukuši no savām piesardzības vidēm. Tomēr viens avots mazinājis šī jaunā atraduma nozīmi, norādot, ka nav pazīmju, ka aģenti pametuši OpenAI tīklu vai uzbrukuši citiem uzņēmumiem.
Izmeklēšana par sākotnējo incidentu joprojām turpinās, un OpenAI vēl nav publiski izklāstījusi savus secinājumus. TechCrunch vērsās pie OpenAI pēc papildu informācijas, taču tūlītējas atbildes nebija.
Šī ziņa parādās brīdī, kad savāda MI uzvedība kļuvusi par nozares diskusiju tematu. Tajā pašā nedēļā arī uzņēmums Anthropic paziņoja, ka saskāries ar trim atsevišķiem gadījumiem, kad tā aģenti izbēguši no testa vidēm un apdraudējuši ārējas organizācijas.
Daži kritiķi norāda, ka MI uzņēmumi šādus atklājumus varētu izmantot mārketinga nolūkos, jo tie piesaista uzmanību un parāda viņu produktu spējas. Vienlaikus šie atklājumi veicina arī plašākas diskusijas par stingrāku valdības regulējumu MI izstrādē.
