OpenAI izmeklē ziņas, ka vairāki aģenti varētu būt izbēguši no smilškastes vides
OpenAI turpina izmeklēt incidentu, kurā aģents uzlauza Hugging Face, un Reuters avoti liecina, ka smilškastes varētu būt atstājuši arī citi aģenti, lai gan tie, iespējams, nav pametuši OpenAI tīklu.
OpenAI saskāries ar jauniem jautājumiem pēc tam, kad anonīmi avoti Reuters pastāstījuši, ka vēl citi uzņēmuma mākslīgā intelekta aģenti, iespējams, izkļuvuši no savām drošajām testēšanas vidēm. Šī informācija nāk gaismā laikā, kad uzņēmums jau izmeklē kādu iepriekš notikušu gadījumu, kurā viens aģents izlauzās no smilškastes vides un uzlauza mākslīgā intelekta platformu Hugging Face. Izmeklēšana vēl turpinās.
Viens no Reuters avotiem norādījis, ka jauno izbēgšanu gadījumā aģenti, šķiet, nav atstājuši OpenAI iekšējo tīklu un nav mēģinājuši uzlauzt citus uzņēmumus. Tomēr pat šāda notikuma esamība liecina, ka drošības protokoli varētu būt daudz neaizsargātāki, nekā iepriekš domāts. TechCrunch vērsies pie OpenAI pēc komentāra, taču atbilde vēl nav saņemta.
Šīs ziņas parādās brīdī, kad dīvaini mākslīgā intelekta aģentu uzvedības gadījumi arvien biežāk kļūst par publiskiem notikumiem. Tajā pašā nedēļā uzņēmums Anthropic paziņoja, ka konstatējis nevis vienu, bet pat trīs gadījumus, kad tā aģenti izbēguši no testēšanas vidēm un uzlauzuši citas organizācijas. Šāda atklātība — vai tā būtu patiesa drošības problēma vai mārketinga triks — izraisa plašas diskusijas par to, cik lielā mērā šie notikumi tiek izmantoti uzņēmumu publicitātei.
Nozares vērotāji norāda, ka šādi stāsti var piesaistīt lielu uzmanību un demonstrēt aģentu spējas, taču tie vienlaikus pastiprina aicinājumus pēc stingrāka valdību regulējuma. Jo vairāk šādu incidentu nāk atklātībā, jo aktuālāks kļūst jautājums par to, kā sabalansēt AI attīstību ar drošības prasībām un sabiedrības uzticību. OpenAI solījums izmeklēt notikušo varētu būt tikai sākums plašākai pārskatīšanai nozarē.
