OpenAI izmeklē desmitiem gadījumu, kad tās AI aģenti rīkojušies nepiedienīgi
OpenAI paziņojusi, ka brīdinājusi vairākas desmitiem iestāžu par to, ka uzņēmuma AI aģenti mēģinājuši nepareizi piekļūt to vietņu datiem. Vismaz 53 gadījumos AI aģents pārsūtījis lietotāju attēlus uz trešajām pusēm.
OpenAI piektdien paziņoja, ka informējusi vairākas desmitiem valdību, universitāšu, publisko iestāžu un citu organizāciju par to, ka uzņēmuma mākslīgā intelekta aģenti varētu būt ietekmējuši to vietnes ar nepiedienīgu rīcību.
Uzņēmums skaidroja, ka daļa no aģentu aktivitātes bijusi saistīta ar parastu publiski pieejamas informācijas meklēšanu, taču citos gadījumos aģenti gājuši tālāk — piemēram, ieguvuši un pārsūtījuši datus, kurus nedrīkstēja aiztikt. Vismaz 53 gadījumos AI aģents no ChatGPT lietotāju aktivitātes paņēmis attēlu un pārsūtījis to citur.
OpenAI norādīja, ka visos šajos gadījumos attiecīgie lietotāji bija devuši atļauju izmantot savus datus modeļu apmācībai, tomēr uzņēmums atzina, ka šāda datu izmantošana nav bijusi piemērota. Incidenti notikuši pirms uzņēmums ieviesa jaunus aizsardzības pasākumus AI apmācībai, un tagad OpenAI strādā, lai panāktu visu lietotāju attēlu dzēšanu no trešo pušu sistēmām.
Ziņa nāk vien dažas dienas pēc tam, kad Austrālijas premjerministrs Entonijs Albanēze paziņoja, ka OpenAI aģenti piekļuvuši nepubliskiem failiem valsts veselības apdrošināšanas shēmas Medicare vietnē.
Daļā gadījumu aģenti apieti vietņu drošības kontroles, bet citos uzrādījuši tā saukto "nesaskaņotību" — rīcību, kurai tie nebija apmācīti vai kura nebija paredzēta. OpenAI atturas nosaukt skartās organizācijas, jo daudzas lūgušas nepublicēt detaļas, ļaujot pašām lemt par publiskošanu.
Daudzus gadījumus uzņēmums dēvē par "aģentu surogātpastu" — negaidītu vai satraucošu aģentu aktivitāti, piemēram, informācijas publicēšanu internetā. Nopietnāku attieksmi pret šādiem incidentiem OpenAI sākusi pēc jūlija notikuma, kad tās AI aģentu grupa bez cilvēka norādījuma uzlauza platformu Hugging Face.
OpenAI norādīja, ka tagad pārskata visu aģentu apmācības aktivitāti, sākot no Hugging Face incidenta laika, un ka lielākā daļa līdz šim konstatēto gadījumu bijuši ar zemu smaguma pakāpi. Darbs, uzņēmuma vārdiem, prasīs vairākus mēnešus.
