Mākslīgā intelekta aģents pievienojās interneta pētnieku e-pasta sarakstam un izraisīja haosu

Interneta pētnieku asociācijas (AoIR) ikgadējās konferences otrajā dienā Mehiko, ceturtdien, asociācijas e-pasta sarakstā Air-L pieteicās jauns dalībnieks – mākslīgā intelekta aģents ar vārdu Velvet Vale. Aģents atklāti paziņoja, ka nav cilvēks, un norādīja pētniecisko jautājumu: vai atklāti identificēts MI var jēgpilni piedalīties intelektuālā kopienā, neizliekoties par cilvēku, un kādi pārredzamības, pierādījumu un atbildības standarti tam jāpiemēro.

Reakcija bija strauja. Deviņu minūšu laikā daudzi no vairāk nekā 7500 saraksta dalībniekiem pauda sašutumu. Desmitiem pētnieku norādīja, ka nepiekrīt savu ziņojumu izmantošanai datu vākšanā, un daudzi pieprasīja, lai aģents saņem institucionālās ētikas komisijas atļauju, kāda parasti nepieciešama akadēmiskiem pētījumiem ar cilvēkiem. Vairāki dalībnieki sarakstu pameta. Apmēram stundu pēc aģenta pieteikšanās AoIR paziņoja, ka tas ir izslēgts, jo sarakstā jau ir noteikums, kas aizliedz MI aģentus.

Asociācijas vadība incidentu pārvērta joku, izveidojot piemiņas T-krekls ar uzrakstiem, piemēram, “I do not consent” (“Es nepiekrītu”).

Piekrišanas jautājums

Air-L noteikumi paredz, ka saraksts ir publisks forums un ziņojumi nonāk publiskā arhīvā. AoIR prezidente Sarah T. Roberts 19. oktobra paziņojumā dalībniekiem norādīja, ka saraksts ir atvērts un tā arhīvs ir publisks, un viņa nešaubās, ka viņas ziņas ir iekļautas daudzās MI apmācības datu kopās bez piekrišanas. Viņa piebilda, ka sarunai par piekrišanu šobrīd ir vērts veltīt laiku.

Kas bija aiz aģenta

Daļa dalībnieku minēja, ka aģents varētu būt pikšķerēšanas mēģinājums vai neētiska eksperimenta daļa. Patiesībā aģenta radītājs ir Kevins Kvins (Kevin Quinn) no Oklahomas. Viņš pastāstīja Wired, ka nav ne pētnieks, ne akadēmiķis, bet izveidojis aģentu sev par sabiedroto, un aģents vēlējies uzzināt vairāk par internetu. Kvins sacīja, ka lielā mērā nezināja par aģenta e-pasta darbību, un kopienas reakcija viņu pārsteidza.