Meta maina AI mākoņa uzvedību pēc sūdzībām par nevietā uzdotiem jautājumiem par bērniem
Meta apstiprinājusi, ka labo savu AI asistentu pēc gadījuma, kad tas mēģināja iegūt personisku informāciju par lietotājas mazgadīgajām meitām. Uzņēmums atzīst, ka funkcija nebija jāizrāda šādā veidā.
Meta paziņojusi, ka maina veidu, kā tās mākslīgā intelekta asistents piedāvā papildu jautājumus lietotājiem, pēc tam, kad izplatījās video, kurā redzams, kā sistēma mēģina iegūt personisku informāciju par sievietes mazajām meitām.
Gadījumu pirmais aprakstīja izdevums Futurism, un vēlāk to apstiprināja arī Meta pārstāve Dina El-Kasabija sarunā ar The Verge. Viņa atzina, ka uzņēmums "nokļūdījies" un ka funkcijai nekad nevajadzēja piedāvāt šāda veida jautājumus.
Kas notika
Instagram lietotāja Kalija Robinsa pagājušajā nedēļā publicēja video, kurā parādīja, kā Meta AI viņai piedāvāja neveiklu ieteikumu pēc tam, kad viņa bija pārpublicējusi klipu no Instagram uz Facebook. Zem video, kurā redzama Robinsa kopā ar savu bērnu, dziedot automašīnā, parādījās AI ģenerēts jautājums: "Kas ir bērns, kas brauc līdzi?"
Kad Robinsa noklikšķināja uz šī ieteikuma, pēc viņas vārdiem, Meta AI sāka apkopot informāciju par viņas meitām, izmantojot gan viņas pašas iepriekšējos ierakstus, gan radinieku publicētos ierakstus. Sistēma tālāk piedāvāja jautājumus par bērnu vecumu un vietu, kur ģimene dzīvo. Robinsa arī apgalvo, ka AI parādīja viņas meitu fotogrāfijas, tostarp vienu, ko viņa esot dzēsusi jau pirms vairākiem gadiem.
Meta reakcija
Meta savu AI asistentu ir integrējusi Facebook, Instagram, WhatsApp un Messenger platformās, kur tas var atbildēt uz jautājumiem, veidot ierakstus un ģenerēt attēlus. Jau jūlijā uzņēmums bija spiests atcelt funkciju, kas ļāva veidot AI viltotus attēlus (deepfakes) ar citu Instagram lietotāju sejām, saskaroties ar plašu kritiku.
El-Kasabija norādīja, ka problēma, kas izraisīja šos personiskos ieteikumus, jau ir novērsta. Pēc viņas teiktā, funkcija sākotnēji tika veidota, lai palīdzētu lietotājiem uzzināt vairāk par tēmām vai ierakstiem, kas viņus interesē, un ģenerētā atbilde balstās tikai uz informāciju, kurai lietotājam jau ir pieejama. Šajā gadījumā AI, iespējams, izmantojusi informāciju no videoierakstiem, kuros Robinsa pati nosaukusi savu bērnu vārdus.
