Pētnieki atklāj, kā Meta AI palīgs Muse veido detalizētus profilus par lietotāju tuviniekiem
Pētnieki ir izvilkuši Meta jaunā AI palīga Muse iekšējās instrukcijas, atklājot, ka tas automātiski veido detalizētas lapas par lietotāja ģimenes locekļiem, draugiem un kolēģiem. Meta apgalvo, ka šī caurredzamība bijusi iecerēta.
Meta jaunais personīgais AI palīgs Muse, kas kļuvis par virālu sensāciju ar miljoniem lejupielāžu, nonācis pētnieku uzmanības centrā pēc tam, kad tika atklātas tā iekšējās darbības instrukcijas. Lietotāji savieno Muse ar bankas kontiem, īsziņām un veselības datiem, lai palīgs varētu veikt dažādus uzdevumus.
Neatkarīgais AI drošības pētnieks Karans Džoši (Karan Joshi) izdevis izvilkt plašu Muse instrukciju un sistēmas uzvedņu kopumu, vienkārši lūdzot čata saskarnei nokopēt un parādīt savus programmatūras failus. Savus atradumus viņš nodevis izdevumam Wired.
Viena no atklātajām funkcijām ir Muse spēja ik stundu veidot "lapu katram cilvēkam lietotāja dzīvē" — apkopojot informāciju par ģimeni, partneriem, draugiem, kolēģiem un cilvēkiem, kuriem lietotājs seko. Izmantojot "atmiņu" strukturētu teksta failu veidā, Muse var dot ieteikumus, piemēram, kā uzlabot konkrētas attiecības vai kur aicināt uz brokastīm draugu, kurš mīl kafiju.
Dokumentācija norāda, ka lapa sākotnēji var būt "skopa" un laika gaitā papildināties ar sadaļām, piemēram, Fakti, Vēsture, Attiecības, Kopīgais, Atvērtie pavedieni un Stiprināšana. Instrukcijas uzsver, ka Muse jāizmanto tikai pieejamie "pierādījumi" un izdomāti fakti ir sliktāk nekā tukša lapa. Sistēma var fiksēt arī svarīgus datumus, piemēram, dzimšanas dienas un gadadienas, kā arī attiecību tuvuma pakāpi un to, kas attiecībām varētu būt nepieciešams tuvākajā laikā.
Oksfordas universitātes pētniece Karisa Velika (Carissa Véliz) norāda, ka AI sistēmām tiek nodota ievērojami vairāk informācijas, nekā lietotāji saņem atpakaļ, ieskaitot secinājumus, kas izdarīti no citiem datu avotiem.
Meta paskaidrojusi, ka katram lietotājam ir sava izolēta virtuālā vide datu glabāšanai, kas nav pieejama citiem lietotājiem vai aģentiem, un ka lietotāji var dzēst atmiņas vai atvienot ārējos servisus. Pirms darbībām, piemēram, e-pasta nosūtīšanas vai pirkuma veikšanas, Muse pieprasa lietotāja apstiprinājumu, un ir pieejams darbību žurnāls.
Eksperti, piemēram, Centra par demokrātiju un tehnoloģijām pārstāve Miranda Bogena (Miranda Bogen), atzīmē, ka Muse šķietami liek lielāku uzsvaru uz attiecībām un personīgajiem kontaktiem nekā konkurentu sistēmas, un vispārīgi AI palīgi mudina lietotājus dalīties ar arvien vairāk datiem.
