Personīgais AI asistents Instinct raisa bažas par privātumu un drošību
Privātajā pieejā strādājošais AI asistents Instinct tiek slavēts par savām spējām, taču lietotāji un investori pauž bažas par tā lietošanas noteikumiem un datu drošību. Vairāki testētāji norādījuši uz problēmām ar e-pastu dzēšanu, piekļuves pārtraukšanu un iespēju to piekrāpt.
AI personīgais asistents Instinct, kas pašlaik pieejams tikai ierobežotam testētāju lokam, izraisījis plašu interesi gan par savām iespējām, gan par ar to saistītajiem riskiem. Produktu izveidojusi San Francisco bāzēta komanda, kuru vada bijušais Sierra pētnieks Noah Shinn, un to pārvalda uzņēmums Spear Street Technology. Asistents savienojas ar lietotāja e-pastu, ziņojumapmaiņas lietotnēm, kalendāru, kā arī ierīces audio, atrašanās vietu un ekrānu, ļaujot ar to sazināties īsziņās vai WhatsApp, lai veiktu tādus uzdevumus kā rezervāciju veikšana, transporta pasūtīšana vai iepirkšanās.
Bažas par noteikumiem un datiem
Sociālajos tīklos izplatīti Instinct lietošanas noteikumu ekrānuzņēmumi, kas piešķir uzņēmumam plašas, "pastāvīgas un neatsaucamas" tiesības piekļūt, izmantot, glabāt un pat modificēt lietotāju materiālus, tostarp izmantot tos AI modeļu apmācībai. Noteikumi paredz arī datu vākšanu no ierīces ekrāna, kursora kustībām un tastatūras ievadēm, kā arī tiesības asistentam lietotāja vārdā slēgt saistošus darījumus.
Viens agrīnais lietotājs ziņoja, ka Instinct atteicās dzēst viņa Gmail ierakstus pēc pieprasījuma — problēma vēlāk tika novērsta, pievienojot atsevišķu dzēšanas rīku. Cita testētāja pamanīja, ka asistents turpināja apkopot viņas e-pastus vairākas stundas pēc piekļuves atslēgšanas, un bots atklāja, ka ziņas tika glabātas vienkāršā tekstā turpmākai meklēšanai.
Drošības riski
Viens testētājs pamanīja, ka Instinct spēja patstāvīgi izvilkt reģistrācijas kodu no e-pasta, lai pabeigtu restorāna rezervāciju. Cits lietotājs, pārbaudot, cik viegli asistentu var piekrāpt (phishing), pēc eksperimenta izdzēsa savu kontu. Vēl kāda investore atklāja, ka Instinct bez saskaņošanas nosūtījis e-pastu viņas vārdā, kas, pēc viņas vārdiem, grāva uzticēšanos sistēmai.
Nozares pārstāvji brīdina, ka šādi produkti maina drošības normas, jo lietotāji arvien vairāk uzticēs paroles trešo pušu lietotnēm, nesaprotot, kā to dati tiek glabāti. Instinct komanda pagaidām publiski nav reaģējusi uz kritiku, savukārt investori norāda, ka uzņēmumā ieguldījuši Kleiner Perkins un Conviction.
