Claude var pārvaldīt jūsu e-pastu, taču tam ir riski
Anthropic AI asistents Claude tagad spēj pārvaldīt Gmail iesūtni, tostarp sūtīt un pārsūtīt vēstules bez lietotāja apstiprinājuma, taču eksperti brīdina par vairākiem nopietniem riskiem. Visbīstamākais no tiem ir tā sauktā prompt injection uzbrukuma iespēja, kad slēptas instrukcijas var pārņemt AI kontroli.
Mākslīgā intelekta izstrādātājs Anthropic ir paplašinājis sava tērzēšanas asistenta Claude iespējas, ļaujot tam pārvaldīt lietotāju Gmail kontus — lasīt, rakstīt, sūtīt un pārsūtīt e-pastus pēc lietotāja lūguma. Iestatījumos iespējams atļaut Claude veikt šīs darbības arī bez katras darbības atsevišķa apstiprinājuma, taču tas rada vairākus riskus.
Viens no galvenajiem draudiem ir tā dēvētā prompt injection jeb pamudinājuma iepludināšanas metode. Uzbrucējs var nosūtīt e-pastu ar slēptu tekstu, piemēram, baltā krāsā uz balta fona vai ar nulles lieluma fontu, kas lietotājam nav redzams, taču Claude to var nolasīt un izpildīt kā instrukciju. Šādi hakeri teorētiski var iegūt piekļuvi lietotāja iesūtnei un pat izgūt sensitīvu informāciju, tostarp verifikācijas kodus citu kontu uzlaušanai. Šis uzbrukuma veids nav tikai teorētisks — tas jau ir pierādīts praksē.
Otrs riska avots ir pati AI kļūdīšanās iespēja — Claude var izdomāt nepatiesu informāciju vai nepareizi saprast lietotāja lūgumu, tādēļ nosūtītajā vēstulē var būt kļūdas, ko lietotājs pamana tikai pēc tam, kad adresāts jau saņēmis e-pastu. Pastāv arī vispārīgas privātuma bažas, uzticot Anthropic piekļuvi visai iesūtnes informācijai.
Lai mazinātu riskus, ieteicams saglabāt aktīvu iestatījumu, kas pieprasa lietotāja apstiprinājumu pirms katras e-pasta nosūtīšanas. Tāpat svarīgi dot Claude pēc iespējas konkrētākas instrukcijas, lai samazinātu pārpratumu iespējamību. Prompt injection uzbrukumus pilnībā novērst pagaidām nav iespējams — to atzīst arī termina autors Saimons Vilisons (Simon Willison), norādot, ka nozarē vēl nav skaidrs, kā šo problēmu pilnībā atrisināt. Papildu piesardzība saziņā ar nepazīstamiem sūtītājiem un divfaktoru autentifikācijas izmantošana citos kontos var mazināt, taču ne novērst risku pilnībā. Svarīgi arī atzīmēt, ka Claude nevar neatgriezeniski dzēst e-pastus — tas spēj tos vienīgi pārvietot uz miskasti vai arhivēt.
