Eksperts: AI aģenti nav ļauni roboti — atbildība par to rīcību jāmeklē pie cilvēkiem
Igaunijas eksperts Kaimars Karu kritizē publisko diskursu par mākslīgo intelektu, uzsverot, ka AI aģenti ir programmatūra bez morāles, nevis autonomas būtnes, un ka par to kļūdām atbildīgi ir cilvēki, kas tās izstrādājuši un palaiduši.
Pēdējo nedēļu laikā plašu publisku un politisku diskusiju izraisījuši jaunumi par mākslīgā intelekta (AI) aģentiem, politiķu paziņojumi un atklātās vēstules, kā arī gadījums, kad tika runāts par Austrālijas veselības datu "uzlaušanu". Eksperts Kaimars Karu norāda, ka liela daļa šīs diskusijas ir maldinoša.
Viņaprāt, nav pamata runāt par "nerātniem" AI aģentiem, kas paši no sevis ielaužas sistēmās. Patiesībā runa ir par kādas personas vai uzņēmuma izveidotām automatizētām lietotnēm, kurām doti nepietiekami precīzi uzdevumi un ierobežojumi. Šīm programmām nav savas morāles vai izpratnes par likumību — tās vienkārši seko varbūtībās balstītiem aprēķiniem, kas var novest pie cilvēkam absurdiem vai bīstamiem risinājumiem.
Austrālijas gadījums kā piemērs
Runājot par Austrālijas veselības informācijas sistēmas incidentu, Karu uzsver — tur nebija "ļaunā AI uzlaušana", bet gan automatizēta lietotne, kas vai nu izmantojusi neparedzētu metodi publisku datu iegūšanai, vai arī izmantojusi drošības ievainojamību. Abos gadījumos problēma meklējama sistēmas arhitektūrā vai nepietiekamā drošības testēšanā, nevis pašā AI.
Atbildība par AI aģentu darbībām, pēc Karu domām, ir salīdzināma ar atbildību par āmuru vai cirvi — rīks pats neizlemj rīkoties, bet kāds to ir nepareizi novietojis vai izmantojis. Atšķirība ir tajā, ka automatizētie risinājumi tagad var patstāvīgi meklēt veidus, kā uzlabot rezultātu, izmantojot ārējus rīkus, bez cilvēka tiešas iesaistes katrā solī.
Regulējums un bailes
Eksperts pauž skepsi par jaunu regulējumu efektivitāti, jo tehnoloģijas attīstība var turpināties slepus, un valstis ar atšķirīgām politiskajām sistēmām regulējumam, visticamāk, nepievienosies. Viņš arī brīdina par izplatītiem, bet nepamatotiem procentuāliem riska novērtējumiem, kā arī par plaši izplatīto "AI psihozi" — gan pārmērīgām bailēm, gan naivu ticību mārketinga solījumiem.
Kā risinājumu Karu min nepieciešamību stiprināt digitālo sistēmu noturību, uzlabot uzraudzības mehānismus un sagatavot plānus rīcībai pēc iespējamiem drošības incidentiem.
