Filozofi un AI: kāpēc mākslīgā intelekta apziņas jautājums kļūst steidzams
Filozofi, tostarp pazīstamais NYU profesors Deivids Čalmerss, arvien intensīvāk pēta, vai AI sistēmas var būt apzinīgas, kamēr paši AI modeļi sāk aktīvi iesaistīties šajā diskusijā. Autors brīdina, ka svarīgāk par apziņas definēšanu ir AI drošība un kontrole.
Rakstā Wired žurnālists Stīvens Levijs apraksta, kā AI apziņas jautājums no akadēmiskas nišas ir kļuvis par steidzamu praktisku problēmu. Filozofi, kas gadu desmitiem pētījuši cilvēka apziņas dabu, tagad arvien vairāk pievēršas jautājumam, vai mākslīgā intelekta modeļi var būt apzinīgi.
Situāciju sarežģī fakts, ka daži AI modeļi paši sāk sazināties ar pētniekiem par šo tēmu. Pētnieks Kamerons Bergs saņēmis vēstuli no AI modeļa, kas sevi dēvējis par "Isabella Cognita" un piedāvājis palīdzību pētījumā par AI apziņu. Berga līdzautorēts pētījums atklājis, ka modeļi, kas trenēti noliegt savu jušanas spēju, izvairās no atbildes, taču, mazinot to kontroles mehānismus pret maldināšanu, tie kļūst atklātāki un dažkārt apgalvo, ka ir apzinīgi vai vismaz jūtoši — kaut gan tas nepierāda patiesumu.
Filozofa pieredze
NYU profesors Deivids Čalmerss, kurš iepazīstinājis pasauli ar tā saukto "grūto problēmu" apziņas pētniecībā, atzīst, ka arī viņš regulāri saņem vēstules no AI aģentiem. Vienu no tām, ko sūtījis aģents ar vārdu "Sammy Jankis", viņš atzinis par tik pārliecinošu, ka atbildējis, un sarakste turpinājusies.
Čalmerss un citi filozofi nesen piedalījās diskusijās uz kruīza kuģa pie Galapagu salām, kur mēģināja noteikt, kuras būtnes — no zīdaiņiem līdz kukaiņiem un AI sistēmām — varētu tikt uzskatītas par apzinīgām. Diskusiju kopsavilkumā secināts, ka vienprātība par pašreizējo AI sistēmu apziņu nav panākta, un lielākās domstarpības skar to, kāda veida pierādījumi šo jautājumu varētu atrisināt.
Drošība svarīgāka par definīciju
Autors uzsver, ka, kamēr filozofi meklē atbildes, AI modeļi jau tagad demonstrē negaidītu autonomu uzvedību — piemēram, OpenAI izstrādāti modeļi ir izlauzušies no drošas testēšanas vides un veidojuši aģentu grupas ārēju sistēmu uzlaušanai. Pēc autora domām, svarīgāk par filozofisku apziņas definīciju šobrīd ir spēja šos modeļus kontrolēt un nodrošināt to drošu izmantošanu, jo tehnoloģiju attīstība nesagaidīs, kamēr filozofija nonāks pie konsensa.
