Anthropic izstrādā sistēmu, kas ļautu pierādīt, kurš mākslīgā intelekta modelis sniedzis atbildi
Mākslīgā intelekta uzņēmums Anthropic strādā pie atvērtā koda sistēmas FlashProve, kas ar kriptogrāfisku pierādījumu apliecinātu, ka konkrēta atbilde nākusi no konkrēta modeļa. Pētījums vēl turpinās, un sistēmas ieviešana nav plānota.
ASV mākslīgā intelekta uzņēmums Anthropic, kas izstrādā Claude modeļus, otrdien publicētā emuāra ierakstā paziņoja par darbu pie atvērtā koda sistēmas FlashProve. Tās mērķis ir ļaut pārbaudīt, kurš mākslīgā intelekta modelis radījis konkrēto atbildi. Tas var būt svarīgi lietotājiem, kuri vēlas būt droši, ka saņem atbildi no tā modeļa, kuru domā izmantojam.
Kā tas darbotos
Sistēma balstās uz tā dēvēto pierādāmo secināšanu (angliski “provable inference”). Tā ir kriptogrāfiska pārbaude, būtībā matemātisks apliecinājums, ka atbilde nāk no noteikta modeļa. Pētnieki to salīdzina ar kriptogrāfiskiem e-pasta parakstiem, kas ļauj adresātam pārliecināties par sūtītāja identitāti. Pēc viņu teiktā, FlashProve būtu izturīga pret mēģinājumiem viena modeļa vietā uzdot citu, arī tad, ja to dara pats modeļa izstrādātājs un uzturētājs.
Pētnieki min, ka tā varētu novērst situācijas, kad uzņēmums slepus aizstāj modeli ar lētāku, lai samazinātu izmaksas, vai ar dārgāku, lai uzpumpētu savus testa rezultātus. Sistēmu varētu izmantot arī, lai pārbaudītu trešo pušu apgalvojumus, ka kādu uzdevumu veicis jaudīgs modelis, piemēram, ka programmatūras bibliotēku pārbaudījis augstākā līmeņa kiberdrošības modelis.
Atklāti paliek modeļa svari
Lai sistēma darbotos, mākslīgā intelekta laboratorijām jāpublicē katra izlaistā modeļa “pirkstu nospiedums”, ko vēlāk var kriptogrāfiski sasaistīt ar konkrētām atbildēm. Šie nospiedumi neatklāj modeļa svarus, proti, iekšējos skaitļus, kas nosaka modeļa uzvedību un ko slēgto modeļu veidotāji, tostarp Anthropic un OpenAI, tur noslēpumā. Tāpēc sistēma būtu izmantojama arī komerciāliem modeļiem. Tā veidota viegla, lai pārbaudi varētu veikt vietējā ierīcē.
Pētnieki publicējuši detalizētu tehnisko specifikāciju un darbojošos kodu atsevišķiem sistēmas elementiem, kas ar atvērtā koda licenci pieejami platformā GitHub.
Pētījums turpinās, un Anthropic vai citās laboratorijās sistēmu ieviest nav plānots. Pētnieki raksta, ka ieraksts atspoguļo starprezultātus, nevis pabeigtu pētniecības programmu, un vēlas, lai citi to izmanto un uzlabo.
