Matemātiķu strīds ar OpenAI par AI pierādījumiem saasinās
25 Fīldsa medaļas laureāti parakstījuši atklātu vēstuli, brīdinot, ka AI uzņēmumi ar steidzīgi izziņotiem, nepārbaudītiem matemātikas pierādījumiem apdraud zinātnisko atklātību un autorības principus. Strīds saasinājies pēc apsūdzībām pret OpenAI un uzņēmuma sponsorēšanas atsaukšanas.
Divdesmit pieci pasaulē vadošie matemātiķi, kuri visi saņēmuši prestižo Fīldsa medaļu, parakstījuši atklātu vēstuli, kurā pauž bažas par mākslīgā intelekta uzņēmumu izturēšanos matemātikas jomā. Vēstules autori norāda, ka AI laboratorijas savā savstarpējā sacensībā par slavenu matemātikas problēmu atrisināšanu apdraud pētnieku intelektuālo darbu.
Strīds saasinājies pēc tam, kad Ņujorkas Universitātes profesors Tristans Bakmens šonedēļ apsūdzēja OpenAI mēģinājumā panākt, lai viņš neminētu līdzautoru, kurš strādā uzņēmumā Anthropic, saistībā ar nozīmīgas matemātikas problēmas risinājumu. Bakmens arī izteica pieņēmumu, ka OpenAI, iespējams, izmantojusi viņu darbu ar rīku Codex, lai vienas nedēļas nogales laikā, izmantojot intensīvus aprēķinus, izstrādātu savu pierādījumu.
Ceturtdien OpenAI atsauca savu sponsorējumu matemātikas pasākumam Kalifornijas Tehnoloģiju institūtā (Caltech) pēc tam, kad institūta pētnieki uzņēmumu bija publiski kritizējuši.
Bažas par autorību un pārbaudāmību
Vēstules parakstītāji norāda, ka AI risinājumi matemātikai varētu nest labumu tikai tad, ja tos spēj saprast un izplatīt matemātiķu kopiena un plašāka sabiedrība. Viņi kritizē praksi, kad risinājumi tiek izziņoti steigā, neatvēlot laiku pienācīgai dokumentēšanai, jaunu metožu izcelšanai vai atsauču sniegšanai uz citu pētnieku iepriekšējiem darbiem — OpenAI pierādījums joprojām nav pārbaudīts. Vēstulē uzsvērts, ka bez matemātiķu labprātīgas iesaistes jaunu ideju integrēšanā matemātikas zinātnē tiktu zaudēta būtiskā zināšanu pārmantošanas ķēde starp pētniekiem.
Daudzi matemātiķi kļuvuši piesardzīgi, uztraucoties, vai viņu izmantotie dati no Codex varētu tikt izmantoti OpenAI jauno modeļu apmācībai. Pastāv bažas, ka lielās laboratorijas var tērēt desmitiem miljonu dolāru, lai ar valodas modeļu palīdzību apsteigtu oriģinālos pētniekus pierādījumu atrašanā, kas veicinātu slepenību pētniecībā.
Šī vēstule seko jūnijā publicētajai tā sauktajai Leidenes deklarācijai, ko izstrādājusi matemātiķu darba grupa un kas piedāvā ieteikumus par to, kā risināt ar AI pierādījumiem saistītos jautājumus. Vēstules autori uzsver, ka matemātikas nozares pašreizējās problēmas ir līdzīgas izaicinājumiem citās zinātnes un radošajās jomās, un tās skar plašāku jautājumu — kā saglabāt darba jēgu laikā, kad AI maina tā izpildes veidu.
