Y Combinator eksperimentā 50 MI aģentu Minecraft pasaulē centās izveidot civilizāciju, bet cīnījās ar badu
Y Combinator sadarbībā ar uzņēmumu Olam Labs trīs stundas pētīja 50 mākslīgā intelekta aģentu uzvedību Minecraft spēlē. Aģenti izveidoja pseidovaldību ar pārtikas devu uzskaiti, taču 34 reizes gājuši bojā, kļuva arvien piesardzīgāki.
Jaunuzņēmumu akselerators Y Combinator kopā ar uzņēmumu Olam Labs, kas izstrādā vairāku aģentu vides vadošajām mākslīgā intelekta laboratorijām, publiskojis eksperimentu rezultātus. Pētnieki Minecraft datorspēlē (atvērtas pasaules izdzīvošanas spēle) vēroja, kā liels mākslīgā intelekta aģentu skaits rīkojas kopīga mērķa labā. Šādu aģentu grupu uzvedības izpratne tiek uzskatīta par vienu no aktuālākajiem uzdevumiem MI drošības jomā.
Eksperimenta iekārtojums
Eksperimentam komanda izveidoja jaunu vidi, kurā aģenti var vērot pasauli, domāt, atcerēties, rīkoties, sūtīt ziņas un rakstīt skriptus. Tā balstīta uz Mineflayer rīkiem, un tās kods ir atvērts. Galvenais aģentu cikls darbojas ar rīku Pi.
Vienā no mēģinājumiem, ko sauc par Civ50, 50 aģenti, kuru pamatā bija modelis GPT-6.1 Sol, trīs stundas darbojās izdzīvošanas pasaulē ar uzdevumu „izveidot plaukstošu civilizāciju”. Tiem bija pieejams aģentu katalogs, kopīga darba vide un privāto ziņu sūtīšana. Kopumā aģenti nosūtīja aptuveni 5900 ziņu.
Kas notika
Sākumā aģenti izklīda pa karti un galvenokārt vāca koksni: gandrīz visus kokus spawn punkta tuvumā tie izcirta 90 sekunžu laikā. Hierarhija izveidojās pēc aģentu kataloga secības, un par neoficiālo vadītāju kļuva pirmā sarakstā esošā aģente Ada. Viņa kopīgajā vidē sarakstīja apmetnes plānu, bet vēlāk pārtikas operāciju atgādinājumu.
Visvairāk zaudējumu bija pirmajā naktī: 22 no 34 aģentu bojāejām notika tad. Nāve spēlē bija saistīta tikai ar uzkrātā inventāra pazaudēšanu, tomēr pēc tam aģenti naktīs slēpās patversmēs un uzsāka mazāk riskantu darbu. Pēc trešās nakts Ada aicināja pārtraukt neobligāto rakšanu, celtniecību un tālu izlūkošanu.
Uzmanības centrā nonāca pārtika. Aģenti izveidoja devu sistēmu, kuru vadīja aģente Ines: viņa uzskaitīja, kas nonāk kopīgajās kastēs un kas tiek izņemts, un pieprasījumus apstrādāja failā food-queue.md. Plaukstošas civilizācijas vietā koloniju galvenokārt nodarbināja izdzīvošana.
Pašlaik pētnieki veic jaunu eksperimentu ar 25 GPT-6.1 Terra aģentiem, kuru var sekot līdzi Twitch platformā.
