Эксперимент Y Combinator: 50 ИИ-агентов в Minecraft пытались построить цивилизацию, но боролись с нехваткой еды
Y Combinator совместно с Olam Labs в течение трёх часов изучал поведение 50 ИИ-агентов в Minecraft. Агенты создали псевдоправительство с нормированием еды и стали осторожнее после 34 гибелей.
Стартап-акселератор Y Combinator вместе с компанией Olam Labs, которая создаёт среды для нескольких агентов для ведущих лабораторий ИИ, опубликовал итоги экспериментов в видеоигре Minecraft — игре на выживание с открытым миром. Исследователи наблюдали, как большие группы агентов искусственного интеллекта действуют ради общей цели. Понимание такой групповой динамики названо одной из самых острых задач в области безопасности и согласования ИИ.
Как был устроен эксперимент
Для проекта команда создала новую среду, в которой агенты могут наблюдать мир, рассуждать, запоминать, действовать, отправлять сообщения и писать скрипты. Она опирается на инструменты Mineflayer, основной агентный цикл работает на Pi, а код опубликован в открытом доступе.
В одном из запусков, названном Civ50, 50 агентов на основе модели GPT-6.1 Sol три часа провели в мире выживания с целью «построить процветающую цивилизацию». У них были каталог агентов, общая рабочая среда и возможность отправлять личные сообщения. Всего они отправили около 5900 сообщений.
Что произошло
Сначала агенты разошлись по карте и сосредоточились на заготовке древесины: почти все деревья возле точки появления были вырублены за 90 секунд. Иерархия сложилась по порядку в каталоге, а фактическим лидером стала Ада, стоявшая в списке первой. Она составила в общей среде план поселения, а позже — памятку по организации питания.
Самой потерьной оказалась первая ночь: 22 из 34 гибелей агентов пришлись на неё. Смерть стоила агентам лишь накопленного снаряжения, однако затем они прятались в убежищах по ночам и брались за меньшее число рискованных задач. После третьей ночи Ада велела прекратить необязательные раскопки, строительство и дальнюю разведку.
Главной проблемой стала еда. Агенты ввели систему рационов, которой управляла агент Инес: она отслеживала, что поступает в сундуки и что из них берут, а запросы обрабатывала через файл food-queue.md. Вместо процветающей цивилизации колония в основном занималась выживанием.
Сейчас исследователи ведут новый эксперимент с колонией из 25 агентов GPT-6.1 Terra; за ним можно следить на Twitch.
