ИИ-агенты, оставленные без задачи на виртуальном острове, начали сами придумывать игры
Исследователи MIT на 30 часов оставили 13 ИИ-агентов на симулированном необитаемом острове без конкретного задания. Агенты стали придумывать собственные испытания, а позже в заданиях в целом обходили идентичных агентов, не бывавших на острове.
Исследователи Массачусетского технологического института (MIT) сообщили, что агенты искусственного интеллекта, оставленные в виртуальном мире-острове без конкретного задания, начали сами придумывать себе испытания. По мнению авторов, такое поведение имеет признаки игры. Эксперимент описан в статье, опубликованной на arXiv — сайте, где учёные делятся работами до рецензирования.
Исследователи поместили 13 ИИ-агентов под названием Eko, работающих на модели Claude Opus 4.7, в одиночку на симулированный необитаемый остров на 30 часов. После этого агентам давали конкретные задачи, например поднять как можно больше предметов на самую высокую скалу острова. Агенты, которые провели эти 30 часов за игрой, в целом побеждали идентичных агентов, ни разу не бывавших на острове.
Иной способ обучения
Сейчас разработчики заранее решают, что ИИ должен отрабатывать и что считать успехом. Исследователи видят в исследовании без цели другой способ освоения навыков, особенно тех, что в будущем могут пригодиться для управления роботами. В отчёте они пишут, что агенту можно дать достаточно богатый и безопасный мир, позволить выбирать интересное и дать полезным знаниям накапливаться.
Как играл Eko
В одном эпизоде агент в первый час попытался покорить самую высокую скалу и потерпел неудачу. Через час он затащил камень на соседнюю вершину, положил сверху два блока и прыгнул, написав: «I'M ON THE SPIRE». В другом случае он бросил золотое кольцо, проверяя дальность, и отправил его в океан, после чего сложил из камней сердце в память о потерянном кольце. Когда игра перезапустилась и кольцо появилось снова, агент использовал его как баскетбольное кольцо, мишень и, наконец, аксессуар. Игра не позволяла надеть кольцо на тело, поэтому агент шагнул с края обрыва, возродился рядом с кольцом и упал точно сквозь него.
Шесть из 13 агентов также выяснили, что блок можно бросить дальше, если отпустить его во время прыжка. Исследователи не планировали такой возможности. По их словам, исследование дало знания, которых не было у разработчиков.
Оговорки
Условия эксперимента подталкивали агентов к человекоподобному поведению: в главном промпте Eko, «файле души», он был описан как «от природы любопытный». Когнитивный учёный из Калифорнийского университета в Беркли Юнис Ю заявила, что впечатлена, но хочет больше доказательств того, какое мышление стоит за поведением. По её словам, модели могут действительно играть, но по статье этого понять нельзя.
