Мир ИИ становится «зацикленным»: непрерывные агентные циклы

В пятницу на конференции Meta @Scale Борис Черни, создатель Claude Code, столкнулся с вопросом из зала: являются ли циклы очередным хайпом или они реальны? Черни уверенно ответил, что они реальны и так же важны, как переход от рукописного кода к коду, написанному агентами.

Он объяснил, что два года назад код писали вручную, затем перешли к агентам, пишущим код, а сейчас происходит переход к тому, что агенты побуждают других агентов писать код. В своей работе Черни использует циклы, где один агент постоянно ищет способы улучшить архитектуру кода, а другой — ищет дублирующиеся абстракции для объединения. Они отправляют пулл-реквесты, как любой программист, и, поскольку код постоянно меняется, они никогда не останавливаются.

Хотя рекурсивные циклы — классическая концепция в информатике, эти ИИ-циклы следуют недетерминированной логике: подчиненный агент решает, когда остановить цикл, вместо четкого условия. Один из популярных трюков — цикл Ральфа (названный в честь Ральфа Виггама), который суммирует всю выполненную работу и спрашивает, достигнута ли цель, предотвращая «потерю» модели при длительной работе.

Циклы являются частью стремления к увеличению вычислительных ресурсов во время тестирования. Как отметил исследователь OpenAI Ноам Браун, современные модели могут решить почти любую проблему, если дать им достаточно вычислений. Циклы позволяют продолжать тратить вычислительные мощности, пока задача не будет решена, особенно для задач поэтапного улучшения, таких как доработка кода.

Однако такой подход сжигает токены намного быстрее, чем простые чат-боты для вопросов и ответов, и поскольку циклы работают непрерывно, стоимость не имеет предела. Черни признал, что это дорого, но при правильном контроле расходов токенов и дрейфа модели выгоды могут быть огромными. В целом, циклы представляют собой новый уровень доверия к ИИ для выполнения реальной работы в фоне.