В мире искусственного интеллекта творится что-то невероятное.

В пятницу создатель Claude Code Борис Черни выступил на конференции Meta @Scale, и, к всеобщему удивлению, первый вопрос из зала был о циклах.

«Зацикленные видеоролики — это следующий этап ажиотажа, — спросил задавший вопрос, — или они уже стали реальностью?»

Черни ответил категоричным «да, это правда», — сказал он.

«Два года назад мы писали исходный код вручную. Затем мы начали переход к тому, чтобы код писали агенты. И теперь мы переходим к тому, чтобы агенты задавали агентам подсказки, а те затем писали код», — продолжил он. «Каким бы важным ни был этот шаг от исходного кода к агентам, циклы так же важны и являются таким же значительным шагом».

Позже в своем выступлении (примерно на 32-й минуте видео на YouTube, размещенного выше) Черни подробно рассказал о циклах, которые он постоянно использует в своей работе. Один агент постоянно ищет способы улучшить архитектуру кода, а другой — дублирующиеся абстракции, которые можно объединить. Они отправляют запросы на слияние, как и любой другой программист, и поскольку код постоянно меняется, они никогда не прекращают свою работу.

Это мощная идея, особенно учитывая поддержку такой значимой фигуры, как Черни. С переходом к агентному ИИ большинство пользователей сосредоточились на максимально эффективном управлении своими агентами: установлении четких целей, отслеживании отдельных этапов прогресса и недопустимости отклонения от заданных параметров. Предложенный цикл идет еще дальше, позволяя множеству агентов непрерывно работать в фоновом режиме, бесконечно. Это большая вера в ИИ, но, учитывая быстрое совершенствование моделей, это может стать следующим шагом на пути к тому, чтобы ИИ мог выполнять реальную работу.

Прежде всего, следует понимать, что это не совсем новое явление. Рекурсивные циклы — функции, которые вызывают сами себя для повторения действия, а также условие, которое останавливает цикл, — являются неотъемлемой частью вводных курсов по информатике. Эти циклы следуют недетерминированной логике — то есть, решение о завершении цикла принимает вспомогательный агент, а не какое-либо четко заданное условие, — но основной подход остается тем же. Как только программисты начали использовать ИИ для выполнения задач, неизбежно возникла какая-либо версия рекурсивного цикла, где ИИ управляет ИИ.

В отличие от классических вычислений, агентные циклы могут быть до смешного простыми. Один из самых популярных приемов — это цикл Ральфа (названный в честь Ральфа Виггама), который, по сути, суммирует всю проделанную моделью работу и спрашивает, достигла ли она своей цели. Это способ решения проблемы, когда модели ИИ теряются, работая слишком долго — по сути, модель постоянно возвращается к исходным настройкам, пока задача не будет выполнена.

Другой способ осмысления циклов — это рассматривать их как часть общего стремления к увеличению вычислительных ресурсов во время тестирования. Как отметил исследователь OpenAI Ноам Браун в начале этого месяца, современные модели могут решить практически любую задачу, если им предоставить достаточно вычислительных ресурсов. Это означает, что один из способов гарантировать решение задачи — это просто продолжать предоставлять ей вычислительные ресурсы до тех пор, пока она не будет решена. Это особенно верно для задач, требующих постоянного совершенствования, таких как улучшение кодовой базы, где модель может просто продолжать вносить постепенные улучшения, пока не достигнет заданного порога. Или, как в примере Черни, она может просто продолжать вносить постепенные улучшения до тех пор, пока есть вычислительные ресурсы для ее обработки.

Если это звучит дорого, так и должно быть. Как и агентный ИИ до него, циклы ИИ расходуют токены гораздо быстрее, чем простые чат-боты с вопросами и ответами — и поскольку цель состоит в том, чтобы цикл работал постоянно, нет предела тому, сколько вы можете потратить. Это хорошо для Anthropic, которая в конечном итоге занимается продажей токенов, но для всех остальных это может быть дорогостоящим способом работы.

Тем не менее, в зависимости от проблемы, которую пытается решить агентный цикл, и правильной настройки, позволяющей контролировать расходование токенов, отклонения и другие классические проблемы ИИ, преимущества могут быть настолько значительными, что перевесят затраты.

Источник: techcrunch.com