Открытая операционная система для ИИ-агентов от Университета Цинхуа снижает затраты на задачи ИИ на 83%
У ИИ-агентов — программ, которые самостоятельно планируют и выполняют многошаговые задачи, — проблема с репутацией. Они забывают, что делали два шага назад, повторяют дорогостоящие вызовы больших языковых моделей и незаметно сжигают бюджет компании. Команда из Университета Цинхуа считает, что решение — не в более умной модели, а в лучшем месте для жизни агентов.
Лаборатория обработки естественного языка университета (THUNLP) совместно с ИИ-компанией ModelBest и открытым сообществом OpenBMB выпустила PilotDeck 2.0 — открытую операционную систему, созданную специально для ИИ-агентов. По словам команды, система сокращает затраты на выполнение агентских задач на 83 процента, главным образом за счёт уменьшения избыточных вызовов моделей и управления тем, что агент запоминает.
Память — главная особенность. В PilotDeck память агента можно искать и редактировать: пользователи или разработчики могут просмотреть, что агент сохранил, исправить или удалить это. Это важно для длительных рабочих процессов, где агент, неправильно запомнивший раннюю инструкцию, склонен повторять ошибку на протяжении всей задачи. Возможность проверять и изменять эту память превращает непрозрачный процесс в нечто большее, похожее на общий блокнот.
Система также нативно поддерживает MCP (Model Context Protocol) — открытый стандарт, позволяющий ИИ-моделям подключаться к внешним инструментам и источникам данных. Нативная поддержка означает, что агент, работающий на PilotDeck, может подключаться к внешним сервисам без специального связующего кода для каждого из них, что часто является источником хрупкости в агентских проектах.
Релиз является частью более широкого движения в Китае в сторону инфраструктуры для агентов, а не просто более крупных моделей. THUNLP — одна из самых известных академических групп по ИИ в стране, а ModelBest, стартап, связанный с Цинхуа, разрабатывает лёгкие модели и инструментарий OpenBMB — основу нескольких популярных открытых проектов. Создание слоя операционной системы между моделями и задачами — это ставка на то, что следующий рывок произойдёт за счёт оркестрации, а не чистого интеллекта.
Для разработчиков по всему миру привлекательность практична. Сегодня агентские фреймворки фрагментированы, а затраты быстро растут, когда задача требует десятков вызовов моделей. Система, которая обещает сократить эти расходы более чем на четыре пятых, сохраняя при этом проверяемость памяти, решает две наиболее частые жалобы команд, внедряющих агентов в производство: непредсказуемость и дороговизну.
К цифре в 83 процента стоит относиться с обычной осторожностью. Экономия затрат сильно зависит от задачи, используемой модели и конфигурации агента, и настоящим испытанием станут независимые бенчмарки. Однако открытый исходный код системы облегчает проведение такого теста.
Более важный сигнал — куда движется конкуренция. По мере сближения качества моделей борьба смещается на слой, который решает, какая модель что делает, когда и по какой цене. Если операционная система Цинхуа выполнит хотя бы часть обещаний, следующую волну ИИ-агентов будут оценивать меньше по тому, насколько они умны, и больше по тому, насколько хорошо они управляются.