칭화대 오픈소스 AI 에이전트 OS, AI 작업 비용 83% 절감

AI 에이전트 — 스스로 다단계 작업을 계획하고 수행하는 프로그램 — 는 평판 문제를 안고 있다. 두 단계 전에 했던 일을 잊어버리고, 대규모 언어 모델에 대한 값비싼 호출을 반복하며, 회사 예산을 조용히 소진한다. 칭화대학교의 한 팀은 해결책이 더 똑똑한 모델이 아니라 에이전트가 살 더 나은 환경에 있다고 생각한다.

칭화대학교 자연어처리연구소(THUNLP)는 AI 기업 ModelBest 및 오픈소스 커뮤니티 OpenBMB와 협력하여 AI 에이전트를 위해 특별히 구축된 오픈소스 운영체제 ‘PilotDeck 2.0’을 출시했다. 팀에 따르면 이 시스템은 주로 중복 모델 호출을 줄이고 에이전트가 기억하는 내용을 관리함으로써 에이전트 작업 실행 비용을 83% 절감한다.

메모리가 핵심 기능이다. PilotDeck에서 에이전트의 메모리는 검색 및 편집이 가능하다. 사용자나 개발자는 에이전트가 저장한 내용을 조회하고, 수정하거나 삭제할 수 있다. 이는 장기 실행 워크플로에 중요하다. 초기 지시를 잘못 기억한 에이전트는 전체 작업에 걸쳐 실수를 반복하는 경향이 있기 때문이다. 메모리를 검사하고 변경할 수 있다는 것은 불투명한 프로세스를 공유 노트북에 가까운 것으로 바꿔준다.

이 시스템은 또한 AI 모델이 외부 도구 및 데이터 소스에 연결할 수 있게 하는 개방형 표준인 MCP(Model Context Protocol)를 기본 지원한다. 기본 지원이란 PilotDeck에서 실행되는 에이전트가 각 서비스에 대한 맞춤형 연결 코드 없이 외부 서비스에 연결할 수 있음을 의미하며, 이는 에이전트 프로젝트에서 흔한 취약점의 원인이다.

이번 출시는 중국이 단순히 더 큰 모델을 넘어 에이전트 인프라로 나아가는 광범위한 흐름의 일부다. THUNLP는 중국에서 가장 잘 알려진 학술 AI 그룹 중 하나이며, 칭화대와 연계된 스타트업 ModelBest는 경량 모델과 여러 인기 오픈소스 프로젝트의 기반인 OpenBMB 툴킷을 구축해 왔다. 모델과 작업 사이에 운영체제 계층을 두는 것은 다음 단계의 이득이 순수한 지능이 아닌 오케스트레이션에서 나올 것이라는 베팅이다.

전 세계 개발자에게 매력은 실용적이다. 오늘날 에이전트 프레임워크는 파편화되어 있고, 작업에 수십 번의 모델 호출이 필요하면 비용이 빠르게 증가한다. 메모리를 감사 가능하게 유지하면서 지출을 5분의 4 이상 줄인다고 주장하는 시스템은 프로덕션에 에이전트를 배포하는 팀의 가장 흔한 불만 두 가지인 예측 불가능성과 비용 문제를 해결한다.

83%라는 수치는 평소의 주의를 기울여 다룰 가치가 있다. 비용 절감은 작업, 사용된 모델, 에이전트 구성에 크게 의존하며, 독립적인 벤치마크가 진정한 시험대가 될 것이다. 그러나 시스템을 오픈소스화함으로써 그 테스트를 더 쉽게 실행할 수 있게 된다.

더 큰 신호는 경쟁이 향하는 방향이다. 모델 품질이 수렴함에 따라 싸움은 어떤 모델이 무엇을, 언제, 어떤 가격에 수행할지를 결정하는 계층으로 이동하고 있다. 칭화대의 운영체제가 그 약속의 일부라도 이행한다면, 차세대 AI 에이전트는 얼마나 똑똑한지보다 얼마나 잘 관리되는지로 평가받게 될 것이다.