Open-source agent OS van Tsinghua verlaagt AI-taakkosten met 83%
AI-agenten — programma’s die zelfstandig meerstaps-taken plannen en uitvoeren — hebben een reputatieprobleem. Ze vergeten wat ze twee stappen eerder deden, herhalen dure aanroepen naar grote taalmodellen en verbruiken stilletjes het budget van een bedrijf. Een team van de Tsinghua Universiteit denkt dat de oplossing niet een slimmer model is, maar een betere plek voor agenten om te leven.
Het Natural Language Processing Lab (THUNLP) van de universiteit heeft, samen met AI-bedrijf ModelBest en de open-sourcegemeenschap OpenBMB, PilotDeck 2.0 uitgebracht, een open-source besturingssysteem dat speciaal voor AI-agenten is gebouwd. Het team zegt dat het systeem de kosten van het uitvoeren van agenttaken met 83 procent verlaagt, voornamelijk door redundante modelaanroepen te verminderen en te beheren wat de agent onthoudt.
Geheugen is de belangrijkste functie. In PilotDeck kan het geheugen van een agent worden doorzocht en bewerkt — gebruikers of ontwikkelaars kunnen opzoeken wat de agent heeft opgeslagen, het corrigeren of verwijderen. Dat is belangrijk voor langdurige workflows, waar een agent die een vroege instructie verkeerd onthoudt de fout doorgaans over een hele taak herhaalt. Het kunnen inspecteren en wijzigen van dat geheugen verandert een ondoorzichtig proces in iets dat meer op een gedeeld notitieboek lijkt.
Het systeem ondersteunt ook native MCP, het Model Context Protocol, een open standaard waarmee AI-modellen kunnen worden aangesloten op externe tools en databronnen. Native ondersteuning betekent dat een agent op PilotDeck verbinding kan maken met externe diensten zonder aangepaste glue-code voor elk daarvan, een veelvoorkomende bron van kwetsbaarheid in agentprojecten.
De release maakt deel uit van een bredere Chinese push naar agentinfrastructuur in plaats van alleen grotere modellen. THUNLP is een van de bekendste academische AI-groepen van het land, en ModelBest, een aan Tsinghua gelieerde startup, bouwt aan lichtgewicht modellen en de OpenBMB-toolkit — de basis achter verschillende populaire open-sourceprojecten. Een besturingssysteemlaag tussen modellen en taken plaatsen is een gok dat orchestratie, niet ruwe intelligentie, de volgende ronde winst zal opleveren.
Voor wereldwijde ontwikkelaars is de aantrekkingskracht praktisch. Agentframeworks zijn vandaag de dag versnipperd, en kosten lopen snel op wanneer een taak tientallen modelaanroepen vereist. Een systeem dat beweert die uitgaven met meer dan vier vijfde te verlagen terwijl het geheugen controleerbaar blijft, pakt twee van de meest voorkomende klachten aan van teams die agenten in productie implementeren: onvoorspelbaarheid en kosten.
Het is verstandig het cijfer van 83 procent met de gebruikelijke voorzichtigheid te behandelen. Kostenbesparingen hangen sterk af van de taak, het gebruikte model en hoe de agent is geconfigureerd, en onafhankelijke benchmarks zullen de echte test zijn. Het open-sourcen van het systeem maakt die test echter gemakkelijker uit te voeren.
Het grotere signaal is waar de concurrentie naartoe gaat. Naarmate de modelkwaliteit convergeert, verschuift de strijd naar de laag die bepaalt welk model wat doet, wanneer en tegen welke prijs. Als het besturingssysteem van Tsinghua zelfs maar een deel van zijn belofte waarmaakt, wordt de volgende golf AI-agenten misschien minder beoordeeld op hoe slim ze zijn en meer op hoe goed ze worden beheerd.