Il sistema operativo open-source per agenti di Tsinghua riduce dell'83% i costi dei compiti AI
Gli agenti AI — programmi che pianificano ed eseguono compiti multi-step in autonomia — hanno un problema di reputazione. Dimenticano ciò che hanno fatto due passaggi prima, ripetono chiamate costose ai grandi modelli linguistici e consumano silenziosamente il budget di un’azienda. Un team dell’Università Tsinghua ritiene che la soluzione non sia un modello più intelligente, ma un ambiente migliore in cui gli agenti possano operare.
Il Laboratorio di Elaborazione del Linguaggio Naturale dell’università (THUNLP), in collaborazione con l’azienda di AI ModelBest e la comunità open-source OpenBMB, ha rilasciato PilotDeck 2.0, un sistema operativo open-source costruito specificamente per gli agenti AI. Il team afferma che il sistema riduce dell’83 percento il costo di esecuzione dei compiti degli agenti, principalmente riducendo le chiamate ridondanti ai modelli e gestendo ciò che l’agente ricorda.
La memoria è la funzionalità principale. In PilotDeck, la memoria di un agente può essere cercata e modificata — utenti o sviluppatori possono consultare ciò che l’agente ha memorizzato, correggerlo o rimuoverlo. Questo è importante per i flussi di lavoro di lunga durata, dove un agente che ricorda male un’istruzione iniziale tende a ripetere l’errore per l’intero compito. Poter ispezionare e modificare quella memoria trasforma un processo opaco in qualcosa di più simile a un quaderno condiviso.
Il sistema supporta inoltre nativamente MCP, il Model Context Protocol, uno standard aperto che consente ai modelli AI di collegarsi a strumenti e fonti dati esterni. Il supporto nativo significa che un agente in esecuzione su PilotDeck può connettersi a servizi esterni senza codice di collegamento personalizzato per ciascuno, una fonte comune di fragilità nei progetti sugli agenti.
Il rilascio fa parte di una spinta più ampia in Cina verso l’infrastruttura per agenti piuttosto che solo modelli più grandi. THUNLP è uno dei gruppi accademici di AI più noti del paese, e ModelBest, una startup legata a Tsinghua, ha sviluppato modelli leggeri e il toolkit OpenBMB — la base di diversi progetti open-source popolari. Mettere uno strato di sistema operativo tra modelli e compiti è una scommessa sul fatto che l’orchestrazione, non l’intelligenza grezza, sia da dove arriveranno i prossimi guadagni.
Per gli sviluppatori globali, l’attrattiva è pratica. I framework per agenti oggi sono frammentati, e i costi crescono rapidamente quando un compito richiede dozzine di chiamate ai modelli. Un sistema che afferma di ridurre quella spesa di oltre quattro quinti mantenendo la memoria verificabile affronta due delle lamentele più comuni dei team che implementano agenti in produzione: imprevedibilità e spese.
Vale la pena trattare la cifra dell’83 percento con la solita cautela. I risparmi sui costi dipendono fortemente dal compito, dal modello utilizzato e da come è configurato l’agente, e i benchmark indipendenti saranno il vero test. Rendere il sistema open-source, tuttavia, rende quel test più facile da eseguire.
Il segnale più importante è dove si sta dirigendo la competizione. Man mano che la qualità dei modelli converge, la lotta si sposta verso lo strato che decide quale modello fa cosa, quando e a quale prezzo. Se il sistema operativo di Tsinghua mantiene anche solo parte della sua promessa, la prossima ondata di agenti AI potrebbe essere giudicata meno per quanto sono intelligenti e più per quanto sono ben gestiti.