🔥HotNews.pub

Tsinghuas Open-Source-Agenten-OS senkt KI-Aufgabenkosten um 83 %

3 Min. Lesezeit
Tsinghuas Open-Source-Agenten-OS senkt KI-Aufgabenkosten um 83 %

KI-Agenten – Programme, die selbstständig mehrstufige Aufgaben planen und ausführen – haben ein Reputationsproblem. Sie vergessen, was sie vor zwei Schritten getan haben, wiederholen teure Aufrufe großer Sprachmodelle und verbrennen still und leise das Budget eines Unternehmens. Ein Team der Tsinghua-Universität glaubt, dass die Lösung nicht ein intelligenteres Modell ist, sondern ein besserer Ort, an dem Agenten leben können.

Das Natural Language Processing Lab (THUNLP) der Universität hat zusammen mit dem KI-Unternehmen ModelBest und der Open-Source-Community OpenBMB PilotDeck 2.0 veröffentlicht, ein Open-Source-Betriebssystem, das speziell für KI-Agenten entwickelt wurde. Das Team gibt an, dass das System die Kosten für die Ausführung von Agentenaufgaben um 83 Prozent senkt, hauptsächlich durch die Reduzierung redundanter Modellaufrufe und die Verwaltung dessen, woran sich der Agent erinnert.

Der Speicher ist die Hauptfunktion. In PilotDeck kann der Speicher eines Agenten durchsucht und bearbeitet werden – Benutzer oder Entwickler können nachsehen, was der Agent gespeichert hat, es korrigieren oder entfernen. Das ist wichtig für langlaufende Workflows, bei denen ein Agent, der sich an eine frühe Anweisung falsch erinnert, dazu neigt, den Fehler über eine gesamte Aufgabe hinweg zu wiederholen. Die Möglichkeit, diesen Speicher zu inspizieren und zu ändern, verwandelt einen undurchsichtigen Prozess in etwas, das einem gemeinsamen Notizbuch näher kommt.

Das System unterstützt außerdem nativ MCP, das Model Context Protocol, einen offenen Standard, der es KI-Modellen ermöglicht, sich mit externen Tools und Datenquellen zu verbinden. Native Unterstützung bedeutet, dass ein auf PilotDeck laufender Agent sich ohne maßgeschneiderten Klebecode für jede einzelne Verbindung mit externen Diensten verbinden kann – eine häufige Quelle von Fragilität in Agentenprojekten.

Die Veröffentlichung ist Teil eines breiteren Vorstoßes in China hin zu Agenteninfrastruktur statt nur zu größeren Modellen. THUNLP ist eine der bekanntesten akademischen KI-Gruppen des Landes, und ModelBest, ein mit Tsinghua verbundenes Startup, hat leichte Modelle und das OpenBMB-Toolkit entwickelt – die Grundlage hinter mehreren beliebten Open-Source-Projekten. Eine Betriebssystemschicht zwischen Modelle und Aufgaben zu legen, ist eine Wette darauf, dass Orchestrierung und nicht rohe Intelligenz die Quelle der nächsten Fortschritte sein wird.

Für globale Entwickler ist der Reiz praktischer Natur. Agenten-Frameworks sind heute fragmentiert, und die Kosten steigen schnell, wenn eine Aufgabe Dutzende von Modellaufrufen erfordert. Ein System, das verspricht, diese Ausgaben um mehr als vier Fünftel zu senken und gleichzeitig den Speicher überprüfbar zu halten, adressiert zwei der häufigsten Beschwerden von Teams, die Agenten in der Produktion einsetzen: Unvorhersehbarkeit und Kosten.

Die 83-Prozent-Zahl sollte mit der üblichen Vorsicht behandelt werden. Die Kosteneinsparungen hängen stark von der Aufgabe, dem verwendeten Modell und der Konfiguration des Agenten ab, und unabhängige Benchmarks werden der eigentliche Test sein. Die Open-Source-Veröffentlichung des Systems erleichtert diesen Test jedoch.

Das größere Signal ist, wohin der Wettbewerb steuert. Während die Modellqualität konvergiert, verschiebt sich der Kampf auf die Schicht, die entscheidet, welches Modell was, wann und zu welchem Preis tut. Wenn Tsinghuas Betriebssystem auch nur einen Teil seines Versprechens einlöst, könnte die nächste Welle von KI-Agenten weniger danach beurteilt werden, wie klug sie sind, sondern danach, wie gut sie verwaltet werden.

Zu einem zufälligen Beitrag aus dem Archiv springen

Themen-Beziehungsgraph

Dickere Linie = häufigeres gemeinsames Auftreten · Knoten anklicken öffnet die Tag-Seite