Sistem Operasi Agen Open-Source Tsinghua Pangkas Biaya Tugas AI hingga 83%

Agen AI — program yang merencanakan dan menjalankan tugas multi-langkah sendiri — punya masalah reputasi. Mereka lupa apa yang dilakukan dua langkah sebelumnya, mengulangi panggilan mahal ke model bahasa besar, dan diam-diam menghabiskan anggaran perusahaan. Tim di Universitas Tsinghua berpikir solusinya bukan model yang lebih pintar, melainkan tempat yang lebih baik bagi agen untuk hidup.

Laboratorium Pemrosesan Bahasa Alami universitas tersebut (THUNLP), bekerja sama dengan perusahaan AI ModelBest dan komunitas open-source OpenBMB, telah merilis PilotDeck 2.0, sistem operasi open-source yang dibangun khusus untuk agen AI. Tim tersebut mengatakan sistem ini memangkas biaya menjalankan tugas agen sebesar 83 persen, sebagian besar dengan mengurangi panggilan model yang berlebihan dan mengelola apa yang diingat agen.

Memori adalah fitur utama. Di PilotDeck, memori agen dapat dicari dan diedit — pengguna atau pengembang dapat mencari apa yang telah disimpan agen, mengoreksinya, atau menghapusnya. Itu penting untuk alur kerja yang berjalan lama, di mana agen yang salah mengingat instruksi awal cenderung mengulangi kesalahan sepanjang seluruh tugas. Kemampuan memeriksa dan mengubah memori itu mengubah proses yang tidak transparan menjadi sesuatu yang lebih mirip buku catatan bersama.

Sistem ini juga mendukung secara native MCP, Model Context Protocol, standar terbuka yang memungkinkan model AI terhubung ke alat dan sumber data eksternal. Dukungan native berarti agen yang berjalan di PilotDeck dapat terhubung ke layanan luar tanpa kode perekat khusus untuk masing-masing, sumber kerapuhan umum dalam proyek agen.

Rilis ini adalah bagian dari dorongan lebih luas di Tiongkok menuju infrastruktur agen, bukan sekadar model yang lebih besar. THUNLP adalah salah satu kelompok AI akademik paling terkenal di negara itu, dan ModelBest, startup yang terkait dengan Tsinghua, telah membangun model ringan dan toolkit OpenBMB — fondasi di balik beberapa proyek open-source populer. Menempatkan lapisan sistem operasi antara model dan tugas adalah taruhan bahwa orkestrasi, bukan kecerdasan mentah, adalah tempat keuntungan putaran berikutnya akan datang.

Bagi pengembang global, daya tariknya praktis. Kerangka kerja agen saat ini terfragmentasi, dan biaya membengkak dengan cepat ketika suatu tugas memerlukan puluhan panggilan model. Sistem yang mengklaim memangkas pengeluaran itu lebih dari empat per lima sambil menjaga memori tetap dapat diaudit menjawab dua keluhan paling umum dari tim yang menerapkan agen dalam produksi: ketidakpastian dan biaya.

Angka 83 persen itu perlu disikapi dengan kehati-hatian seperti biasa. Penghematan biaya sangat bergantung pada tugas, model yang digunakan, dan bagaimana agen dikonfigurasi, dan tolok ukur independen akan menjadi ujian sesungguhnya. Namun, open-sourcing sistem ini membuat ujian itu lebih mudah dijalankan.

Sinyal yang lebih besar adalah ke mana kompetisi mengarah. Saat kualitas model menyatu, pertarungan bergeser ke lapisan yang menentukan model mana melakukan apa, kapan, dan dengan harga berapa. Jika sistem operasi Tsinghua ini memenuhi bahkan sebagian dari janjinya, gelombang agen AI berikutnya mungkin dinilai bukan dari seberapa pintar mereka, melainkan seberapa baik mereka dikelola.