Tsinghua'nın açık kaynaklı ajan işletim sistemi, yapay zeka görev maliyetlerini %83 azaltıyor
Yapay zeka ajanları — çok adımlı görevleri kendi başlarına planlayan ve yürüten programlar — bir itibar sorunu yaşıyor. İki adım önce ne yaptıklarını unutuyor, büyük dil modellerine yapılan pahalı çağrıları tekrarlıyor ve sessizce bir şirketin bütçesini tüketiyor. Tsinghua Üniversitesi’ndeki bir ekip, çözümün daha akıllı bir model değil, ajanların yaşaması için daha iyi bir ortam olduğunu düşünüyor.
Üniversitenin Doğal Dil İşleme Laboratuvarı (THUNLP), yapay zeka şirketi ModelBest ve açık kaynak topluluğu OpenBMB ile birlikte, özellikle yapay zeka ajanları için inşa edilmiş açık kaynaklı bir işletim sistemi olan PilotDeck 2.0’ı yayımladı. Ekip, sistemin ajan görevlerini yürütme maliyetini yüzde 83 oranında azalttığını, bunu büyük ölçüde gereksiz model çağrılarını azaltarak ve ajanın ne hatırladığını yöneterek başardığını söylüyor.
Bellek, öne çıkan özellik. PilotDeck’te bir ajanın belleği aranabilir ve düzenlenebilir — kullanıcılar veya geliştiriciler ajanın depoladıklarını inceleyebilir, düzeltebilir veya kaldırabilir. Bu, erken bir talimatı yanlış hatırlayan bir ajanın hatayı tüm görev boyunca tekrarlama eğiliminde olduğu uzun süreli iş akışları için önemlidir. Bu belleği inceleyip değiştirebilmek, opak bir süreci paylaşılan bir not defterine daha yakın bir şeye dönüştürür.
Sistem ayrıca MCP’yi, yani Model Context Protocol’ü yerel olarak destekliyor; bu, yapay zeka modellerinin harici araçlara ve veri kaynaklarına bağlanmasını sağlayan açık bir standart. Yerel destek, PilotDeck üzerinde çalışan bir ajanın her biri için özel bağlantı kodu olmadan dış hizmetlere bağlanabileceği anlamına gelir; bu, ajan projelerinde yaygın bir kırılganlık kaynağıdır.
Sürüm, Çin’de yalnızca daha büyük modellere değil, ajan altyapısına yönelik daha geniş bir hamlenin parçası. THUNLP, ülkenin en tanınmış akademik yapay zeka gruplarından biri ve Tsinghua ile bağlantılı bir girişim olan ModelBest, hafif modeller ve birkaç popüler açık kaynak projesinin arkasındaki temel olan OpenBMB araç setini geliştiriyor. Modeller ile görevler arasına bir işletim sistemi katmanı koymak, bir sonraki kazanımların ham zekadan değil, orkestrasyondan geleceğine dair bir bahis.
Küresel geliştiriciler için çekicilik pratik. Bugün ajan çerçeveleri parçalı ve bir görev düzinelerce model çağrısı gerektirdiğinde maliyetler hızla artıyor. Belleği denetlenebilir tutarken bu harcamayı beşte dörtten fazla azalttığını iddia eden bir sistem, üretimde ajan konuşlandıran ekiplerin en yaygın iki şikayetini ele alıyor: öngörülemezlik ve masraf.
Yüzde 83 rakamını her zamanki ihtiyatla ele almakta fayda var. Maliyet tasarrufu büyük ölçüde göreve, kullanılan modele ve ajanın nasıl yapılandırıldığına bağlıdır ve gerçek test bağımsız kıyaslamalar olacaktır. Ancak sistemin açık kaynak olması bu testi çalıştırmayı kolaylaştırıyor.
Daha büyük sinyal, rekabetin nereye gittiği. Model kalitesi birbirine yaklaştıkça mücadele, hangi modelin neyi, ne zaman ve ne fiyata yapacağına karar veren katmana kayıyor. Tsinghua’nın işletim sistemi vaadinin bir kısmını bile yerine getirirse, yapay zeka ajanlarının bir sonraki dalgası ne kadar zeki olduklarından çok ne kadar iyi yönetildikleriyle değerlendirilebilir.