🔥HotNews.pub

Le système d'exploitation open source pour agents IA de Tsinghua réduit les coûts des tâches d'IA de 83 %

3 min de lecture
Le système d'exploitation open source pour agents IA de Tsinghua réduit les coûts des tâches d'IA de 83 %

Les agents IA — des programmes qui planifient et exécutent des tâches à plusieurs étapes de manière autonome — ont un problème de réputation. Ils oublient ce qu’ils ont fait deux étapes plus tôt, répètent des appels coûteux aux grands modèles de langage et épuisent discrètement le budget d’une entreprise. Une équipe de l’Université Tsinghua pense que la solution n’est pas un modèle plus intelligent, mais un meilleur environnement de vie pour les agents.

Le Laboratoire de traitement du langage naturel (THUNLP) de l’université, en collaboration avec l’entreprise d’IA ModelBest et la communauté open source OpenBMB, a publié PilotDeck 2.0, un système d’exploitation open source conçu spécifiquement pour les agents IA. L’équipe affirme que le système réduit de 83 % le coût d’exécution des tâches des agents, principalement en réduisant les appels redondants aux modèles et en gérant ce dont l’agent se souvient.

La mémoire est la caractéristique phare. Dans PilotDeck, la mémoire d’un agent peut être consultée et modifiée : les utilisateurs ou les développeurs peuvent examiner ce que l’agent a stocké, le corriger ou le supprimer. Cela compte pour les flux de travail de longue durée, où un agent qui se souvient mal d’une instruction initiale a tendance à répéter l’erreur tout au long d’une tâche. Pouvoir inspecter et modifier cette mémoire transforme un processus opaque en quelque chose de plus proche d’un carnet partagé.

Le système prend également en charge nativement MCP, le Model Context Protocol, une norme ouverte qui permet aux modèles d’IA de se connecter à des outils externes et à des sources de données. La prise en charge native signifie qu’un agent exécuté sur PilotDeck peut se connecter à des services externes sans code d’adaptation personnalisé pour chacun, une source courante de fragilité dans les projets d’agents.

Cette publication s’inscrit dans un effort plus large en Chine vers l’infrastructure pour agents plutôt que vers des modèles toujours plus grands. THUNLP est l’un des groupes académiques d’IA les plus connus du pays, et ModelBest, une startup liée à Tsinghua, développe des modèles légers et la boîte à outils OpenBMB — la base derrière plusieurs projets open source populaires. Placer une couche de système d’exploitation entre les modèles et les tâches est un pari que l’orchestration, et non l’intelligence brute, sera la source des prochains gains.

Pour les développeurs internationaux, l’attrait est pratique. Les frameworks d’agents actuels sont fragmentés, et les coûts augmentent rapidement lorsqu’une tâche nécessite des dizaines d’appels de modèles. Un système qui prétend réduire ces dépenses de plus de quatre cinquièmes tout en gardant la mémoire auditable répond à deux des plaintes les plus courantes des équipes déployant des agents en production : l’imprévisibilité et le coût.

Il convient d’accueillir le chiffre de 83 % avec la prudence habituelle. Les économies dépendent fortement de la tâche, du modèle utilisé et de la configuration de l’agent, et des benchmarks indépendants seront le véritable test. Cependant, la mise en open source du système facilite ce test.

Le signal le plus important est la direction que prend la concurrence. À mesure que la qualité des modèles converge, la bataille se déplace vers la couche qui décide quel modèle fait quoi, quand et à quel prix. Si le système d’exploitation de Tsinghua tient ne serait-ce qu’une partie de ses promesses, la prochaine vague d’agents IA pourrait être jugée moins sur leur intelligence que sur la qualité de leur gestion.

Sautez vers un article au hasard des archives

Graphe des sujets liés

Plus le trait est épais, plus les sujets cooccurrent · cliquez sur un nœud pour ouvrir son tag