Baidu ouvre au monde son ERNIE 5.5 Flash Base de 280 milliards de paramètres
Baidu a publié le 5 novembre les poids de son nouveau modèle de fondation, ERNIE 5.5 Flash Base, rendant l’un des plus grands modèles ouverts de Chine téléchargeable, ajustable et déployable par tous. L’entreprise affirme qu’il s’agit de la version de base de sa gamme ERNIE, la famille de grands modèles de langage qui alimente son moteur de recherche et son chatbot Ernie.
Le chiffre qui frappe, c’est l’échelle : 280 milliards de paramètres au total. Mais le modèle repose sur une architecture de mélange d’experts, un dispositif dans lequel chaque token de texte n’active qu’une fraction du réseau. Ici, cette fraction est d’environ 14 milliards de paramètres, ce qui maintient le coût d’exécution bien en dessous de ce que la taille brute laisse imaginer. Le modèle a été préentraîné sur 33,5 billions de tokens, avec une fenêtre de contexte de préentraînement allant jusqu’à 128 000 tokens ; lors de l’ajustement et de l’inférence, il peut traiter des contextes allant jusqu’à un million de tokens, de quoi couvrir de très longs documents ou bases de code.
Baidu affirme que le modèle établit un nouvel état de l’art parmi les modèles de taille comparable sur des benchmarks couvrant les connaissances, le raisonnement, les mathématiques, le codage, les capacités multilingues et le traitement de longs contextes. Il cite DeepSeek-V4-Flash-Base et Hy3-preview-Base parmi les modèles qu’il surpasse. Ces comparaisons autodéclarées appellent la prudence, car les scores de benchmark dépendent fortement de la façon dont les tests sont menés, mais elles constituent la monnaie courante du marché des poids ouverts.
Cette décision s’inscrit dans une tendance plus large de l’IA chinoise. Depuis un an, les plus grands laboratoires du pays publient de plus en plus les poids de leurs modèles plutôt que de les garder fermés, utilisant le téléchargement gratuit pour séduire les développeurs, recueillir des retours et bâtir des écosystèmes autour de leurs outils. Les poids ouverts permettent aux start-up, aux chercheurs et aux amateurs de faire tourner des modèles performants sur leur propre matériel, ce qui compte sur un marché où les prix des API ont chuté fortement et où l’accès aux modèles étrangers peut être incertain.
Pour Baidu, le calcul est stratégique. L’entreprise a été l’un des premiers champions chinois des grands modèles de langage, mais elle affronte une concurrence rude de rivaux plus jeunes, dont DeepSeek et une vague de start-up, ainsi que des grands acteurs de plateformes. Publier un modèle de base solide donne à Baidu de la visibilité auprès des développeurs qui construisent des applications sur des modèles, et une chance d’ancrer ses outils et ses services cloud.
L’étiquette Flash indique la cible : la vitesse et le coût plutôt que la capacité maximale. Les modèles de base sont une matière première, pas des produits finis ; ils ont généralement besoin d’un ajustement ou d’un alignement avant de bien se comporter dans des applications grand public. Publier la version de base invite la communauté open source à faire ce travail, une voie courante vers une adoption rapide.
La suite se mesurera moins dans les tableaux de benchmarks que dans les téléchargements et les dérivés. Attendez-vous à des variantes ajustées, à des versions quantifiées capables de tourner sur des machines plus modestes et à des comparaisons avec les publications ouvertes de DeepSeek d’ici quelques semaines. Pour les développeurs du monde entier, la question pratique est de savoir si un modèle de 280 milliards de paramètres doté d’un budget d’activation réduit peut offrir une qualité compétitive à un prix qui ait du sens en dehors du marché cloud intérieur chinois.