Baidu öffnet sein ERNIE 5.5 Flash Base mit 280 Milliarden Parametern für die Welt
Baidu hat am 5. November die Gewichte seines neuesten Grundlagenmodells ERNIE 5.5 Flash Base veröffentlicht und damit eines der größten offenen Modelle Chinas zum Herunterladen, Feinabstimmen und Bereitstellen für alle freigegeben. Das Unternehmen bezeichnet es als Basisversion seiner ERNIE-Reihe, der Familie großer Sprachmodelle, die Baidus Suchmaschine und den Ernie-Chatbot antreibt.
Die Schlagzeile ist der Umfang: 280 Milliarden Parameter insgesamt. Das Modell nutzt jedoch eine Mixture-of-Experts-Architektur, bei der jedes Texttoken nur einen Bruchteil des Netzwerks aktiviert. Dieser Bruchteil liegt hier bei rund 14 Milliarden Parametern, was die Betriebskosten weit unter dem hält, was die reine Größe vermuten lässt. Das Modell wurde mit 33,5 Billionen Tokens vortrainiert, mit einem Vortrainings-Kontextfenster von bis zu 128.000 Tokens; beim Feinabstimmen und bei der Inferenz kann es Kontexte von bis zu einer Million Tokens verarbeiten, genug für sehr lange Dokumente oder Codebasen.
Baidu zufolge setzt das Modell in Benchmarks zu Wissen, Schlussfolgern, Mathematik, Programmierung, Mehrsprachigkeit und langen Kontexten einen neuen Stand der Technik unter Modellen vergleichbarer Größe. Als übertroffene Modelle nennt das Unternehmen DeepSeek-V4-Flash-Base und Hy3-preview-Base. Solche selbst berichteten Vergleiche sind mit Vorsicht zu genießen, hängen die Benchmark-Werte doch stark von der Testdurchführung ab, aber sie sind die Währung des Marktes für offene Gewichte.
Der Schritt passt zu einem breiteren Muster in der chinesischen KI. Im vergangenen Jahr haben die größten Labore des Landes zunehmend Modellgewichte veröffentlicht statt sie geschlossen zu halten, um mit kostenlosen Downloads Entwickler zu gewinnen, Feedback zu sammeln und Ökosysteme um ihre Werkzeuge aufzubauen. Offene Gewichte erlauben Start-ups, Forschern und Hobbyisten, leistungsfähige Modelle auf eigener Hardware zu betreiben, was in einem Markt zählt, in dem die API-Preise stark gefallen sind und der Zugang zu ausländischen Modellen unsicher sein kann.
Für Baidu ist die Rechnung strategisch. Das Unternehmen war ein früher chinesischer Vorreiter bei großen Sprachmodellen, sieht sich aber harter Konkurrenz durch jüngere Rivalen wie DeepSeek und eine Welle von Start-ups sowie durch größere Plattformanbieter ausgesetzt. Ein starkes Basismodell zu veröffentlichen verschafft Baidu Sichtbarkeit bei den Entwicklern, die Anwendungen auf Modellen aufbauen, und die Chance, seine Werkzeuge und Cloud-Dienste zu verankern.
Das Etikett Flash zeigt das Ziel: Geschwindigkeit und Kosten statt maximaler Leistungsfähigkeit. Basismodelle sind Rohmaterial, keine fertigen Produkte; sie müssen in der Regel feinabgestimmt oder ausgerichtet werden, bevor sie sich in Verbraucheranwendungen gut verhalten. Die Veröffentlichung der Basisversion lädt die Open-Source-Community ein, diese Arbeit zu übernehmen, ein üblicher Weg zu schneller Verbreitung.
Was als Nächstes passiert, wird weniger an Benchmark-Tabellen als an Downloads und Ableitungen gemessen. Zu erwarten sind feinabgestimmte Varianten, quantisierte Versionen für kleinere Maschinen und Vergleiche mit DeepSeeks offenen Veröffentlichungen binnen Wochen. Für Entwickler weltweit lautet die praktische Frage, ob ein Modell mit 280 Milliarden Parametern und schlankem Aktivierungsbudget konkurrenzfähige Qualität zu einem Preis liefern kann, der außerhalb von Chinas heimischem Cloud-Markt Sinn ergibt.