Qualcomm setzt auf KI-Agenten auf dem Gerät, während Handys lokal denken lernen
KI direkt auf dem Gerät steht laut Qualcomm vor einem Wendepunkt. Der US-Chipdesigner, dessen Prozessoren einen großen Teil der Android-Handys weltweit antreiben, demonstrierte auf der neunten China International Import Expo in Shanghai, die bis Anfang November lief, einen Mixture-of-Experts-KI-Agenten, der vollständig auf einem Handy statt in einem fernen Rechenzentrum läuft.
Wan Weixing, der bei Qualcomm die KI-Produkt- und Technologiearbeit in China leitet, sagte am 7. November vor Publikum, Edge-KI werde seit drei bis vier Jahren entwickelt und trete nun in eine wichtigere Phase ein. Die Veränderung, so deutete er an, liege weniger an der reinen Modellgröße als daran, wie KI für die Nutzer verpackt werde.
Die erste Welle der KI auf dem Gerät begann nicht mit großen Sprachmodellen. Die Fotografie war einer der ersten Bereiche, in denen maschinelles Lernen still bei den Verbrauchern ankam. Jedes Jahr liefern Smartphone-Kameras bessere Aufnahmen bei schwachem Licht, schärfere Porträts und flüssigere Videos, und ein Großteil dieser Verbesserung stammt von Modellen, die auf dem Bildsignalprozessor des Telefons selbst laufen statt auf einem Server. Die Verbraucher bemerkten die Ergebnisse, ohne je über die Technik dahinter nachzudenken.
Was sich jetzt ändert, ist die Form des Erlebnisses. Statt eine einzelne App zu öffnen, um eine Speisekarte zu übersetzen oder einen Fotostörer zu entfernen, sollen künftige Telefone Agenten ausführen, die den Kontext über Aufgaben hinweg behalten, mehrere Modelle aufrufen und im Namen des Nutzers handeln. Ein Mixture-of-Experts-Design passt zu diesem Ziel, weil es nur die Teile eines Modells aktiviert, die für eine bestimmte Anfrage nötig sind, was Akku spart und die Latenz niedrig hält.
KI lokal laufen zu lassen, hält zudem persönliche Daten auf dem Gerät, ein Verkaufsargument für datenschutzbewusste Käufer. Es verringert die Abhängigkeit von der Netzabdeckung, was in Märkten mit ungleichmäßiger Konnektivität zählt. Und es senkt die Inferenzkosten für die Handyhersteller, die sonst jedes Mal für Cloud-Rechenleistung zahlen, wenn ein Nutzer eine Frage stellt.
Die Hürden sind real. Große Modelle belasten Speicher und Akku, und die Hersteller müssen Ehrgeiz mit thermischen Grenzen ausbalancieren. Qualcomms Argument lautet, dass bessere Chips und intelligenteres Modell-Routing diese Lücke schließen können. Das Unternehmen positioniert seine Snapdragon-Plattformen seit Jahren als KI-first-Silizium, und die Demo auf der Messe ist Teil des Bemühens, Entwicklern zu zeigen, was möglich ist, wenn ein Agent auf dem Gerät lebt.
Für globale Leser liegt die Bedeutung darin, wo diese Arbeit präsentiert wird. China ist der größte Smartphone-Markt der Welt und ein hart umkämpftes Testfeld für KI-Funktionen, auf dem lokale Marken in schnellem Tempo neue Assistenten auf den Markt bringen. Qualcomms Botschaft an China deutet darauf hin, dass die nächste Runde von Handy-Upgrades weniger an Kameramegapixeln gemessen wird als daran, ob sich das Gerät wie ein Assistent anfühlt, der einen kennt.
Das Unternehmen nannte weder ein Startdatum noch ein benanntes kommerzielles Produkt für den Agenten. Die Demo auf der Messe ist am besten als Richtungsaussage zu lesen: KI wandelt sich von einer Funktion, die man öffnet, zu einem Agenten, der still im Hintergrund läuft. Ob die Verbraucher diesen Wandel belohnen, hängt davon ab, ob der Agent Zeit spart, statt dem Telefon eine weitere Komplexitätsebene hinzuzufügen.