Qualcomm mise sur les agents d'IA embarqués à mesure que les téléphones apprennent à penser en local
L’intelligence artificielle embarquée approche d’un point de bascule, selon Qualcomm, le concepteur américain de puces dont les processeurs équipent une grande partie des téléphones Android du monde. Lors de la neuvième Exposition internationale de l’importation de Chine à Shanghai, qui s’est tenue jusqu’au début du mois de novembre, l’entreprise a fait la démonstration d’un agent d’IA à mélange d’experts fonctionnant entièrement sur un téléphone plutôt que dans un centre de données distant.
Wan Weixing, qui dirige les efforts de Qualcomm en matière de produits et de technologies d’IA en Chine, a déclaré le 7 novembre devant un auditoire que l’IA en périphérie se développe depuis trois à quatre ans et entre désormais dans une phase plus importante. Ce changement, a-t-il suggéré, tient moins à la taille brute du modèle qu’à la manière dont l’IA est présentée aux utilisateurs.
La première vague d’IA embarquée n’a pas commencé avec les grands modèles de langage. La photographie a été l’un des premiers domaines où l’apprentissage automatique a discrètement atteint les consommateurs. Chaque année, les appareils photo des smartphones produisent de meilleures prises de vue en basse lumière, des portraits plus nets et des vidéos plus fluides, et une grande partie de ces progrès provient de modèles exécutés sur le processeur de signal d’image du téléphone plutôt que sur un serveur. Les consommateurs ont remarqué les résultats sans jamais penser à la technologie qui les sous-tend.
Ce qui change aujourd’hui, c’est la forme de l’expérience. Au lieu d’ouvrir une seule application pour traduire un menu ou effacer un passant importun, les futurs téléphones devraient exécuter des agents qui conservent le contexte d’une tâche à l’autre, font appel à plusieurs modèles et agissent pour le compte de l’utilisateur. Une conception à mélange d’experts correspond à cet objectif car elle n’active que les parties d’un modèle nécessaires à une requête donnée, ce qui économise la batterie et maintient une faible latence.
Exécuter l’IA en local garde aussi les données personnelles sur l’appareil, un argument de vente pour les acheteurs soucieux de leur vie privée. Cela réduit la dépendance à la couverture réseau, ce qui compte sur les marchés où la connectivité est inégale. Et cela abaisse le coût de l’inférence pour les fabricants de téléphones, qui paieraient sinon du calcul dans le cloud chaque fois qu’un utilisateur pose une question.
Les obstacles sont réels. Les grands modèles sollicitent la mémoire et la batterie, et les fabricants de téléphones doivent concilier ambition et limites thermiques. L’argument de Qualcomm est que de meilleures puces et un routage plus intelligent des modèles peuvent combler cet écart. L’entreprise positionne depuis des années ses plateformes Snapdragon comme du silicium pensé pour l’IA, et la démonstration de l’expo s’inscrit dans un effort visant à montrer aux développeurs ce qui est possible lorsqu’un agent vit sur l’appareil.
Pour les lecteurs du monde entier, l’importance tient au lieu où ce travail est présenté. La Chine est le plus grand marché mondial de smartphones et un terrain d’essai acharné pour les fonctions d’IA, les marques locales lançant de nouveaux assistants à un rythme rapide. Le message de Qualcomm à destination de la Chine suggère que la prochaine vague de mises à niveau des téléphones sera jugée moins sur les mégapixels de l’appareil photo que sur la capacité de l’appareil à ressembler à un assistant qui vous connaît.
L’entreprise n’a annoncé ni date de lancement ni produit commercial nommé pour l’agent. La démonstration de l’expo se lit avant tout comme une déclaration d’orientation : l’IA passe d’une fonction que l’on ouvre à un agent qui tourne discrètement en arrière-plan. Savoir si les consommateurs récompenseront ce basculement dépendra de la capacité de l’agent à faire gagner du temps plutôt qu’à ajouter une couche de complexité au téléphone.