Qualcomm apuesta por agentes de IA en el dispositivo mientras los móviles aprenden a pensar localmente
La inteligencia artificial en el dispositivo está alcanzando un punto de inflexión, según Qualcomm, el diseñador estadounidense de chips cuyos procesadores impulsan una gran parte de los teléfonos Android del mundo. En la novena Exposición Internacional de Importaciones de China en Shanghái, que se prolongó hasta principios de noviembre, la compañía demostró un agente de IA de mezcla de expertos que funciona íntegramente en un teléfono y no en un centro de datos remoto.
Wan Weixing, responsable de los esfuerzos de producto y tecnología de IA de Qualcomm en China, dijo a una audiencia el 7 de noviembre que la IA de borde lleva tres o cuatro años desarrollándose y ahora entra en una fase más importante. El cambio, sugirió, tiene menos que ver con el tamaño bruto del modelo que con la forma en que la IA se empaqueta para los usuarios.
La primera ola de IA en el dispositivo no comenzó con los grandes modelos de lenguaje. La fotografía fue uno de los primeros ámbitos en los que el aprendizaje automático llegó discretamente a los consumidores. Cada año, las cámaras de los smartphones producen tomas con poca luz mejores, retratos más nítidos y vídeo más fluido, y buena parte de esa mejora proviene de modelos que se ejecutan en el propio procesador de señal de imagen del teléfono en lugar de en un servidor. Los consumidores notaron los resultados sin pensar nunca en la tecnología que había detrás.
Lo que está cambiando ahora es la forma de la experiencia. En lugar de abrir una sola aplicación para traducir un menú o eliminar a un intruso de una foto, se espera que los futuros teléfonos ejecuten agentes que mantengan el contexto entre tareas, llamen a varios modelos y actúen en nombre del usuario. Un diseño de mezcla de expertos encaja con ese objetivo porque activa solo las partes de un modelo necesarias para una solicitud dada, lo que ahorra batería y mantiene baja la latencia.
Ejecutar la IA localmente también mantiene los datos personales en el dispositivo, un argumento de venta para los compradores preocupados por la privacidad. Reduce la dependencia de la cobertura de red, algo que importa en mercados donde la conectividad es desigual. Y abarata el coste de la inferencia para los fabricantes de teléfonos, que de otro modo pagan por computación en la nube cada vez que un usuario hace una pregunta.
Los obstáculos son reales. Los modelos grandes exigen mucho de la memoria y la batería, y los fabricantes de móviles deben equilibrar la ambición con los límites térmicos. La propuesta de Qualcomm es que mejores chips y un enrutamiento de modelos más inteligente pueden cerrar esa brecha. La compañía lleva años posicionando sus plataformas Snapdragon como silicio centrado en la IA, y la demostración de la expo forma parte de un esfuerzo por mostrar a los desarrolladores lo que es posible cuando un agente vive en el dispositivo.
Para los lectores globales, la importancia radica en dónde se está exhibiendo este trabajo. China es el mayor mercado de smartphones del mundo y un terreno de pruebas feroz para las funciones de IA, con marcas locales que lanzan nuevos asistentes a un ritmo acelerado. El mensaje de Qualcomm de cara a China sugiere que la próxima ronda de mejoras de los teléfonos se juzgará menos por los megapíxeles de la cámara y más por si el dispositivo se siente como un asistente que te conoce.
La compañía no anunció una fecha de lanzamiento ni un producto comercial con nombre para el agente. La demostración de la expo debe leerse como una declaración de intenciones: la IA pasa de ser una función que se abre a un agente que se ejecuta en silencio en segundo plano. Si los consumidores premian ese cambio dependerá de si el agente ahorra tiempo en lugar de añadir otra capa de complejidad al teléfono.