Qualcomm aposta em agentes de IA no dispositivo enquanto os telemóveis aprendem a pensar localmente
A inteligência artificial no dispositivo está a atingir um ponto de viragem, segundo a Qualcomm, a empresa norte-americana de design de chips cujos processadores equipam uma grande parte dos telemóveis Android do mundo. Na nona Exposição Internacional de Importações da China, em Xangai, que decorreu até ao início de novembro, a empresa demonstrou um agente de IA de mistura de especialistas a funcionar inteiramente num telemóvel, e não num centro de dados remoto.
Wan Weixing, que lidera os esforços de produto e tecnologia de IA da Qualcomm na China, disse a uma plateia a 7 de novembro que a IA de periferia se desenvolve há três a quatro anos e entra agora numa fase mais importante. A mudança, sugeriu, tem menos que ver com o tamanho bruto do modelo do que com a forma como a IA é apresentada aos utilizadores.
A primeira vaga de IA no dispositivo não começou com os grandes modelos de linguagem. A fotografia foi um dos primeiros domínios em que a aprendizagem automática chegou discretamente aos consumidores. Todos os anos, as câmaras dos telemóveis produzem melhores fotografias com pouca luz, retratos mais nítidos e vídeo mais fluido, e grande parte dessa melhoria vem de modelos executados no próprio processador de sinal de imagem do telemóvel em vez de num servidor. Os consumidores notaram os resultados sem nunca pensarem na tecnologia por trás.
O que está a mudar agora é a forma da experiência. Em vez de abrir uma única aplicação para traduzir uma ementa ou remover um intruso de uma foto, espera-se que os futuros telemóveis executem agentes que mantêm o contexto entre tarefas, chamam vários modelos e agem em nome do utilizador. Um design de mistura de especialistas encaixa nesse objetivo porque ativa apenas as partes de um modelo necessárias para um determinado pedido, poupando bateria e mantendo a latência baixa.
Executar a IA localmente mantém também os dados pessoais no dispositivo, um argumento de venda para os compradores preocupados com a privacidade. Reduz a dependência da cobertura de rede, o que importa em mercados onde a conetividade é irregular. E baixa o custo da inferência para os fabricantes de telemóveis, que de outra forma pagam por computação na nuvem sempre que um utilizador faz uma pergunta.
Os obstáculos são reais. Os modelos grandes sobrecarregam a memória e a bateria, e os fabricantes têm de equilibrar a ambição com os limites térmicos. O argumento da Qualcomm é que melhores chips e um encaminhamento de modelos mais inteligente podem colmatar essa lacuna. A empresa posiciona há anos as suas plataformas Snapdragon como silício pensado para a IA, e a demonstração na exposição faz parte de um esforço para mostrar aos programadores o que é possível quando um agente vive no dispositivo.
Para os leitores globais, a importância está em onde este trabalho é apresentado. A China é o maior mercado de telemóveis do mundo e um terreno de testes feroz para funcionalidades de IA, com marcas locais a lançar novos assistentes a um ritmo acelerado. A mensagem da Qualcomm dirigida à China sugere que a próxima ronda de atualizações dos telemóveis será avaliada menos pelos megapíxeis da câmara e mais por saber se o dispositivo parece um assistente que o conhece.
A empresa não anunciou uma data de lançamento nem um produto comercial com nome para o agente. A demonstração na exposição deve ser lida sobretudo como uma declaração de rumo: a IA passa de uma funcionalidade que se abre para um agente que corre discretamente em segundo plano. Se os consumidores vão premiar essa mudança dependerá de o agente poupar tempo em vez de acrescentar mais uma camada de complexidade ao telemóvel.