Microsoft contrata agentes de IA para vigiar outros agentes de IA no trabalho
As empresas passaram os últimos dois anos entregando tarefas reais a agentes de IA: ler recibos de despesas, aprovar reembolsos, mover dados entre sistemas. Para fazer qualquer uma dessas coisas, um agente precisa de permissão para abrir documentos e operar o software por trás deles. O problema é que um agente que interpreta mal uma tarefa, ou que é convencido a fazer a errada, pode causar danos na velocidade de uma máquina antes que um humano perceba.
Em 19 de outubro, a Microsoft anunciou que estava adicionando uma nova camada de vigilantes ao Projeto Perception, seu sistema de segurança para agentes corporativos. Os vigilantes são eles próprios agentes de IA. Eles seguem os outros agentes, verificam o que estão fazendo e, quando algo parece estranho, rastreiam a causa, retiram permissões e, se necessário, desligam o agente trabalhador. A formulação da própria empresa é direta: para deter um infiltrado de IA, coloque outra IA de guarda.
A medida reflete uma mudança na forma como as empresas pensam sobre automação. A primeira onda de ferramentas de agentes vendia-se pela autonomia — deixe o modelo cuidar de toda a tarefa. A segunda onda vende supervisão. Um agente com acesso a um sistema de reembolsos é um pequeno funcionário com um crachá e, como qualquer funcionário, precisa de alguém revisando seu trabalho. A resposta da Microsoft é tornar esse revisor barato e incansável, em vez de contratar mais pessoas para vigiar painéis.
Isso tem implicações para o meio da hierarquia corporativa. Os gerentes intermediários há muito são a camada que verifica o trabalho, detecta erros e escala exceções. Se os agentes podem fazer a verificação rotineira, segundo o argumento, essa camada não desaparece — ela muda de forma. As pessoas passam a definir políticas, estabelecer o que conta como exceção e lidar com os casos que os monitores não conseguem resolver. Os agentes de monitoramento só sabem o que lhes foi dito para considerar suspeito.
O desafio técnico é real. Um agente guardião precisa entender o que um agente trabalhador estava tentando fazer, o que significa ler os mesmos registros e chamadas de ferramentas, e precisa ser rápido o suficiente para intervir antes que um pagamento seja feito. Alarmes falsos também são caros: um monitor zeloso demais que congela um fluxo de trabalho legítimo irritará as equipes que deveria proteger. A Microsoft não divulgou como o sistema decide quando revogar o acesso em vez de simplesmente sinalizar a atividade para um humano.
As empresas estão observando de perto porque as implantações de agentes estão se multiplicando mais rápido do que as ferramentas de segurança ao seu redor. As mesmas permissões que tornam um agente útil são as que o tornam perigoso, e poucas empresas criaram regras claras sobre o que um agente pode fazer sem supervisão. Os fornecedores que conseguem oferecer uma resposta crível — incluindo um registro que mostre o que um agente fez e por que foi interrompido — têm um argumento de venda mais fácil.
Por enquanto, o produto é um sinal de para onde o mercado está indo: de construir agentes para governá-los. A próxima coisa a observar é se os clientes relatam que os agentes de monitoramento detectam problemas reais, ou se geram principalmente alertas que os humanos acabam descartando.