Microsoft assume agenti AI per sorvegliare altri agenti AI sul lavoro
Le imprese hanno passato gli ultimi due anni ad assegnare agli agenti AI compiti reali: leggere ricevute di spese, approvare rimborsi, spostare dati tra sistemi. Per fare tutto ciò, un agente ha bisogno del permesso di aprire documenti e di usare il software che vi sta dietro. Il problema è che un agente che interpreta male un compito, o che viene convinto a farne uno sbagliato, può causare danni alla velocità di una macchina prima che un umano se ne accorga.
Il 19 ottobre Microsoft ha annunciato di aggiungere un nuovo strato di sorveglianti a Project Perception, il suo sistema di sicurezza per gli agenti aziendali. I sorveglianti sono essi stessi agenti AI. Seguono gli altri agenti, controllano cosa stanno facendo e, quando qualcosa sembra fuori posto, ne risalgono alla causa, ritirano i permessi e, se necessario, spengono l’agente lavoratore. La formulazione dell’azienda è schietta: per fermare un insider AI, metti un altro AI di guardia.
La mossa riflette un cambiamento nel modo in cui le aziende pensano all’automazione. La prima ondata di strumenti per agenti si vendeva sull’autonomia: lascia che il modello gestisca l’intero compito. La seconda ondata vende la supervisione. Un agente con accesso a un sistema di rimborsi è un piccolo impiegato con un badge e, come ogni impiegato, ha bisogno di qualcuno che riveda il suo lavoro. La risposta di Microsoft è rendere quel revisore economico e instancabile, invece di assumere più persone per guardare i dashboard.
Ciò ha implicazioni per il centro della gerarchia aziendale. I manager intermedi sono da tempo lo strato che controlla il lavoro, intercetta gli errori e inoltra le eccezioni. Se gli agenti possono fare i controlli di routine, secondo l’argomentazione, quello strato non scompare: cambia forma. Le persone salgono a definire le politiche, stabilire cosa conta come eccezione e gestire i casi che i monitor non riescono a risolvere. Gli agenti di monitoraggio sanno solo ciò che è stato detto loro di considerare sospetto.
La sfida tecnica è reale. Un agente di guardia deve capire cosa stava cercando di fare un agente lavoratore, il che significa leggere gli stessi log e le stesse chiamate agli strumenti, e deve essere abbastanza veloce da intervenire prima che un pagamento venga effettuato. Anche i falsi allarmi costano: un monitor troppo zelante che blocca un flusso di lavoro legittimo irriterà i team che dovrebbe proteggere. Microsoft non ha divulgato come il sistema decida quando revocare l’accesso e quando invece segnalare semplicemente l’attività a un umano.
Le imprese osservano con attenzione perché le implementazioni di agenti si moltiplicano più rapidamente degli strumenti di sicurezza che le circondano. Gli stessi permessi che rendono utile un agente sono quelli che lo rendono pericoloso, e poche aziende hanno stabilito regole chiare su cosa un agente possa fare senza supervisione. I fornitori in grado di offrire una risposta credibile — inclusa una traccia documentale che mostri cosa ha fatto un agente e perché è stato fermato — hanno un discorso di vendita più facile.
Per ora il prodotto è un segnale di dove sta andando il mercato: dalla creazione di agenti alla loro governance. La prossima cosa da osservare è se i clienti segnaleranno che gli agenti di monitoraggio intercettano problemi reali, o se per lo più generano avvisi che gli umani finiscono per ignorare.