Microsoft heuert KI-Agenten an, um andere KI-Agenten bei der Arbeit zu beaufsichtigen
Unternehmen haben in den letzten zwei Jahren KI-Agenten echte Aufgaben übertragen: Spesenbelege lesen, Erstattungen genehmigen, Daten zwischen Systemen verschieben. Um all das zu tun, braucht ein Agent die Berechtigung, Dokumente zu öffnen und die dahinterliegende Software zu bedienen. Das Problem: Ein Agent, der eine Aufgabe falsch versteht oder zu einer falschen überredet wird, kann mit Maschinengeschwindigkeit Schaden anrichten, bevor ein Mensch es bemerkt.
Am 19. Oktober gab Microsoft bekannt, dem Projekt Perception, seinem Sicherheitssystem für Unternehmensagenten, eine neue Ebene von Aufsehern hinzuzufügen. Die Aufseher sind selbst KI-Agenten. Sie folgen den anderen Agenten, prüfen, was sie tun, und wenn etwas nicht stimmt, verfolgen sie die Ursache, ziehen Berechtigungen zurück und schalten den Arbeitsagenten bei Bedarf ab. Die Formulierung des Unternehmens ist deutlich: Um einen KI-Eindringling zu stoppen, setzt man eine andere KI als Wache ein.
Der Schritt spiegelt einen Wandel im Denken der Unternehmen über Automatisierung wider. Die erste Welle von Agenten-Tools verkaufte sich mit Autonomie – lassen Sie das Modell die ganze Aufgabe erledigen. Die zweite Welle verkauft Aufsicht. Ein Agent mit Zugang zu einem Erstattungssystem ist ein kleiner Angestellter mit Ausweis, und wie jeder Angestellte braucht er jemanden, der seine Arbeit prüft. Microsofts Antwort ist, diesen Prüfer billig und unermüdlich zu machen, statt mehr Leute einzustellen, die Dashboards beobachten.
Das hat Folgen für die Mitte der Unternehmenshierarchie. Mittlere Manager waren lange die Ebene, die Arbeit prüft, Fehler findet und Ausnahmen eskaliert. Wenn Agenten die Routineprüfung übernehmen können, so das Argument, verschwindet diese Ebene nicht – sie verändert ihre Form. Menschen rücken auf, um Richtlinien festzulegen, zu definieren, was als Ausnahme gilt, und die Fälle zu bearbeiten, die die Monitore nicht lösen können. Die Überwachungsagenten wissen nur, was man ihnen als verdächtig zu betrachten gesagt hat.
Die technische Herausforderung ist real. Ein Wächteragent muss verstehen, was ein Arbeitsagent versucht hat zu tun, was bedeutet, dieselben Protokolle und Tool-Aufrufe zu lesen, und er muss schnell genug sein, um einzugreifen, bevor eine Zahlung rausgeht. Fehlalarme sind ebenfalls teuer: Ein übereifriger Monitor, der einen legitimen Arbeitsablauf einfriert, verärgert die Teams, die er schützen soll. Microsoft hat nicht offengelegt, wie das System entscheidet, wann es Zugriff entzieht und wann es Aktivitäten nur für einen Menschen markiert.
Unternehmen beobachten das genau, weil Agenten-Einsätze schneller zunehmen als die Sicherheitswerkzeuge um sie herum. Dieselben Berechtigungen, die einen Agenten nützlich machen, machen ihn gefährlich, und nur wenige Unternehmen haben klare Regeln dafür aufgestellt, was ein Agent unbeaufsichtigt tun darf. Anbieter, die eine glaubwürdige Antwort bieten können – einschließlich eines Prüfpfads, der zeigt, was ein Agent getan hat und warum er gestoppt wurde –, haben einen leichteren Verkaufsargument.
Vorerst ist das Produkt ein Signal dafür, wohin der Markt steuert: vom Bauen von Agenten zu ihrer Steuerung. Als Nächstes bleibt zu beobachten, ob Kunden berichten, dass die Überwachungsagenten echte Probleme erkennen, oder ob sie meist Warnungen erzeugen, die Menschen am Ende verwerfen.