Der neue Test der KI-Governance: Können Sie einen Agenten mitten in der Aufgabe stoppen?
Microsofts aktueller Responsible AI Transparency Report macht den wichtigen Schritt von der Richtlinie zur operativen Kontrolle. Enterprise-Teams sollten ihn als praktischen Test verstehen: Können sie KI-Agenten sehen, einschränken und stoppen, während die Arbeit läuft?
Letzte Woche veröffentlichte Microsoft seinen Responsible AI Transparency Report 2026. Die Schlagzeile ist keine weitere Liste von Prinzipien. Es ist die Anerkennung, dass fähige KI-Systeme jetzt Gedächtnis behalten, Werkzeuge nutzen, auf Daten zugreifen und im Auftrag von Menschen handeln. Das verändert, wie gute Governance aussieht.
Eine Richtlinie, die eine KI-Anwendung vor dem Start genehmigt, ist weiterhin nützlich. Aber sie reicht nicht mehr aus. Wenn ein Agent entscheiden kann, welches Tool er als Nächstes aufruft, eine neue Datenquelle abruft oder nach der Genehmigung einen Workflow auslöst, entsteht zur Laufzeit ein Risiko. Die zentrale Governance-Frage ist daher viel konkreter: Kann die Organisation den Agenten sehen und stoppen, bevor eine schädliche Aktion zu einem Vorfall wird?
Diese Frage sollte Sicherheitsverantwortlichen vertraut sein. Wir akzeptieren einen Produktionsdienst nicht als sicher, nur weil jemand vor sechs Monaten das Design geprüft hat. Wir verlangen Identitätskontrollen, das Prinzip der geringsten Rechte, Protokollierung, Erkennung und eine Möglichkeit zur Eindämmung, wenn sich das Verhalten ändert. KI-Agenten verdienen dieselbe Betriebsdisziplin.
Warum eine Genehmigung vor der Bereitstellung nicht ausreicht
Traditionelle KI-Governance beginnt oft mit Intake-Formularen, Risikostufen und einer einmaligen Überprüfung. Diese Mechanismen identifizieren offensichtlich ungeeignete Anwendungsfälle und schaffen Verantwortlichkeit. Behalten Sie sie bei. Das Versagen besteht darin, Genehmigung als dauerhafte Sicherheitsbescheinigung zu betrachten.
Ein agentisches System verhält sich nicht wie ein statisches Modell hinter einem Chatfenster. Seine tatsächliche Fähigkeit ist eine Kombination aus Modell, Anweisungen, Gedächtnis, verbundenen Werkzeugen, Datenberechtigungen, Benutzeridentität und den Bedingungen, denen es begegnet. Ändert sich eines dieser Elemente, kann sich das Risikoprofil ändern, ohne dass ein neues Modell veröffentlicht wird.
Ein Beschaffungsagent beginnt vielleicht damit, Lieferantenvergleiche zusammenzustellen. Später ermöglicht ein Connector das Lesen von Vertragsordnern und ein Workflow gibt ihm die Fähigkeit, Bestellanfragen zu erstellen. Zusammengenommen verwandeln diese gewöhnlichen Änderungen einen Assistenten in einen Akteur mit Zugang zu sensiblen Informationen und der Befugnis, das Geschäft zu verpflichten.
Ein reines Anwendungsinventar ist unvollständig. Unternehmen brauchen eine Live-Ansicht dessen, worauf jeder Agent zugreifen kann, welche Identitäten er nutzt, welche Aktionen er ausführen darf und welche Kontrollen gelten. Das ist der Unterschied zwischen zu wissen, dass ein Agent existiert, und sein tatsächliches Verhalten zu steuern.
Kontrollen um die Aktion herum aufbauen, nicht nur um das Modell
Der Bericht von Microsoft zeigt die Richtung: Agenten-Identitäten, Tool-Berechtigungen, kontinuierliche Bewertung und Überwachung von Aktionen. Das ist ein nützlicherer Rahmen als die Debatte, ob ein Modell „genehmigt“ ist.
Für jeden produktiven Agenten definieren Sie eine kleine Menge von Aktionsgrenzen:
- **Identität:** Geben Sie dem Agenten eine eindeutige, zuordenbare Identität. Lassen Sie ihn nicht ein menschliches Administrator-Konto ausleihen oder sich hinter einem gemeinsamen API-Schlüssel verstecken.
- **Tool-Berechtigungen:** Gewähren Sie nur die Werkzeuge und Bereiche, die für die jeweilige Aufgabe nötig sind. Lesezugriff, Entwurfserstellung und endgültige Einreichung sind unterschiedliche Rechte.
- **Daten-Grenzen:** Legen Sie fest, auf welche Repositorien, Klassifikationen und Mandanten ein Agent zugreifen darf. Abruf darf nicht stillschweigend zur umfassenden Unternehmenssuche werden.
- **Genehmigungspunkte:** Erfordern Sie eine menschliche Entscheidung für folgenschwere Aktionen wie das Versenden externer Kommunikation, das Ändern von Datensätzen, das Genehmigen von Zahlungen oder den Export sensibler Daten.
- **Laufzeitnachweise:** Protokollieren Sie den Prompt oder Auslöser, den Tool-Aufruf, die relevante Identität, die Datenquelle, das Ergebnis und ob eine Richtlinie dies erlaubte.
- **Abschalten und Eindämmen:** Ermöglichen Sie es, ein Tool-Token zu widerrufen, eine Integration zu deaktivieren oder einen Workflow schnell zu pausieren, ohne auf eine Softwareversion warten zu müssen.
Das Ziel ist nicht, Agenten nutzlos zu machen. Es geht darum, ihre Befugnis nachvollziehbar und umkehrbar zu gestalten. Ein Agent, der eine Kundenantwort vorbereiten, aber ohne Genehmigung nicht senden kann, spart dennoch bedeutend Zeit. Wichtiger ist, dass das Kontrollkonzept für die Personen verständlich ist, die im Falle eines Problems den Vorfall verantworten.
Schatten-KI ist der Ort, an dem Laufzeit-Governance zuerst geprüft wird
Das Schwierigste ist meist nicht der ausgefeilte Agent, den ein zentrales Plattformteam gebaut hat. Es ist der Workflow der Geschäftseinheit, der aus einer Browsererweiterung, einem SaaS-Automatisierungstool, einem persönlichen API-Schlüssel und einem gemeinsamen Laufwerk zusammengesetzt ist. Er hat möglicherweise keinen Eintrag im Register, keinen benannten Besitzer oder keine Spur vom Antrag bis zur Aktion.
Das ist die praktische Form von Schatten-KI: Nutzung außerhalb der Kontrollen, von denen die Organisation glaubt, sie zu haben. Wenn Tools leichter zu verbinden sind, wird Schatten-KI zu Schatten-Automatisierung. Das Risiko besteht nicht nur darin, dass Daten das Unternehmen verlassen, sondern dass ein unüberprüftes System etwas darin verändert.
Beginnen Sie mit der Entdeckung, bevor Sie ein pauschales Verbot verhängen. Sicherheits- und Governance-Teams sollten vier Fragen für die gesamte Umgebung beantworten können:
1. Welche KI-Dienste und Agenten sind tatsächlich im Einsatz? 2. Welche haben Zugriff auf Unternehmensdaten oder Geschäftssysteme? 3. Welche Identitäten, Zugangsdaten und Tool-Berechtigungen sind ihnen zugeordnet? 4. Wo gibt es keinen Besitzer, keinen Genehmigungsweg oder keine Laufzeitaufzeichnung?
Die Antworten liefern Ihnen eine priorisierte Liste zur Behebung. Ein nicht genehmigter Chatbot ohne Zugriff auf Unternehmensdaten ist nicht dasselbe Problem wie ein nicht zugeordnetes Workflow, das HR-Dokumente lesen und CRM-Datensätze ändern kann. Sie identisch zu behandeln, verschwendet Vertrauen und Sicherheitskapazitäten.
Ein 30-Tage-Betriebsplan
Sicherheitsverantwortliche müssen das gesamte KI-Programm in diesem Quartal nicht neu gestalten. Sie müssen eine minimale Kontrollschleife etablieren, die mit zunehmender Nutzung stärker wird.
Woche 1: Kartierung des aktiven Bestands. Kombinieren Sie SaaS-Erkennung, Identitätstelemetrie, Beschaffungsunterlagen und Interviews. Finden Sie die Agenten, Integrationen und Automatisierungsplattformen, die bereits arbeiten.
Woche 2: Priorisierung der Aktionspfade. Priorisieren Sie die risikoreichsten Kombinationen aus sensiblen Daten und Aktionsbefugnissen: Agenten, die senden, ändern, genehmigen, exportieren oder privilegierte Tools aufrufen können.
Woche 3: Hinzufügen von Schutzmaßnahmen. Erstellen Sie separate Identitäten, schränken Sie die Berechtigungen ein, fügen Sie Genehmigungsschritte hinzu, zentralisieren Sie Protokolle und testen Sie, ob der Notfall-Deaktivierungspfad funktioniert.
Woche 4: Üben Sie den Kreislauf. Simulieren Sie einen Agenten, der einen nicht genehmigten Connector verwendet oder eine Richtlinienverletzung begeht. Kann das SOC dies innerhalb von Minuten erkennen, erklären und stoppen?
Diese abschließende Übung ist wichtiger als ein ausgefeiltes Richtliniendokument. Sie verwandelt Governance in eine beobachtbare Betriebsfähigkeit.
Governance, die Akzeptanz schafft
Das Geschäft wird Agenten weiterhin einsetzen, weil der Effizienzvorteil real ist. Governance gewinnt, wenn sie diese Arbeit sicher ermöglicht, statt nur als Ablehnungsschleife zu fungieren. Teams brauchen einen klaren Weg zur Agentengenehmigung, ein sicheres Standardmuster für Identitäten und Integrationen sowie schnelle Hilfe, wenn die beabsichtigte Nutzung außerhalb des Musters liegt.
Der Maßstab hat sich geändert. Ein ausgereiftes KI-Programm ist nicht eines, das nur ein Register genehmigter Modelle führen kann. Es ist eines, das erklären kann, was jeder wichtige Agent gerade tut, was er als Nächstes darf und wie man eingreift, wenn sich die Antwort ändert.
Aona hilft Unternehmen, die KI-Nutzung in ihrer Umgebung zu entdecken, die Schatten-KI sichtbar zu machen, die herkömmliche Inventare übersehen, und diese Sichtbarkeit in umsetzbare Governance umzuwandeln. Wenn Ihr Team noch nicht beantworten kann, wer KI nutzt, auf welche Daten sie zugreifen kann und welche Aktionen sie ausführen kann, beginnen Sie mit der Kartierung Ihrer KI-Exposition mit Aona und machen Sie die Laufzeitkontrolle zum nächsten Meilenstein.
