KI-Agenten-Governance: Aufbau eines Richtlinienrahmens von Grund auf

Die meisten Organisationen, die einen Governance-Rahmen für KI-Agenten benötigen, haben keinen. Sie besitzen Fragmente: eine akzeptable Nutzungsrichtlinie, die 'KI-Tools' nur beiläufig erwähnt, einen Lieferantenbewertungsprozess, der für SaaS-Anwendungen konzipiert wurde und für Agenten nicht passt, sowie eine Überwachung, die KI-Aktivitäten nur zufällig erfasst.

Ein kohärentes Framework von Grund auf zu erstellen, ist für die meisten Organisationen in wenigen Wochen machbar, erfordert aber die richtige Reihenfolge. Die vier Säulen - Inventarisieren, Klassifizieren, Genehmigen, Überwachen - bieten einen sequenziellen Pfad, der in jeder Phase Wert schafft, statt auf vollständige Fertigstellung zu warten.

Säule 1: Inventarisieren - Wissen, was existiert

Was Sie nicht sehen, können Sie nicht steuern. Die Inventarisierungsphase hat zwei Ziele: Entdecken, welche Agenten aktuell eingesetzt werden (das Schatten-KI-Entdeckungsproblem) und ein Register etablieren, in das alle zukünftigen Agenten eingetragen werden müssen.

Entdeckungsübung

Führen Sie eine strukturierte Entdeckungsübung über vier Kanäle durch: Netzwerkverkehrsanalyse (Ziele zu KI-API-Endpunkten), OAuth/API-Schlüsselprüfung (Tokens für unbekannte Anwendungen), Mitarbeitenden-Selbstauskunft (strukturierte Umfrage als Support, nicht als Kontrolle) und Überprüfung von SaaS-Management-Tools (CASB-Daten, Browser-Erweiterungsinventar).

Begrenzen Sie die Entdeckung auf handlungsfähige Agenten. Ein statischer KI-Assistent ohne Toolzugriff stellt ein anderes Risikoprofil dar als ein Agent mit Schreibzugriff auf CRM. Ihre erste Inventarisierung kann sich auf Agenten mit einem oder mehreren der folgenden Merkmale konzentrieren: externer API-Schreibzugriff, Zugriff auf interne Datensysteme, Codeausführung, Lese-/Schreibzugriff auf E-Mail/Kalender oder Dateisystemzugriff.

Das Agenten-Register

Richten Sie ein zentrales Register ein, in dem jede Agentenbereitstellung erfasst werden muss. Der Eintrag für jeden Agenten sollte enthalten: Agentenname und Besitzer, Toolzugriffsrechte, Datenklassifikationen, auf die zugegriffen werden kann, externe Systeme, in die geschrieben werden darf, das verwendete Modell oder Framework sowie den Genehmigungsstatus.

Das Register muss nicht komplex sein - eine gemeinsame Tabelle reicht im kleinen Maßstab. Wichtig ist, dass es existiert, dass Einträge verpflichtend sind (nicht optional) und dass es regelmäßig überprüft wird.

Säule 2: Klassifizieren - Risiko verstehen

Nicht alle Agenten sind gleich riskant. Ein Klassifizierungsrahmen ermöglicht eine angemessene Governance: leichte Kontrolle bei geringem Risiko, gründliche Prüfung bei hohem Risiko.

Risikodimensionen

Klassifizieren Sie jeden Agenten anhand von vier Dimensionen:

• Datensensitivität: Wie ist die Klassifikation der sensibelsten Daten, auf die der Agent zugreifen kann? (Öffentlich / Intern / Vertraulich / Eingeschränkt)
• Handlungsumfang: Kann der Agent irreversible Aktionen ausführen? (Nur lesen / reversible Schreibvorgänge / irreversible Aktionen)
• Externe Exposition: Kann der Agent Daten außerhalb des Kontrollbereichs der Organisation senden? (Keine / Nur Protokollierung / Externe API-Schreibvorgänge / Öffentliches Web)
• Auswirkungsradius: Wie viele Datensätze oder Systeme könnten bei Kompromittierung oder Fehlkonfiguration betroffen sein? (Einzelperson / Team / Abteilung / Unternehmensweit)

Risikostufen

Ordnen Sie die vier Dimensionen drei Stufen zu:

• Stufe 1 (Standard): Nur öffentliche oder interne Daten, nur Lesezugriff oder reversible Schreibvorgänge, keine externe Exposition, Auswirkungsradius Einzelperson. Leichte Genehmigung, Standardprotokollierung.
• Stufe 2 (Erweitert): Vertrauliche Daten oder irreversible Aktionen oder externe API-Schreibvorgänge, begrenzter Auswirkungsradius. Vollständige Sicherheitsprüfung, erweiterte Protokollierung, vierteljährliche Zugriffsüberprüfung.
• Stufe 3 (Kritisch): Eingeschränkte Daten, irreversible Aktionen UND externe Exposition, unternehmensweiter Auswirkungsradius. Vollständige Sicherheitsprüfung, CISO-Genehmigung, kontinuierliche Überwachung, menschliche Kontrollpunkte bei hochwirksamen Aktionen.

Die meisten von Wissensarbeitern eingesetzten Agenten sind Stufe 1 oder 2. Stufe-3-Agenten werden typischerweise von Entwicklungsteams für geschäftskritische Automatisierung gebaut und sollten selten sein.

Säule 3: Genehmigen - Strukturierter Entscheidungsprozess

Der Genehmigungsprozess sollte dem Risikoniveau angemessen und schnell genug sein, damit Mitarbeitende ihn nicht umgehen.

Genehmigung Stufe 1

Self-Service mit Bestätigung durch den Vorgesetzten. Der Agentenbesitzer füllt den Registereintrag aus, wählt die passenden Tools aus einem genehmigten Katalog und der Vorgesetzte bestätigt die Einreichung. Keine Sicherheitsabteilung erforderlich. Ziel: Bearbeitung am selben Werktag.

Genehmigung Stufe 2

Sicherheitsprüfung erforderlich. Der Agentenbesitzer reicht den Registereintrag mit ausgefülltem Formular zu Datenzugriff und Toolberechtigungen ein. Die Sicherheit prüft insbesondere die Rechtfertigung des Datenzugriffs und externe Schreibrechte. Ziel: 3-5 Werktage. Optional: automatisierte Vorauswahl zur Beschleunigung häufiger, wenig komplexer Fälle.

Genehmigung Stufe 3

Vollständige Prüfung mit CISO-Freigabe. Der Einreicher füllt ein detailliertes Sicherheitsbewertungsformular aus, das Bedrohungsmodellierung, Vorfallreaktionsverfahren und Datenkontrollen umfasst. Die Sicherheit führt eine technische Prüfung durch. CISO genehmigt. Ziel: 10-15 Werktage. Diese Dauer ist gewollt und erzeugt natürlichen Druck, unnötige Stufe-3-Einsätze zu vermeiden.

Der genehmigte Tool-Katalog

Parallel zum Genehmigungsprozess führen Sie einen genehmigten Tool-Katalog: eine Liste von Tools (APIs, MCP-Server, Browser-Automatisierungsbibliotheken etc.), die Agenten nutzen dürfen. Tools außerhalb des Katalogs erfordern vor Aufnahme eine Sicherheitsprüfung. So vermeiden Sie die explosionsartige Zunahme neuartiger Toolkombinationen, die jede Agentenprüfung zu einer Neuentwicklung machen würden.

Säule 4: Überwachen - Fortlaufende Transparenz

Genehmigung ist eine Momentaufnahme. Überwachung sichert kontinuierlich, dass Agenten innerhalb genehmigter Parameter arbeiten.

Was protokolliert werden sollte

Mindestens erfassen: jede Tool-Aufruf (welches Tool, welcher Agent, welcher Nutzerkontext, Zeitstempel), Datenklassifikation der Eingaben (wenn bestimmbar), externe Schreibziele und Fehler-/Ausnahmeereignisse. Strukturierte Protokollierung auf Agent-Gateway-Ebene, nicht nur Eingabe-/Ausgabe-Logs, ist erforderlich.

Alarmierungsschwellen

Konfigurieren Sie Alarme für: Agenten, die Datenklassifikationen über ihrem genehmigten Niveau zugreifen, Agenten, die an nicht im Register eingetragene externe Ziele schreiben, Lesevolumen-Spitzen (>3-fach Basiswert bei Stufe 2/3 Agenten) und Agenten, die nicht registrierte Unteragenten erzeugen.

Periodische Überprüfungsfrequenz

• Stufe 1: Jährliche Registerüberprüfung - bestätigen, dass der Agent noch genutzt wird und der Zugriff angemessen ist.
• Stufe 2: Vierteljährliche Zugriffsüberprüfung - prüfen Sie Tool-Berechtigungen und Datenzugriffsmuster im Vergleich zum Basiswert.
• Stufe 3: Kontinuierliche Überwachung mit monatlicher Überprüfung - Sicherheitsteam prüft Anomalieberichte und bestätigt, dass menschliche Kontrollpunkte funktionieren.

Implementierungsfahrplan

Für die meisten Organisationen dauert der Weg von Null zum operativen Framework 6-8 Wochen:

1. Wochen 1-2: Entdeckungsübung - bestehende Agenten aufdecken, erstes Register erstellen.
2. Wochen 2-3: Klassifizierungsrahmen - Stufen definieren, entdeckte Agenten klassifizieren.
3. Wochen 3-4: Genehmigungsprozess gestalten - Intake-Formulare erstellen, Prüfworkflow definieren, Prüfer benennen.
4. Wochen 4-5: Tool-Katalog - genehmigte Tools definieren, Wartungsprozess dokumentieren.
5. Wochen 5-6: Überwachungssetup - Agent-Gateways instrumentieren, Alarme konfigurieren, Überprüfungsfrequenz festlegen.
6. Ab Woche 6: Kommunikation an die Organisation - Framework ankündigen, Self-Service-Pfad für Stufe-1-Einreichungen bereitstellen, Enddatum setzen, ab dem nicht genehmigte Agenten blockiert werden.

Ein Governance-Framework, das zu 80 % umgesetzt und durchgesetzt wird, ist wertvoller als ein perfektes Framework, das nur dokumentiert existiert. Beginnen Sie mit der Inventarisierung, bauen Sie die Klassifizierung auf und lassen Sie den Rest folgen.

Verwandte Ressourcen

Entdecken Sie unsere Mitarbeiter-KI-Sicherheit-Lösung, vergleichen Sie sie mit Wettbewerbern in unseren KI-Governance-Vergleichsleitfäden, laden Sie unsere kostenlosen KI-Governance-Richtlinienvorlagen herunter oder stöbern Sie im KI-Sicherheitsglossar.