90 Tage Risikoerkennung für generative KI:Jetzt starten
Demo buchen
Kostenlose Vorlage · KI-Agenten

Checkliste für die Bereitstellung von KI-AgentenÜber 40 Punkte für einen sicheren Rollout im Unternehmen

KI-Agenten können in Ihren Systemen autonom handeln: E-Mails senden, APIs aufrufen, Datenbanken lesen und Code ausführen. Ohne eine strukturierte Bereitstellungs-Checkliste fliegen Sie blind. Nutzen Sie diese Checkliste, um sicherzustellen, dass jeder von Ihrem Unternehmen bereitgestellte KI-Agent sicher, gesteuert und prüfbar ist, bevor er in die Produktion geht.

Checkliste herunterladen (.docx)Demo buchen
0+
Checklistenpunkte
0
Bereitstellungsphasen
Unternehmenstauglich
Abdeckungstiefe
Kostenlos
Keine Anmeldung erforderlich

Die Bereitstellungs-Checkliste

Arbeiten Sie jeden Abschnitt vor dem Go-live durch. Mit einem Haken markierte Punkte sollten erledigt und belegt sein, nicht nur zur Kenntnis genommen.

01

Sicherheitsbewertung vor der Bereitstellung

Bevor ein Agent Produktionsdaten berührt, muss Ihr Sicherheitsteam die Bedrohungsfläche freigeben. Das ist das Fundament, auf dem alles andere ruht.

Bedrohungsmodellierung abgeschlossen
Dokumentieren Sie Angriffsvektoren, die für die Rolle des Agenten spezifisch sind: Datenabfluss, Prompt Injection, Rechteausweitung und laterale Bewegung.
Überprüfung der Datenklassifizierung
Identifizieren Sie jede Datenquelle, auf die der Agent zugreift, und klassifizieren Sie sie: öffentlich, intern, vertraulich oder reguliert (PII, PHI, PCI).
Sicherheitsstatus des Anbieters geprüft
Bestätigen Sie, dass der zugrunde liegende LLM-Anbieter SOC 2 Type II, ISO 27001 oder Gleichwertiges besitzt. Prüfen Sie dessen Liste der Unterauftragsverarbeiter und Datenaufbewahrungsrichtlinien.
Authentifizierungsmodell definiert
Legen Sie fest, wie sich der Agent gegenüber Systemen authentifiziert: Dienstkonto, OAuth-Token, API-Schlüssel oder Zertifikat. Keine gemeinsam mit menschlichen Nutzern genutzten Anmeldedaten.
Netzwerk-Exposition abgegrenzt
Bestimmen Sie, welche Netzwerksegmente der Agent erreichen kann. Wenden Sie Zero-Trust-Mikrosegmentierung an: Der Agent sollte nur erreichen, was er benötigt.
Überprüfung der regulatorischen Compliance
Bestätigen Sie, dass die Bereitstellung den geltenden Vorschriften entspricht: APRA CPS 234, DSGVO, HIPAA, EU AI Act oder NIST AI RMF, je nach Relevanz.
02

Scoping von Datenzugriff und Berechtigungen

KI-Agenten sind bemerkenswert effektiv darin, auf Daten zuzugreifen, die sie nicht haben sollten. Sperren Sie Berechtigungen vor der Bereitstellung, nicht nach einem Vorfall.

Least-Privilege angewendet
Gewähren Sie nur die minimalen Berechtigungen, die der Agent für seine definierten Aufgaben benötigt. Prüfen und entfernen Sie alle geerbten oder Standardberechtigungen.
Grenzen für PII und sensible Daten gesetzt
Sperren Sie den Agenten ausdrücklich vom Zugriff auf Felder mit PII, Finanzdaten oder Gesundheitsakten, sofern der Anwendungsfall dies nicht strikt erfordert.
Zugriff auf externe APIs per Whitelist
Listen Sie jede externe API auf, die der Agent aufrufen kann. Sperren Sie alle anderen auf Netzwerk- oder Richtlinienebene. Überprüfen Sie die Liste vierteljährlich.
Lese- und Schreibberechtigungen getrennt
Standardmäßig nur Lesezugriff für alle Datenquellen. Schreibberechtigungen erfordern eine ausdrückliche Begründung, eine zweite Freigabe und Audit-Protokollierung.
Datenaufbewahrungsrichtlinie definiert
Legen Sie fest, wie lange Sitzungsdaten des Agenten, Protokolle von Tool-Aufrufen und Ausgaben aufbewahrt werden, wo sie gespeichert werden und wie sie gelöscht werden.
03

Sicherheit von APIs und Integrationen

Die meisten Sicherheitsvorfälle mit KI-Agenten erfolgen über die Integrationen, nicht über das Modell selbst. Jede API-Verbindung ist eine potenzielle Angriffsfläche.

API-Schlüssel im Secrets-Manager
Alle Anmeldedaten in einem Secrets-Manager gespeichert (AWS Secrets Manager, HashiCorp Vault, Azure Key Vault). Keine fest codierten Schlüssel in Code- oder Konfigurationsdateien.
Ratenbegrenzung konfiguriert
Wenden Sie Ratenbegrenzungen auf alle vom Agenten getätigten API-Aufrufe an. Ein abnormales Aufrufvolumen ist oft das erste Signal eines kompromittierten oder außer Kontrolle geratenen Agenten.
Webhook-Signaturen validiert
Wenn der Agent Webhooks empfängt, validieren Sie bei jeder eingehenden Anfrage die HMAC-Signaturen. Weisen Sie nicht authentifizierte Payloads stillschweigend zurück.
Schwachstellenscan der Abhängigkeiten
Führen Sie vor der Bereitstellung SAST/SCA für den Agentencode und seine Abhängigkeiten durch. Blockieren Sie die Bereitstellung, wenn kritische CVEs nicht behoben sind.
Zeitplan für Secrets-Rotation
Legen Sie eine maximale Lebensdauer der Anmeldedaten fest (90 Tage empfohlen). Automatisieren Sie die Rotation und testen Sie, dass der Agent die Rotation ohne Ausfallzeit bewältigt.
04

Verhaltensgrenzen des Agenten und Leitplanken

Leitplanken sind das, was einen nützlichen KI-Agenten von einem Risiko trennt. Definieren Sie genau, was der Agent darf und nicht darf, und setzen Sie es technisch durch, nicht nur per Richtlinie.

Ausgabefilterung implementiert
Prüfen Sie jede Ausgabe des Agenten auf PII, Beleidigungen und themenfremde Inhalte, bevor sie Nutzer oder nachgelagerte Systeme erreicht. Verwenden Sie eine dedizierte Filterebene, nicht nur Prompting.
Kontrollen gegen Prompt Injection aktiv
Implementieren Sie eine Eingabebereinigung für alle vom Nutzer bereitgestellten Daten, die an den Agenten gehen. Testen Sie vor dem Go-live mit adversen Eingaben. Vertrauen Sie niemals Nutzereingaben.
Strategie zur Minderung von Halluzinationen
Definieren Sie, wie der Agent Unsicherheit signalisiert. Für Ausgaben mit hohem Einsatz (finanziell, rechtlich, medizinisch) verlangen Sie vor jeder Aktion einen menschlichen Prüfschritt.
Grenzen des Aktionsumfangs durchgesetzt
Nutzen Sie Beschränkungen für Tool-Aufrufe, um zu verhindern, dass der Agent Aktionen außerhalb seines definierten Umfangs ausführt. Bevorzugen Sie explizite Allow-Lists gegenüber Block-Lists.
Trigger für menschliches Eingreifen definiert
Legen Sie Bedingungen fest, die den Agenten pausieren und an einen Menschen eskalieren: hochwertige Transaktionen, mehrdeutige Anweisungen, Konfidenz unter dem Schwellenwert oder neuartige Situationen.
Ablehnungslogik getestet
Überprüfen Sie, dass der Agent Anfragen außerhalb des Umfangs, schädliche Prompts und Rollenspielversuche korrekt ablehnt. Dokumentieren Sie getestete Randfälle und erwartete Ablehnungsantworten.
05

Überwachung und Audit-Protokollierung

Sie können nicht steuern, was Sie nicht sehen. Vollständige Audit-Trails sind für KI-Agenten nicht verhandelbar, sowohl für die Sicherheit als auch für die regulatorische Compliance.

Sitzungsprotokollierung aktiviert
Protokollieren Sie jede Agentensitzung: Eingaben, Tool-Aufrufe, Ausgaben, Latenz, Token-Zahlen und Nutzerkennungen. Speichern Sie Protokolle in einem manipulationssicheren System.
Anomalieerkennung konfiguriert
Richten Sie automatische Warnungen für ungewöhnliches Verhalten ein: übermäßige API-Aufrufe, Zugriff auf unerwartete Datenquellen, Spitzen im Ausgabevolumen oder ein Anstieg der Fehlerrate.
Warnschwellen definiert
Vereinbaren Sie Warnschwellen mit Ihrem Sicherheitsteam vor dem Go-live. Vermeiden Sie Alarmmüdigkeit, indem Sie die Empfindlichkeit am Referenzverhalten kalibrieren.
Richtlinie zur Protokollaufbewahrung durchgesetzt
Bewahren Sie Agentenprotokolle mindestens 12 Monate auf (oder wie von den geltenden Vorschriften gefordert). Stellen Sie sicher, dass die Protokolle für forensische Untersuchungen zugänglich sind.
SIEM-Integration getestet
Leiten Sie Agentenprotokolle an Ihr SIEM weiter. Bestätigen Sie, dass kritische Ereignisse (Authentifizierungsfehler, Umfangsverletzungen, Signale für Datenabfluss) Echtzeitwarnungen auslösen.
06

Planung der Vorfallreaktion

Wenn (nicht falls) sich ein KI-Agent unerwartet verhält, brauchen Sie eine eingeübte Reaktion. Während eines Vorfalls zu improvisieren ist teuer und verschlimmert die Lage oft.

Notausschalter getestet
Bestätigen Sie, dass Sie den Agenten in unter 60 Sekunden deaktivieren können. Testen Sie den Notausschalter monatlich. Der Agent sollte im deaktivierten Zustand geschlossen ausfallen und nichts tun.
Eskalationspfad dokumentiert
Wer wird benachrichtigt, wenn ein Vorfall erkannt wird? Definieren Sie eine Kette: Agentenverantwortlicher → Sicherheitsteam → CISO → Vorstand (bei wesentlichen Vorfällen). Veröffentlichen Sie den Pfad.
Eindämmungsplaybook geschrieben
Dokumentieren Sie Schritt-für-Schritt-Eindämmungsmaßnahmen für die wahrscheinlichsten Vorfalltypen: Datenleck, außer Kontrolle geratene Aktionen, Prompt Injection und Dienstmissbrauch.
Prozess zur Nutzerbenachrichtigung definiert
Wissen Sie im Voraus, wie und wann betroffene Nutzer zu benachrichtigen sind. Prüfen Sie die regulatorischen Benachrichtigungsfristen (DSGVO: 72 Stunden, Australian Privacy Act: so bald wie praktikabel).
Nachbesprechung des Vorfalls geplant
Verpflichten Sie sich zu einer schuldfreien Nachbesprechung innerhalb von 5 Arbeitstagen nach jedem signifikanten Ereignis. Die Erkenntnisse fließen in diese Checkliste zurück.
07

Nutzerkommunikation und Schulung

Die Menschen, die mit KI-Agenten interagieren, müssen verstehen, womit sie interagieren, wie sie es verantwortungsvoll nutzen und was zu tun ist, wenn etwas schiefgeht.

Richtlinien zur akzeptablen Nutzung veröffentlicht
Veröffentlichen Sie klare Richtlinien dazu, was Nutzer vom Agenten verlangen dürfen und was nicht. Fügen Sie Beispiele für angemessene und unangemessene Anwendungsfälle hinzu.
Datenschutzhinweis aktualisiert
Aktualisieren Sie Ihren Datenschutzhinweis, um die Nutzung des KI-Agenten, die Datenverarbeitung und etwaige Drittanbieter-Modellanbieter offenzulegen. Holen Sie bei Bedarf die Einwilligung ein.
Kanal für Feedback und Meldungen aktiv
Geben Sie Nutzern eine einfache Möglichkeit, bedenkliches Agentenverhalten zu melden. Prüfen Sie Meldungen wöchentlich. Schließen Sie die Rückmeldeschleife mit Nutzern, die valide Probleme melden.
Sensibilisierungsschulung durchgeführt
Schulen Sie alle Nutzer, die mit dem Agenten interagieren, vor dem Go-live. Behandeln Sie: was er kann, was er nicht kann, wie man Fehler erkennt und wie man Bedenken eskaliert.
08

Zeitplan für die Überprüfung nach der Bereitstellung

KI-Agenten sind keine Bereitstellungen zum Einrichten und Vergessen. Das Modell, die Bedrohungslage und die Anforderungen Ihres Unternehmens ändern sich alle. Bauen Sie Überprüfungszyklen von Tag eins an ein.

30-Tage-Überprüfung abgeschlossen
Prüfen Sie 30 Tage nach der Bereitstellung Protokolle, Nutzerfeedback, Vorfallberichte und Leistungskennzahlen. Passen Sie Leitplanken und Berechtigungen anhand der realen Nutzungsmuster an.
Vierteljährliches Sicherheitsaudit geplant
Planen Sie ein vierteljährliches Sicherheitsaudit, das Folgendes abdeckt: Überprüfung der Berechtigungen, Aktualisierung der Abhängigkeiten, Auffrischung der Bedrohungsmodellierung und Penetrationstest der Agentenschnittstellen.
Richtlinie für Modellaktualisierungen definiert
Legen Sie fest, wer Modellversionsaktualisierungen genehmigt, welche Tests vor Aktualisierungen erforderlich sind und wie Sie validieren, dass sich das Verhalten nicht inakzeptabel verändert hat.
Freigabeprozess durch das Governance-Gremium
Verlangen Sie bei risikoreichen Agentenbereitstellungen eine jährliche Überprüfung durch das Governance-Gremium. Schließen Sie Aktualisierungen des KI-Risikoregisters und eine Bestätigung durch die verantwortliche Führungskraft ein.
Verwandte Ressourcen
AI FirewallPlattformübersichtAlle Vorlagen
Erste Schritte

Steuern Sie jeden von Ihrem Unternehmen bereitgestellten KI-Agenten

Aona AI bietet Ihnen Echtzeit-Transparenz, Richtliniendurchsetzung und Audit-Protokollierung für jeden KI-Agenten in Ihrem Unternehmen, ob von Ihnen bereitgestellt oder als Shadow AI entdeckt.

Kostenlose Demo buchen