Ein vollständiger Leitfaden zum Erkennen, Klassifizieren, Eindämmen und Beheben von KI-Sicherheitsvorfällen. Deckt Datenabfluss, Prompt Injection, die Kompromittierung von KI-Agenten und mehr ab.
Ein KI-Sicherheitsvorfall ist jedes Ereignis, bei dem KI-Tools, -Modelle oder -Agenten an einer Datenpanne, einem Richtlinienverstoß oder einer Sicherheitskompromittierung beteiligt sind, sei es durch einen vorsätzlichen Angriff, einen versehentlichen Missbrauch oder ein Systemversagen.
Anders als herkömmliche Sicherheitsvorfälle bringen KI-Vorfälle einzigartige Dimensionen mit sich: Der Angreifer kann ein Mitarbeiter ohne böswillige Absicht sein; der Angriffsvektor kann ein Prompt in natürlicher Sprache sein; die Auswirkung kann eine Vergiftung der Trainingsdaten oder eine Modellmanipulation umfassen, die schwer zu erkennen und rückgängig zu machen ist.
Dieses Playbook behandelt vier primäre KI-Vorfalltypen. Jeder erfordert einen Reaktionsprozess, der über die herkömmliche Vorfallreaktion hinausgeht, um den KI-spezifischen Bedarf an Beweissicherung, Eindämmung und Behebung abzudecken.
Sensible Daten (PII, Finanzunterlagen, geistiges Eigentum, Anmeldedaten), die ohne Genehmigung an ein KI-Tool oder -Modell übermittelt werden.
Schädliche Anweisungen, die in Nutzereingaben oder abgerufenen Inhalten eingebettet sind und ein KI-System zu unsicherem Verhalten manipulieren.
Ein autonomer KI-Agent führt Aktionen außerhalb seines genehmigten Bereichs aus, greift auf Systeme zu, versendet Mitteilungen oder verändert Daten.
Ein feinabgestimmtes oder gehostetes KI-Modell erzeugt in großem Umfang systematisch schädliche, verzerrte oder adversariell manipulierte Ausgaben.
Weisen Sie sofort bei der Erkennung einen Schweregrad zu. Er bestimmt die Eskalation, den Reaktionszeitrahmen und die Meldepflichten.
Beispiele: Großflächige PII-Exfiltration, KI-Agent mit Systemzugriff, kundenseitige Prompt Injection in der Produktion
Eskalation: CISO + CEO + Rechtsabteilung innerhalb einer Stunde benachrichtigt
Beispiele: Vertrauliches geistiges Eigentum an eine externe KI übermittelt, Prompt Injection mit begrenztem Datenzugriff, nicht autorisierte KI-Agenten-Aktion ohne Datenpanne
Eskalation: Sicherheitsmanager + CISO benachrichtigt
Beispiele: Nutzung eines Tools für Shadow AI mit internen Daten, fehlgeschlagener Prompt-Injection-Versuch, Richtlinienverstoß ohne Datenexposition
Eskalation: Leiter des Sicherheitsteams benachrichtigt
Beispiele: Nutzung eines nicht genehmigten KI-Tools mit öffentlichen Daten, möglicher Phishing-Versuch mit KI-generierten Inhalten
Eskalation: Protokolliert und einem Analysten zugewiesen
Geschwindigkeit ist entscheidend. Das Ziel ist es, die Blutung zu stoppen und eine weitere Datenexposition oder Agentenaktionen zu verhindern, bevor das volle Ausmaß des Vorfalls bekannt ist.
Arbeiten Sie jede Kategorie methodisch durch. Dokumentieren Sie Ihre Erkenntnisse in einem sicheren Vorfalldatensatz. Alle Beweise müssen in ihrer ursprünglichen Form gesichert werden.
Verwenden Sie diese Vorlagen als Ausgangspunkte. Passen Sie sie an Ihre Organisation, den Vorfalltyp und die Zielgruppe an. Alle externen Mitteilungen sollten vor dem Versand von der Rechtsabteilung geprüft werden.
Betreff: [SICHERHEITSVORFALL] KI-Vorfall, [Schweregrad], [Datum]
Liebes Team,
Wir haben einen KI-Sicherheitsvorfall festgestellt, der sofortige Aufmerksamkeit erfordert. Bitte behandeln Sie diese Mitteilung als vertraulich.
Vorfallzusammenfassung: [Kurzbeschreibung, was geschehen ist, welches KI-Tool/-System betroffen ist]
Schweregrad: [P1/P2/P3/P4]
Zeitpunkt der Erkennung: [Datum und Uhrzeit]
Betroffene Daten: [Datentyp, geschätztes Volumen, Klassifizierungsstufe]
Aktueller Status: [Eindämmung läuft / Eingedämmt / In Untersuchung]
Sofort erforderliche Maßnahmen:
- [Maßnahme 1, die von diesem Team erforderlich ist]
- [Maßnahme 2]
Vorfallverantwortlicher: [Name]
Nächstes Update: [Uhrzeit]
Vorfall-Bridge/-Kanal: [Link oder Nummer]
Leiten Sie diese Nachricht nicht weiter und besprechen Sie sie nicht außerhalb dieses Verteilers.
Betreff: Wichtiger Hinweis zu Ihren Informationen, [Firmenname]
Sehr geehrte/r [Name des Kunden/der Person],
Wir schreiben Ihnen, um Sie über einen Sicherheitsvorfall zu informieren, der möglicherweise Ihre personenbezogenen Daten betroffen hat.
Was geschehen ist: [Beschreibung in einfacher Sprache. Vermeiden Sie Fachjargon. Nennen Sie keine bestimmten KI-Tools, sofern nicht gesetzlich vorgeschrieben.]
Welche Informationen betroffen waren: [Listen Sie konkrete Datentypen auf: Name, E-Mail, Telefon usw.]
Was wir getan haben: [Bereits ergriffene Schritte zur Eindämmung und Bewältigung des Vorfalls]
Was Sie tun können:
- [Empfohlene Maßnahme 1, z. B. Ihre Konten überwachen]
- [Empfohlene Maßnahme 2, z. B. Ihr Passwort ändern]
Für weitere Informationen: Wenden Sie sich an unser Datenschutzteam unter [E-Mail] oder [Telefon].
Wir entschuldigen uns aufrichtig für diesen Vorfall und jegliche damit verbundene Beunruhigung.
[Unterschrift, Name, Funktion, Unternehmen]
Zeitvorgaben für regulatorische Meldungen
NDB in Australien: OAIC und betroffene Personen so bald wie möglich benachrichtigen (in der Regel innerhalb von 30 Tagen nach Kenntnisnahme). DSGVO in der EU: Aufsichtsbehörde innerhalb von 72 Stunden benachrichtigen. USA: bundesstaatlich unterschiedliche Fristen gelten. Ziehen Sie immer die Rechtsabteilung hinzu, bevor Sie regulatorische Meldungen versenden.
Beheben Sie die Grundursache, nicht nur das Symptom. Die Behebung muss die Kontrolllücke schließen, die den Vorfall ermöglicht hat.
Die Schwachstelle beheben
Beheben Sie die technische Lücke, aktualisieren Sie die Richtlinien für KI-Tools, korrigieren Sie den Prompt-Injection-Filter, schränken Sie die Agentenberechtigungen ein.
DLP- und Überwachungsregeln aktualisieren
Setzen Sie neue Erkennungsregeln ein, die auf den beobachteten Angriffsvektor abzielen. Testen Sie die Regeln mit synthetischen Daten, bevor Sie sie in der Produktion aktivieren.
Betroffenes Personal nachschulen
Gezielte Nachschulung zur Datenklassifizierung und KI-Nutzungsrichtlinie. Dokumentieren Sie den Abschluss im Vorfalldatensatz.
Betrieb wiederherstellen
Reaktivieren Sie KI-Tools oder -Agenten mit verstärkten Kontrollen. Legen Sie ein verstärktes Überwachungsfenster fest (30 bis 90 Tage).
Datenlöschung beim Anbieter anfordern
Reichen Sie bei externen KI-Diensten Anträge auf Datenlöschung ein. Holen Sie nach Möglichkeit eine schriftliche Bestätigung ein.
Führen Sie sie innerhalb von 5 Werktagen nach der Behebung durch. Dokumentieren Sie alle Erkenntnisse in einem Nachbereitungsbericht (PIR).
Tipp: Speichern Sie PIRs in einem durchsuchbaren Format. Mit der Zeit wird Ihre PIR-Bibliothek zur wertvollsten Grundlage für die Verbesserung Ihres KI-Sicherheitsprogramms, da sie Muster über Vorfälle hinweg aufzeigt, die einzelne Überprüfungen übersehen.
Diese drei Szenarien decken die häufigsten KI-Sicherheitsvorfälle in Unternehmensumgebungen ab. Jedes enthält Erkennungssignale, Eindämmungsmaßnahmen und Behebungsschritte.
Szenario
Ein Mitarbeiter des Kundensupports fügt eine Tabelle mit 500 Kundennamen, E-Mail-Adressen und Telefonnummern in ChatGPT ein, um eine Massen-E-Mail-Kampagne zu entwerfen. Das Tool steht nicht auf der Liste zugelassener Tools, und die Daten sind als vertraulich eingestuft.
Erkennungssignale
Eindämmungsmaßnahmen
Behebung
Regulatorischer Hinweis
Im Rahmen des australischen Notifiable-Data-Breaches-Schemas kann dies meldepflichtig sein, wenn ein schwerwiegender Schaden wahrscheinlich ist. Ziehen Sie die Rechtsabteilung innerhalb von 30 Tagen nach Kenntnisnahme hinzu.
Die beste Vorfallreaktion ist die, die Sie nie ausführen müssen. Aona AI erkennt die Nutzung von Shadow AI, setzt Datenschutzrichtlinien durch und bietet eine Echtzeitüberwachung über jedes KI-Tool in Ihrem Unternehmen hinweg. Einsatzbereit in unter 5 Minuten. Keine Agenten erforderlich.