KI-Incident-Response ist eine spezialisierte Erweiterung der herkömmlichen Cybersicherheits-Incident-Response, die die besonderen Herausforderungen KI-bezogener Sicherheitsereignisse adressiert. Sie bietet ein strukturiertes Rahmenwerk für den Umgang mit Vorfällen wie Datenabfluss über KI-Tools, Prompt-Injection-Angriffen, Modellmanipulation und unbefugter KI-Nutzung.
Zu den KI-spezifischen Vorfalltypen gehören: die Offenlegung sensibler Daten über KI-Prompts, Prompt-Injection-Angriffe auf KI-gestützte Anwendungen, Modellvergiftung oder -manipulation, die unbefugte Bereitstellung von KI-Tools, extern veröffentlichte KI-generierte Fehlinformationen, Compliance-Verstöße durch KI-Datenverarbeitung, Ausfälle von KI-Systemen, die den Geschäftsbetrieb beeinträchtigen, sowie die Offenlegung geistigen Eigentums über KI-Dienste.
Ein KI-Incident-Response-Plan sollte umfassen: Erkennungsmechanismen (Überwachung und Alarmierung bei KI-bezogenen Anomalien), Klassifizierungskriterien (für KI-Vorfälle spezifische Schweregrade), Eindämmungsverfahren (Sperren des Zugriffs auf KI-Tools, Widerruf von API-Schlüsseln), Untersuchungsprozesse (Analyse von KI-Audit-Trails und Datenflüssen), Behebungsschritte (Datenlöschanfragen an KI-Anbieter, Richtlinienaktualisierungen), Kommunikationsprotokolle (interne Benachrichtigung und externe Meldung), Wiederherstellungsverfahren (den normalen KI-Betrieb sicher wiederherstellen) und Lessons Learned (Aktualisierung der KI-Governance-Richtlinien).
Organisationen sollten die KI-Incident-Response in ihr bestehendes Security Operations Center (SOC) integrieren und sicherstellen, dass die Einsatzkräfte eine KI-spezifische Schulung zu den betroffenen Tools und Risiken erhalten.