Zero Trust AI ist ein architektonischer Ansatz für die KI-Sicherheit, der Zero-Trust-Prinzipien – „niemals vertrauen, immer überprüfen" – auf KI-Systeme, KI-Interaktionen und KI-Agenten anwendet. Anstatt davon auszugehen, dass KI-Tools, von KI generierte Ausgaben oder von KI verarbeitete Daten standardmäßig vertrauenswürdig sind, behandelt Zero Trust AI jede KI-Interaktion als potenziell kompromittiert, bis sie anhand expliziter Richtlinienkontrollen überprüft wurde.
Zero Trust AI erweitert das traditionelle Zero-Trust-Sicherheitsmodell auf drei wesentliche Weisen. Erstens wendet es Zero Trust auf den Zugriff auf KI-Tools an: Mitarbeiter und Systeme müssen die Nutzung von KI-Tools durch explizite Richtlinienprüfungen authentifizieren und autorisieren, anstatt uneingeschränkten Zugriff auf jeden beliebigen KI-Dienst zu haben. Zweitens wendet es Zero Trust auf KI-Ausgaben an: Von KI generierte Inhalte gelten als nicht verifiziert, bis sie anhand verlässlicher Quellen oder durch menschliche Prüfung überprüft wurden, insbesondere bei folgenschweren Entscheidungen in rechtlichen, medizinischen oder finanziellen Kontexten. Drittens wendet es Zero Trust auf KI-Agenten an: Autonome KI-Systeme arbeiten mit minimalen Privilegien und benötigen für jede Aktion, die sie ausführen, eine explizite Autorisierung.
Für Unternehmen, die Shadow AI verwalten, bedeutet Zero Trust AI, alle genutzten KI-Tools zu entdecken (und nicht davon auszugehen, dass nur auf genehmigte Tools zugegriffen wird), KI-Interaktionen kontinuierlich zu überwachen (und nicht davon auszugehen, dass genehmigte Tools angemessen genutzt werden) und Richtlinien zur Datenklassifizierung in Echtzeit durchzusetzen (und nicht davon auszugehen, dass Mitarbeiter den Umgang mit sensiblen Daten eigenständig regeln).
Das Zero-Trust-AI-Modell deckt sich zunehmend mit regulatorischen Anforderungen. Die Anforderungen des EU AI Act an die menschliche Aufsicht, die Funktionen GOVERN und MANAGE des NIST AI RMF und die aufkommenden Leitlinien der SEC zur KI-Governance spiegeln allesamt Zero-Trust-Prinzipien wider: Sie verlangen Überprüfung, Überwachung und dokumentierte Kontrollen anstelle einer auf Annahmen beruhenden Governance.
Zu den Umsetzungssäulen gehören KI-Inventarisierung und -Discovery, richtlinienbasierte Zugriffskontrolle für KI-Dienste, Inline-DLP-Überwachung von KI-Interaktionen, Verhaltensanalysen zur Erkennung von Anomalien bei der KI-Nutzung sowie Frameworks für das Privilegienmanagement von KI-Agenten.