30 Tage Risikoerkennung für generative KI:Jetzt starten
Demo buchen
Kostenlose Vorlage · LLM-Sicherheit

OWASP LLM Top 10 Sicherheits-ChecklisteEine Prüfung für jedes LLM-System, das Sie entwickeln oder einkaufen

Die OWASP Top 10 for LLM Applications (Ausgabe 2025) definieren die kritischsten Sicherheitsrisiken LLM-gestützter Systeme. Diese Checkliste macht aus allen zehn Risiken eine praxistaugliche Prüfung: verständliche Beschreibungen, 66 konkrete Prüfpunkte, zu sammelnde Nachweise je Risiko und eine zusammenfassende Scorecard. Jeder Punkt ist für Teams gekennzeichnet, die LLM-Funktionen entwickeln, und für Teams, die KI-Produkte von Anbietern bewerten.

Die zehn Risiken im Überblick

Die Checkliste widmet jedem OWASP-Risiko einen eigenen Abschnitt: eine verständliche Beschreibung, 5 bis 8 Prüfpunkte mit Kontrollkästchen, eine Nachweisliste sowie ein Feld für Schweregrad und Status.

LLM01
Prompt InjectionPrompt-Injektion
Gezielt gestaltete oder versteckte Anweisungen bringen das Modell dazu, seine Regeln zu ignorieren und gegen Ihre Absichten zu handeln.
LLM02
Sensitive Information DisclosureOffenlegung sensibler Informationen
Das Modell gibt personenbezogene Daten, Geheimnisse oder Inhalte anderer Nutzer über Ausgaben, Protokolle oder Trainingsdaten preis.
LLM03
Supply ChainLieferkette
Kompromittierte Modelle, Datensätze oder Abhängigkeiten untergraben jede darüberliegende Kontrolle.
LLM04
Data and Model PoisoningDaten- und Modellvergiftung
Manipulierte Trainings- oder Embedding-Daten pflanzen Hintertüren, Verzerrungen oder versteckte Auslöser in das Modellverhalten ein.
LLM05
Improper Output HandlingUnsachgemäße Ausgabeverarbeitung
Blind vertraute Modellausgaben werden zum Einfallstor für XSS, SQL-Injection und Codeausführung.
LLM06
Excessive AgencyÜbermäßige Handlungsautonomie
KI, die mehr kann als nötig, macht aus einer Fehlentscheidung realen Schaden.
LLM07
System Prompt LeakageSystem-Prompt-Leck
Extrahierte System-Prompts legen Geheimnisse und Geschäftsregeln offen und hebeln Leitplanken aus, die nur im Prompt existieren.
LLM08
Vector and Embedding WeaknessesSchwachstellen bei Vektoren und Embeddings
Schwache Kontrollen in der RAG-Abrufschicht lassen Angreifer lesen oder beeinflussen, was das Modell sieht.
LLM09
MisinformationFehlinformationen
Überzeugende, aber falsche Ausgaben fließen ungeprüft in Entscheidungen und Veröffentlichungen ein.
LLM10
Unbounded ConsumptionUnbegrenzter Verbrauch
Nutzung ohne Obergrenzen führt zu ausufernden Kosten, beeinträchtigtem Betrieb und Modellextraktion.

Für Entwickler und Einkäufer gemacht

Die meisten Unternehmen entwickeln LLM-Funktionen und kaufen zugleich Produkte mit eingebetteter KI. Jeder Prüfpunkt ist mit Build, Buy oder Both gekennzeichnet, sodass ein Durchlauf Ihren gesamten Bestand abdeckt.

Wenn Sie LLM-Funktionen entwickeln

Engineering- und Sicherheitsteams, die Chatbots, Copilots, RAG-Pipelines oder Agenten ausliefern.

  • Design-Prüfpunkte zu Vertrauensgrenzen, Ausgabeverarbeitung und minimalen Rechten
  • Adversariale Tests auf direkte und indirekte Prompt Injection
  • Pipeline-Kontrollen für Trainingsdaten-Herkunft und Modellevaluierung
  • Betriebsgrenzen: Ratenlimits, Budgets, Notausschalter und Protokollierung

Wenn Sie KI-Produkte von Anbietern bewerten

Sicherheits-, GRC- und Einkaufsteams, die SaaS-Tools mit eingebetteten LLM-Funktionen prüfen.

  • Fragen an Anbieter zu Injektionsabwehr, Datennutzung und Aufbewahrung
  • Vertragsprüfungen: kein Training mit Ihren Daten, Löschrechte, Verbrauchsobergrenzen
  • Due Diligence zu Unterauftragsverarbeitern und vorgelagerten Modellanbietern
  • Konfigurierbare Kontrollen: Berechtigungen, Freigaben und Audit-Protokolle

So führen Sie die Prüfung durch

Ein strukturierter Durchlauf kostet ein fokussiertes Team wenige Stunden pro System. Die Checkliste führt Sie Schritt für Schritt hindurch.

1
Grenzen Sie Ihren LLM-Bestand ab
Erfassen Sie jedes System, in dem ein LLM nicht vertrauenswürdige Eingaben verarbeitet, sensible Daten berührt oder Aktionen ausführt: selbst entwickelt, eingekauft oder als eingebettete KI-Funktion.
2
Arbeiten Sie die zehn Risiken durch
Bewerten Sie jeden Prüfpunkt mit Bestanden, Nicht bestanden oder N/A und überspringen Sie Punkte, die nicht zu Ihrer Build- oder Buy-Beziehung zum System passen.
3
Sammeln Sie Nachweise im Verlauf
Jeder Abschnitt listet die Artefakte auf, die aus einem Bestanden einen belastbaren Befund machen: Testberichte, Konfigurationen, Verträge und Protokolle.
4
Bewerten und Verantwortliche zuweisen
Halten Sie Schweregrad und Status je Risiko in der Scorecard fest und legen Sie für jedes Nicht bestanden eine Maßnahme mit Verantwortlichem und Zieltermin an.
5
Bei Änderungen wiederholen
Wiederholen Sie die Prüfung nach der Behebung, bei wesentlichen Systemänderungen und mindestens jährlich. Achten Sie auf Anbieterprodukte, die still und leise KI-Funktionen erhalten.
Erste Schritte

Kennen Sie jedes LLM-System, bevor Sie es absichern

Eine Checkliste deckt nur die Systeme ab, die Sie kennen. Aona AI erkennt jedes KI-Tool in Ihrem Unternehmen, überwacht, welche Daten hineinfließen, und hält Ihren Prüfumfang vollständig.