Kostenlose Vorlage · Sicherheitsrichtlinien
KI-Prompt-Engineering
Richtlinien
Sicherheitsorientierte Prompt-Engineering-Richtlinien für Unternehmensteams. Behandeln sichere Prompting-Praktiken, Vermeidung von Datenleckage, Sensibilisierung für Prompt Injection, Ausgabevalidierung und freigegebene Prompt-Vorlagen für gängige Geschäftsaufgaben.
5 Abschnitte
Abdeckung der Sicherheitsrichtlinien
4 Muster
freigegebene Prompt-Vorlagen
OWASP LLM
Top-10-Injection-Risiken abgedeckt
Kostenlos
zur Nutzung und Anpassung
Warum unternehmensweite Prompt-Engineering-Richtlinien wichtig sind
Mitarbeitende nutzen täglich KI-Tools, um Geschäftsinformationen zu verarbeiten. Ohne Anleitung zum sicheren Prompting besteht das Standardverhalten darin, alle relevanten Daten in den Prompt einzufügen, einschließlich PII, vertraulicher Kundendaten und Anmeldedaten.
Nr. 1
Prompt Injection ist das größte Sicherheitsrisiko bei LLMs
Die LLM Top 10 von OWASP führen Prompt Injection als primäres Sicherheitsrisiko für KI-Systeme in Unternehmen auf. Ohne Schulung können Mitarbeitende sie nicht erkennen.
Daten
PII gelangen ohne Richtlinie regelmäßig in KI-Tool-Prompts
Ohne Datenklassifizierungsregeln für Prompts neigen Mitarbeitende dazu, den vollständigen Kontext ihrer Arbeit einzubeziehen, einschließlich personenbezogener identifizierbarer Daten.
DSGVO
Das Senden personenbezogener Daten an KI-Tools kann gegen die DSGVO verstoßen
Je nach den Datenverarbeitungsbedingungen des KI-Anbieters kann das Einbeziehen personenbezogener Daten in Prompts eine unrechtmäßige internationale Datenübermittlung darstellen.
Agenten
KI-Agenten verstärken das Injection-Risiko
KI-Agenten, die Aktionen ausführen können (E-Mails senden, Datenbanken abfragen, im Web surfen), sind besonders anfällig für Prompt Injection, eine einzige injizierte Anweisung kann die gesamte Aufgabe kapern.
Die Richtlinien
Klicken Sie auf jeden Abschnitt, um den Inhalt der Richtlinie aufzuklappen. Teilen Sie sie mit Ihren Teams und binden Sie sie in Ihre Richtlinie zur akzeptablen Nutzung von KI ein.
Sicheres Prompting bedeutet, KI-Tools den Kontext zu geben, den sie für die Aufgabe benötigen, und nichts darüber hinaus. Das Kontextfenster ist kein sicherer Container; sein Inhalt kann protokolliert, aufbewahrt und in künftigen Ausgaben offengelegt werden.
Darf NIEMALS in einem KI-Prompt enthalten sein:
- Personenbezogene identifizierbare Daten (PII), Namen, Adressen, Sozialversicherungsnummer/SSN, Geburtsdaten, Finanzkontonummern
- Anmeldedaten, API-Schlüssel, Passwörter, Authentifizierungs-Token, Geheimnisse jeglicher Art
- Vertrauliche Geschäftsinformationen, unveröffentlichte Finanzdaten, M&A-Aktivitäten, Preisstrategie, Wettbewerbsinformationen
- Kundendaten, die Vertraulichkeitsvereinbarungen oder Auftragsverarbeitungsverträgen unterliegen
- Quellcode für Produktionssysteme, sofern das Tool nicht ausdrücklich für Code freigegeben ist und keine Geheimnisse enthält
- Daten, die nach Ihrer Datenklassifizierungsrichtlinie als Eingeschränkt eingestuft sind
Überlegungen zu Kontextfenster und Speicher
- Gehen Sie davon aus, dass alles im Kontextfenster vom KI-Anbieter protokolliert werden kann, auch in Enterprise-Stufen
- Mehrstufige Konversationen sammeln Kontext an: Frühere Nachrichten mit sensiblen Daten bleiben während der gesamten Sitzung im Kontext
- KI-Tools mit Speicher oder persistentem Kontext übertragen Informationen zwischen Sitzungen, verlassen Sie sich niemals darauf, dass Daten vergessen werden
- Bei Verwendung von RAG (Retrieval-Augmented Generation) werden aus externen Quellen abgerufene Daten in das Kontextfenster eingefügt und unterliegen denselben Regeln wie direkt eingegebene Daten
So setzen Sie diese Richtlinien um
Befolgen Sie diese fünf Schritte, um innerhalb von 30 Tagen von der Richtlinienvorlage zur unternehmensweiten Durchsetzung zu gelangen.
1
Bewerten Sie Ihre aktuelle KI-Tool-Landschaft
Identifizieren Sie alle genutzten KI-Tools, freigegebene und nicht freigegebene, und welche Daten Mitarbeitende heute in Prompts eingeben. Diese Ausgangsbasis zeigt die Verhaltensweisen mit dem höchsten Risiko, die zuerst anzugehen sind.
2
Definieren Sie Datenklassifizierungsregeln für Prompts
Ordnen Sie Ihre bestehenden Datenklassifizierungsstufen expliziten Regeln darüber zu, was in Prompts enthalten sein darf und was nicht. Erstellen Sie klare Beispiele für akzeptable und inakzeptable Prompt-Muster.
3
Entwickeln Sie freigegebene Prompt-Vorlagen für gängige Aufgaben
Erstellen Sie gemeinsam mit Abteilungsleitern sicherheitsgeprüfte Vorlagen für die Aufgaben, die Mitarbeitende am häufigsten ausführen. Vorgefertigte Vorlagen verringern die kognitive Last des sicheren Promptings.
4
Schulen Sie Mitarbeitende mit Beispielen statt mit Regeln
Bieten Sie eine 30-minütige Schulung an, die sich auf konkrete Beispiele sicherer und unsicherer Prompts konzentriert. Nehmen Sie reale Beispiele dafür auf, wie eine Prompt Injection aussieht und wie man sie erkennt.
5
Setzen Sie mit technischen Kontrollen durch und überwachen Sie
Implementieren Sie technische Kontrollen, die sensible Daten in KI-Prompts in Echtzeit erkennen. Schriftliche Richtlinien ohne technische Durchsetzung bleiben Wunschdenken. Überwachen Sie Injection-Muster automatisch.
FAQ
Häufig gestellte Fragen
Was ist Prompt Injection und warum ist sie für Unternehmen relevant?
Prompt Injection ist ein Angriff, bei dem in Inhalten eingebettete bösartige Anweisungen ein KI-Modell dazu bringen, sein vorgesehenes Verhalten zu überschreiben, wenn dieser Inhalt in einem Prompt enthalten ist. Im Unternehmenskontext ist dies relevant, weil Mitarbeitende unwissentlich injizierten Inhalt in Prompts aufnehmen können (z. B. wenn sie eine KI bitten, eine E-Mail mit Injection-Anweisungen zusammenzufassen); Angreifer können Dokumente erstellen, die KI-Agenten dazu manipulieren, Daten preiszugeben; und KI-Systeme, die autonom handeln, sind besonders anfällig, da injizierte Anweisungen ihren gesamten Aufgabenfluss umlenken können.
Welche Daten dürfen niemals in einem KI-Prompt enthalten sein?
Folgendes darf niemals in einem KI-Prompt enthalten sein, auch nicht mit freigegebenen Tools: personenbezogene identifizierbare Daten (PII), einschließlich Namen, Adressen und Finanzkontonummern; Anmeldedaten jeglicher Art, einschließlich API-Schlüssel, Passwörter und Authentifizierungs-Token; vertrauliche Geschäftsinformationen, einschließlich unveröffentlichter Finanzdaten und M&A-Aktivitäten; Kundendaten, die Vertraulichkeitsvereinbarungen unterliegen; und Quellcode für Produktionssysteme, sofern das Tool nicht ausdrücklich freigegeben ist und der Code keine Geheimnisse enthält. Im Zweifel anonymisieren Sie vor dem Prompting.
Wann erfordert eine KI-Ausgabe vor der Nutzung eine menschliche Prüfung?
Eine KI-Ausgabe erfordert vor der Nutzung immer eine menschliche Prüfung bei: jedem Rechts- oder Compliance-Dokument, auf eine KI-Ausgabe darf man sich niemals für Rechtsberatung oder regulatorische Einreichungen verlassen; jeder faktischen Aussage für eine externe Veröffentlichung, KI-Modelle halluzinieren und Quellenangaben müssen überprüft werden; jedem Code für den Produktionseinsatz, von KI generierter Code erfordert eine Sicherheitsprüfung; allen kundenorientierten Inhalten in regulierten Kontexten; und jeder Entscheidung, die Beschäftigung, Kredit oder Leistungen einer Person betrifft.
Wie teste ich einen Prompt auf Sicherheitslücken?
So testen Sie einen Prompt auf Sicherheitslücken: Versuchen Sie, den System-Prompt zu überschreiben, indem Sie am Ende der Nutzereingabe Anweisungen hinzufügen; testen Sie, ob das Modell seinen System-Prompt auf Nachfrage preisgibt; bei RAG-Systemen fügen Sie Injection-Anweisungen in ein Testdokument ein und prüfen, ob sie ausgeführt werden; testen Sie auf Datenexfiltration, indem Sie Anweisungen hinzufügen, bestimmte Daten in die Antwort aufzunehmen; und testen Sie die Ausgabefilterung, indem Sie versuchen, Inhalte zu erzeugen, die blockiert werden sollten. Dokumentieren Sie alle gefundenen Schwachstellen und die angewendeten Maßnahmen zur Prompt-Härtung.
Erste Schritte
Setzen Sie Prompt-Richtlinien in Echtzeit durch
Aona setzt Prompt-Engineering-Richtlinien in Echtzeit durch, erkennt sensible Daten in KI-Prompts, bevor sie das Modell erreichen, blockiert Prompt-Injection-Muster und protokolliert alle KI-Interaktionen als Compliance-Nachweis.