Modèle gratuit · Lignes directrices de sécurité
Ingénierie de prompts IA
Lignes directrices
Lignes directrices d'ingénierie de prompts axées sur la sécurité pour les équipes en entreprise. Couvrent les pratiques de prompting sécurisé, la prévention des fuites de données, la sensibilisation à l'injection de prompts, la validation des sorties et des modèles de prompts approuvés pour les tâches métier courantes.
5 sections
couverture des lignes directrices de sécurité
4 modèles
modèles de prompts approuvés
OWASP LLM
top 10 des risques d'injection couverts
Gratuit
à utiliser et personnaliser
Pourquoi des lignes directrices d'ingénierie de prompts en entreprise sont importantes
Les collaborateurs utilisent chaque jour des outils d'IA pour traiter des informations métier. Sans consignes sur le prompting sécurisé, le comportement par défaut consiste à coller dans le prompt toutes les données pertinentes, y compris des PII, des données client confidentielles et des identifiants.
N°1
L'injection de prompts est le principal risque de sécurité des LLM
Le Top 10 LLM de l'OWASP classe l'injection de prompts comme le principal risque de sécurité pour les systèmes d'IA en entreprise. Sans formation, les collaborateurs ne peuvent pas la reconnaître.
Données
Des PII entrent régulièrement dans les prompts d'outils d'IA sans politique
Sans règles de classification des données pour les prompts, les collaborateurs ont tendance à inclure tout le contexte de leur travail, y compris des données personnelles identifiables.
RGPD
Envoyer des données personnelles à des outils d'IA peut enfreindre le RGPD
Selon les conditions de traitement des données du fournisseur d'IA, inclure des données personnelles dans les prompts peut constituer un transfert international de données illicite.
Agents
Les agents IA amplifient le risque d'injection
Les agents IA capables d'agir (envoyer des e-mails, interroger des bases de données, naviguer sur le web) sont particulièrement vulnérables à l'injection de prompts, une seule instruction injectée peut détourner toute la tâche.
Les lignes directrices
Cliquez sur chaque section pour développer son contenu. Partagez-les avec vos équipes et intégrez-les à votre politique d'utilisation acceptable de l'IA.
Le prompting sécurisé consiste à fournir aux outils d'IA le contexte dont ils ont besoin pour réaliser la tâche, et rien de plus. La fenêtre de contexte n'est pas un conteneur sécurisé ; son contenu peut être journalisé, conservé et exposé dans de futures sorties.
Ne doit JAMAIS figurer dans un prompt d'IA :
- Informations personnelles identifiables (PII), noms, adresses, numéro de sécurité sociale/SSN, dates de naissance, numéros de compte financier
- Identifiants, clés d'API, mots de passe, jetons d'authentification, secrets de toute nature
- Informations métier confidentielles, données financières non publiées, opérations de fusion-acquisition, stratégie tarifaire, intelligence concurrentielle
- Données de clients soumises à des accords de confidentialité ou de traitement des données
- Code source de systèmes de production, sauf si l'outil est explicitement approuvé pour le code et ne contient aucun secret
- Données classées Restreintes selon votre politique de classification des données
Considérations sur la fenêtre de contexte et la mémoire
- Partez du principe que tout ce qui se trouve dans la fenêtre de contexte peut être journalisé par le fournisseur d'IA, même dans les offres entreprise
- Les conversations à plusieurs tours accumulent du contexte : les messages antérieurs contenant des données sensibles restent dans le contexte pendant toute la session
- Les outils d'IA dotés de mémoire ou de contexte persistant transportent des informations d'une session à l'autre, ne comptez jamais sur l'oubli des données
- Avec le RAG (génération augmentée par récupération), les données récupérées depuis des sources externes sont insérées dans la fenêtre de contexte et soumises aux mêmes règles que les données saisies directement
Comment mettre en œuvre ces lignes directrices
Suivez ces cinq étapes pour passer du modèle de lignes directrices à une application à l'échelle de l'organisation en 30 jours.
1
Évaluez votre paysage actuel d'outils d'IA
Identifiez tous les outils d'IA utilisés, approuvés et non approuvés, et les données que les collaborateurs saisissent aujourd'hui dans les prompts. Cette base de référence révèle les comportements les plus à risque à traiter en priorité.
2
Définissez des règles de classification des données pour les prompts
Faites correspondre vos niveaux de classification des données existants à des règles explicites sur ce qui peut et ne peut pas figurer dans les prompts. Produisez des exemples clairs de modèles de prompts acceptables et inacceptables.
3
Élaborez des modèles de prompts approuvés pour les tâches courantes
Travaillez avec les responsables de département pour créer des modèles revus du point de vue de la sécurité pour les tâches que les collaborateurs réalisent le plus souvent. Des modèles prêts à l'emploi réduisent la charge cognitive d'un prompting sécurisé.
4
Formez les collaborateurs avec des exemples plutôt que des règles
Proposez une session de formation de 30 minutes axée sur des exemples concrets de prompts sûrs et non sûrs. Incluez de vrais exemples de ce à quoi ressemble une injection de prompts et de la manière de la reconnaître.
5
Appliquez et surveillez à l'aide de contrôles techniques
Mettez en place des contrôles techniques qui détectent les données sensibles dans les prompts d'IA en temps réel. Des lignes directrices écrites sans application technique restent théoriques. Surveillez automatiquement les schémas d'injection.
FAQ
Questions fréquentes
Qu'est-ce que l'injection de prompts et pourquoi est-ce important pour les entreprises ?
L'injection de prompts est une attaque où des instructions malveillantes intégrées à un contenu amènent un modèle d'IA à outrepasser son comportement prévu lorsque ce contenu est inclus dans un prompt. En entreprise, cela compte parce que les collaborateurs peuvent inclure sans le savoir du contenu injecté dans les prompts (p. ex. en demandant à une IA de résumer un e-mail contenant des instructions d'injection) ; les attaquants peuvent concevoir des documents qui manipulent les agents IA pour qu'ils divulguent des données ; et les systèmes d'IA qui agissent de manière autonome sont particulièrement vulnérables, car des instructions injectées peuvent rediriger tout leur flux de tâches.
Quelles données ne doivent jamais figurer dans un prompt d'IA ?
Les éléments suivants ne doivent jamais figurer dans un prompt d'IA, même avec des outils approuvés : informations personnelles identifiables (PII), y compris noms, adresses et numéros de compte financier ; identifiants de toute nature, y compris clés d'API, mots de passe et jetons d'authentification ; informations métier confidentielles, y compris données financières non publiées et opérations de fusion-acquisition ; données de clients soumises à des accords de confidentialité ; et code source de systèmes de production, sauf si l'outil est explicitement approuvé et que le code ne contient aucun secret. En cas de doute, anonymisez avant de soumettre le prompt.
Quand une sortie d'IA nécessite-t-elle une revue humaine avant utilisation ?
Une sortie d'IA nécessite toujours une revue humaine avant utilisation pour : tout document juridique ou de conformité, on ne doit jamais se fier à une sortie d'IA pour un conseil juridique ou des soumissions réglementaires ; toute affirmation factuelle destinée à une publication externe, les modèles d'IA hallucinent et les citations doivent être vérifiées ; tout code destiné à un déploiement en production, le code généré par l'IA nécessite une revue de sécurité ; tout contenu destiné aux clients dans des contextes réglementés ; et toute décision affectant l'emploi, le crédit ou les prestations d'un individu.
Comment tester un prompt pour détecter des vulnérabilités de sécurité ?
Pour tester un prompt afin de détecter des vulnérabilités de sécurité : tentez d'outrepasser le prompt système en ajoutant des instructions à la fin de l'entrée utilisateur ; testez si le modèle révèle son prompt système lorsqu'on le lui demande ; pour les systèmes RAG, incluez des instructions d'injection dans un document de test et vérifiez si elles s'exécutent ; testez l'exfiltration de données en ajoutant des instructions visant à inclure des données spécifiques dans la réponse ; et testez le filtrage des sorties en tentant d'obtenir un contenu qui devrait être bloqué. Documentez toutes les vulnérabilités trouvées et les mesures de durcissement de prompt appliquées.
Pour commencer
Appliquez les lignes directrices de prompting en temps réel
Aona applique les politiques d'ingénierie de prompts en temps réel, en détectant les données sensibles dans les prompts d'IA avant qu'elles n'atteignent le modèle, en bloquant les schémas d'injection de prompts et en journalisant toutes les interactions d'IA à des fins de preuve de conformité.