Guide de réponse aux
incidents d'IA
Un guide complet pour détecter, classifier, confiner et récupérer des incidents de sécurité de l'IA. Couvre les fuites de données, le prompt injection, la compromission d'agents IA, et plus encore.
Qu'est-ce qu'un incident de sécurité de l'IA ?
Un incident de sécurité de l'IA est tout événement dans lequel des outils, modèles ou agents d'IA sont impliqués dans une violation de données, une infraction à la politique ou une compromission de sécurité, qu'il s'agisse d'une attaque intentionnelle, d'un usage abusif accidentel ou d'une défaillance du système.
Contrairement aux incidents de sécurité traditionnels, les incidents d'IA introduisent des dimensions uniques : l'attaquant peut être un collaborateur sans intention malveillante ; le vecteur de la violation peut être une invite en langage naturel ; l'impact peut inclure un empoisonnement des données d'entraînement ou une manipulation du modèle difficiles à détecter et à corriger.
Ce guide couvre quatre principaux types d'incidents d'IA. Chacun requiert un processus de réponse qui va au-delà de la réponse aux incidents traditionnelle pour traiter les besoins propres à l'IA en matière de preuves, de confinement et de remédiation.
Fuite de données
Des données sensibles (PII, dossiers financiers, propriété intellectuelle, identifiants) soumises à un outil ou un modèle d'IA sans autorisation.
Prompt injection
Des instructions malveillantes intégrées à l'entrée utilisateur ou au contenu récupéré, qui manipulent un système d'IA pour l'amener à un comportement dangereux.
Action non autorisée d'un agent IA
Un agent IA autonome effectue des actions en dehors de son périmètre autorisé, en accédant à des systèmes, en envoyant des communications ou en modifiant des données.
Compromission / manipulation du modèle
Un modèle d'IA affiné ou hébergé produit à grande échelle des sorties systématiquement nuisibles, biaisées ou manipulées de manière adverse.
Étape 1 : classifier l'incident
Attribuez un niveau de gravité dès la détection. Il détermine l'escalade, le délai de réponse et les obligations de notification.
Exemples : Exfiltration de PII à grande échelle, agent IA avec accès au système, prompt injection en production sur un service client
Escalade : RSSI + PDG + service juridique notifiés dans l'heure
Exemples : Propriété intellectuelle confidentielle soumise à une IA externe, prompt injection avec accès limité aux données, action non autorisée d'un agent IA sans violation de données
Escalade : Responsable de la sécurité + RSSI notifiés
Exemples : Usage d'un outil de Shadow AI avec des données internes, tentative de prompt injection échouée, infraction à la politique sans exposition de données
Escalade : Chef de l'équipe sécurité notifié
Exemples : Usage d'un outil d'IA non autorisé avec des données publiques, hameçonnage potentiel s'appuyant sur du contenu généré par IA
Escalade : Consigné et attribué à un analyste
Étape 2 : confinement
La rapidité est cruciale. L'objectif est d'arrêter l'hémorragie, d'empêcher toute exposition de données ou action d'agent supplémentaire avant que l'ampleur totale de l'incident ne soit connue.
Isoler l'outil ou l'agent IA
- Révoquer les clés d'API et les jetons d'accès du service d'IA concerné
- Désactiver l'outil ou l'agent IA au niveau du réseau ou de l'application
- Bloquer le compte de l'utilisateur si l'action est d'origine humaine
- Pour les agents IA : arrêter tous les processus en cours et révoquer les autorisations
Préserver les preuves
- Exporter les journaux d'invites/réponses du service d'IA (avant la révocation si possible)
- Capturer des captures d'écran ou des enregistrements des indicateurs de l'incident
- Préserver les journaux de trafic réseau montrant la sortie de données
- Documenter les horodatages et les comptes utilisateurs concernés
- Ne PAS modifier ni supprimer les journaux, les traiter comme des preuves juridiques potentielles
Évaluer et limiter l'exposition des données
- Identifier quelles données ont été soumises ou consultées
- Classer la sensibilité des données (PII, financières, propriété intellectuelle confidentielle, identifiants)
- Déterminer si les données ont été conservées par le fournisseur d'IA tiers
- Examiner la politique de conservation des données du fournisseur d'IA et les options de suppression
- Évaluer si une exfiltration en aval est possible depuis le service d'IA
Notifier les parties prenantes clés
- Alerter le chef de l'équipe sécurité et le RSSI selon le niveau de gravité
- Notifier les services juridique et conformité si des données personnelles sont concernées
- Informer le responsable de l'unité métier concernée
- Ne PAS notifier l'utilisateur impacté tant que le périmètre de l'investigation n'est pas clair (menace interne potentielle)
Étape 3 : liste de vérification d'investigation
Parcourez chaque catégorie de manière méthodique. Documentez vos constatations dans un dossier d'incident sécurisé. Toutes les preuves doivent être préservées dans leur forme originale.
Chronologie et périmètre
- Quand l'incident s'est-il produit pour la première fois ? Quand a-t-il été détecté ?
- Combien d'utilisateurs / de sessions sont concernés ?
- Quels outils, modèles ou agents d'IA sont impliqués ?
- Quelle fenêtre temporelle doit être couverte lors de la revue des journaux ?
Impact sur les données
- Quels types de données étaient concernés ? (PII, financières, identifiants, propriété intellectuelle)
- Combien d'enregistrements ou d'individus affectés ?
- Les données ont-elles été stockées ou traitées par un fournisseur d'IA tiers ?
- Les données sont-elles apparues quelque part en aval (dark web, concurrents) ?
- L'exposition déclenche-t-elle une obligation de notification réglementaire ?
Cause racine
- Quel a été le vecteur d'attaque initial ou le point de défaillance ?
- S'agissait-il d'une lacune de politique, d'une défaillance d'un contrôle technique ou d'une erreur utilisateur ?
- L'outil d'IA était-il approuvé ou s'agissait-il d'un outil de Shadow AI ?
- Pour le prompt injection : quels étaient la charge utile et le vecteur d'injection ?
- Pour les agents IA : quelle limite d'autorisation ou de périmètre a été dépassée ?
Collecte de preuves
- Journaux d'invites et de réponses de l'outil/API d'IA
- Journaux d'activité des utilisateurs (SSO, navigateur, poste de travail)
- Journaux de sortie réseau pour la fenêtre temporelle concernée
- Journaux d'actions de l'agent IA (appels d'outils, appels d'API, messages envoyés)
- Résultats de l'analyse de classification des données sur le contenu soumis
- Confirmation par le fournisseur de la conservation / suppression des données
Étape 4 : modèles de communication
Utilisez ces modèles comme points de départ. Adaptez-les à votre organisation, au type d'incident et à l'audience. Toutes les communications externes doivent être examinées par le service juridique avant l'envoi.
Notification aux parties prenantes internes
À utiliser dans l'heure pour les P1/P2Objet : [INCIDENT DE SÉCURITÉ] Incident d'IA, [Niveau de gravité], [Date]
Bonjour à toutes et à tous,
Nous avons identifié un incident de sécurité de l'IA nécessitant une attention immédiate. Veuillez traiter cette communication comme confidentielle.
Résumé de l'incident : [Brève description, ce qui s'est passé, quel outil/système d'IA est concerné]
Gravité : [P1/P2/P3/P4]
Heure de détection : [Date et heure]
Données concernées : [Type de données, volume estimé, niveau de classification]
Statut actuel : [Confinement en cours / Confiné / En cours d'investigation]
Actions immédiates requises :
- [Action 1 requise de cette équipe]
- [Action 2]
Responsable de l'incident : [Nom]
Prochaine mise à jour : [Heure]
Pont/canal de l'incident : [Lien ou numéro]
Ne transférez pas ce message et n'en discutez pas en dehors de cette liste de diffusion.
Notification externe / aux clients
Revue juridique requise avant l'envoiObjet : Avis important concernant vos informations, [Nom de l'entreprise]
Cher/Chère [Nom du client/de la personne],
Nous vous écrivons pour vous informer d'un incident de sécurité susceptible d'avoir affecté vos informations personnelles.
Ce qui s'est passé : [Description en langage clair. Évitez le jargon technique. Ne mentionnez pas d'outils d'IA spécifiques sauf obligation légale.]
Quelles informations étaient concernées : [Listez les types de données précis : nom, e-mail, téléphone, etc.]
Ce que nous avons fait : [Mesures déjà prises pour confiner et traiter l'incident]
Ce que vous pouvez faire :
- [Action recommandée 1, par ex. surveiller vos comptes]
- [Action recommandée 2, par ex. changer votre mot de passe]
Pour plus d'informations : Contactez notre équipe en charge de la confidentialité à [e-mail] ou [téléphone].
Nous nous excusons sincèrement pour cet incident et pour toute inquiétude qu'il pourrait causer.
[Signature, Nom, Fonction, Entreprise]
Délais de notification réglementaire
NDB en Australie : notifier l'OAIC et les personnes concernées dès que possible (généralement dans les 30 jours suivant la prise de connaissance). RGPD dans l'UE : notifier l'autorité de contrôle dans les 72 heures. États-Unis : des délais propres à chaque État s'appliquent. Sollicitez toujours le service juridique avant d'envoyer des notifications réglementaires.
Étape 5 : remédiation
Corrigez la cause racine, pas seulement le symptôme. La remédiation doit combler la lacune de contrôle qui a permis à l'incident de se produire.
Corriger la vulnérabilité
Traitez la lacune technique, mettez à jour les politiques relatives aux outils d'IA, corrigez le filtre de prompt injection, restreignez les autorisations de l'agent.
Mettre à jour les règles DLP et de surveillance
Déployez de nouvelles règles de détection ciblant le vecteur d'attaque observé. Testez les règles avec des données synthétiques avant de les activer en production.
Reformer le personnel concerné
Reformation ciblée sur la classification des données et la politique d'usage de l'IA. Documentez l'achèvement dans le dossier d'incident.
Rétablir les opérations
Réactivez les outils ou agents d'IA avec des contrôles renforcés. Définissez une fenêtre de surveillance renforcée (30 à 90 jours).
Demander la suppression des données par le fournisseur
Pour les services d'IA tiers, soumettez des demandes de suppression de données. Obtenez une confirmation écrite lorsque c'est possible.
Étape 6 : revue post-incident
Menez-la dans les 5 jours ouvrés suivant la résolution. Documentez toutes les constatations dans un rapport post-incident (PIR).
Ordre du jour du PIR
- Reconstitution de la chronologie, de l'événement initial à la détection puis à la résolution
- Analyse de la cause racine, pourquoi cet incident s'est-il produit ?
- Analyse des lacunes de détection, pourquoi n'a-t-il pas été repéré plus tôt ?
- Efficacité de la réponse, le guide a-t-il fonctionné ? Qu'est-ce qui nous a ralentis ?
- Évaluation de l'impact, décompte final de l'exposition des données, obligations réglementaires
- Améliorations des contrôles, qu'est-ce qui aurait empêché ou limité cela ?
- Mises à jour du guide, révisez ce document avec les enseignements tirés
- Points d'action, responsable + échéance pour chaque amélioration
Conseil : Conservez les PIR dans un format consultable. Au fil du temps, votre bibliothèque de PIR devient la source la plus précieuse pour améliorer votre programme de sécurité de l'IA, en révélant des tendances entre incidents que les revues individuelles ne voient pas.
Scénarios d'incidents propres à l'IA
Ces trois scénarios couvrent les incidents de sécurité de l'IA les plus courants en entreprise. Chacun inclut des signaux de détection, des actions de confinement et des étapes de remédiation.
Scénario
Un agent du support client colle dans ChatGPT un tableur contenant 500 noms de clients, adresses e-mail et numéros de téléphone afin de rédiger une campagne d'e-mailing en masse. L'outil ne figure pas sur la liste approuvée et les données sont classées comme confidentielles.
Signaux de détection
- ▸Alerte DLP : PII en masse détectées lors d'un collage du presse-papiers vers un outil d'IA externe
- ▸Alerte Shadow AI d'Aona : un outil non approuvé accède aux données de l'entreprise
- ▸Détection par l'extension de navigateur d'un téléversement de contenu sensible
Actions de confinement
- Bloquer l'accès de l'utilisateur à ChatGPT via une règle de proxy web / pare-feu
- Demander la suppression des données à OpenAI via leur formulaire de demande de confidentialité
- Révoquer l'accès de l'utilisateur en attendant l'investigation
- Évaluer l'obligation de notification NDB / RGPD avec le service juridique
Remédiation
- Reformer le collaborateur concerné à la politique de classification des données
- Activer une règle DLP pour bloquer le collage de PII vers des outils d'IA non approuvés
- Fournir une alternative approuvée (par ex. ChatGPT entreprise avec contrôles DLP)
- Ajouter au rapport de risque mensuel et examiner les incidents similaires des 90 derniers jours
Note réglementaire
Dans le cadre du dispositif australien Notifiable Data Breaches, cet incident peut être notifiable s'il est susceptible d'entraîner un préjudice grave. Sollicitez le service juridique dans les 30 jours suivant la prise de connaissance.
FAQ
Questions fréquentes
Qu'est-ce qu'un incident de sécurité de l'IA ?
En quoi la réponse aux incidents d'IA diffère-t-elle de la réponse aux incidents traditionnelle ?
Quand une violation de données d'IA doit-elle être signalée aux régulateurs ?
Quels sont les incidents de sécurité de l'IA les plus courants en 2026 ?
Comment prévenir les incidents de sécurité de l'IA de manière proactive ?
Stoppez les incidents d'IA avant qu'ils ne surviennent
La meilleure réponse aux incidents est celle que vous n'avez jamais à exécuter. Aona AI détecte l'usage de Shadow AI, applique les politiques de protection des données et assure une surveillance en temps réel sur chaque outil d'IA de votre organisation. Déploiement en moins de 5 minutes. Aucun agent requis.