Un guide complet pour détecter, classifier, confiner et récupérer des incidents de sécurité de l'IA. Couvre les fuites de données, le prompt injection, la compromission d'agents IA, et plus encore.
Un incident de sécurité de l'IA est tout événement dans lequel des outils, modèles ou agents d'IA sont impliqués dans une violation de données, une infraction à la politique ou une compromission de sécurité, qu'il s'agisse d'une attaque intentionnelle, d'un usage abusif accidentel ou d'une défaillance du système.
Contrairement aux incidents de sécurité traditionnels, les incidents d'IA introduisent des dimensions uniques : l'attaquant peut être un collaborateur sans intention malveillante ; le vecteur de la violation peut être une invite en langage naturel ; l'impact peut inclure un empoisonnement des données d'entraînement ou une manipulation du modèle difficiles à détecter et à corriger.
Ce guide couvre quatre principaux types d'incidents d'IA. Chacun requiert un processus de réponse qui va au-delà de la réponse aux incidents traditionnelle pour traiter les besoins propres à l'IA en matière de preuves, de confinement et de remédiation.
Des données sensibles (PII, dossiers financiers, propriété intellectuelle, identifiants) soumises à un outil ou un modèle d'IA sans autorisation.
Des instructions malveillantes intégrées à l'entrée utilisateur ou au contenu récupéré, qui manipulent un système d'IA pour l'amener à un comportement dangereux.
Un agent IA autonome effectue des actions en dehors de son périmètre autorisé, en accédant à des systèmes, en envoyant des communications ou en modifiant des données.
Un modèle d'IA affiné ou hébergé produit à grande échelle des sorties systématiquement nuisibles, biaisées ou manipulées de manière adverse.
Attribuez un niveau de gravité dès la détection. Il détermine l'escalade, le délai de réponse et les obligations de notification.
Exemples : Exfiltration de PII à grande échelle, agent IA avec accès au système, prompt injection en production sur un service client
Escalade : RSSI + PDG + service juridique notifiés dans l'heure
Exemples : Propriété intellectuelle confidentielle soumise à une IA externe, prompt injection avec accès limité aux données, action non autorisée d'un agent IA sans violation de données
Escalade : Responsable de la sécurité + RSSI notifiés
Exemples : Usage d'un outil de Shadow AI avec des données internes, tentative de prompt injection échouée, infraction à la politique sans exposition de données
Escalade : Chef de l'équipe sécurité notifié
Exemples : Usage d'un outil d'IA non autorisé avec des données publiques, hameçonnage potentiel s'appuyant sur du contenu généré par IA
Escalade : Consigné et attribué à un analyste
La rapidité est cruciale. L'objectif est d'arrêter l'hémorragie, d'empêcher toute exposition de données ou action d'agent supplémentaire avant que l'ampleur totale de l'incident ne soit connue.
Parcourez chaque catégorie de manière méthodique. Documentez vos constatations dans un dossier d'incident sécurisé. Toutes les preuves doivent être préservées dans leur forme originale.
Utilisez ces modèles comme points de départ. Adaptez-les à votre organisation, au type d'incident et à l'audience. Toutes les communications externes doivent être examinées par le service juridique avant l'envoi.
Objet : [INCIDENT DE SÉCURITÉ] Incident d'IA, [Niveau de gravité], [Date]
Bonjour à toutes et à tous,
Nous avons identifié un incident de sécurité de l'IA nécessitant une attention immédiate. Veuillez traiter cette communication comme confidentielle.
Résumé de l'incident : [Brève description, ce qui s'est passé, quel outil/système d'IA est concerné]
Gravité : [P1/P2/P3/P4]
Heure de détection : [Date et heure]
Données concernées : [Type de données, volume estimé, niveau de classification]
Statut actuel : [Confinement en cours / Confiné / En cours d'investigation]
Actions immédiates requises :
- [Action 1 requise de cette équipe]
- [Action 2]
Responsable de l'incident : [Nom]
Prochaine mise à jour : [Heure]
Pont/canal de l'incident : [Lien ou numéro]
Ne transférez pas ce message et n'en discutez pas en dehors de cette liste de diffusion.
Objet : Avis important concernant vos informations, [Nom de l'entreprise]
Cher/Chère [Nom du client/de la personne],
Nous vous écrivons pour vous informer d'un incident de sécurité susceptible d'avoir affecté vos informations personnelles.
Ce qui s'est passé : [Description en langage clair. Évitez le jargon technique. Ne mentionnez pas d'outils d'IA spécifiques sauf obligation légale.]
Quelles informations étaient concernées : [Listez les types de données précis : nom, e-mail, téléphone, etc.]
Ce que nous avons fait : [Mesures déjà prises pour confiner et traiter l'incident]
Ce que vous pouvez faire :
- [Action recommandée 1, par ex. surveiller vos comptes]
- [Action recommandée 2, par ex. changer votre mot de passe]
Pour plus d'informations : Contactez notre équipe en charge de la confidentialité à [e-mail] ou [téléphone].
Nous nous excusons sincèrement pour cet incident et pour toute inquiétude qu'il pourrait causer.
[Signature, Nom, Fonction, Entreprise]
Délais de notification réglementaire
NDB en Australie : notifier l'OAIC et les personnes concernées dès que possible (généralement dans les 30 jours suivant la prise de connaissance). RGPD dans l'UE : notifier l'autorité de contrôle dans les 72 heures. États-Unis : des délais propres à chaque État s'appliquent. Sollicitez toujours le service juridique avant d'envoyer des notifications réglementaires.
Corrigez la cause racine, pas seulement le symptôme. La remédiation doit combler la lacune de contrôle qui a permis à l'incident de se produire.
Corriger la vulnérabilité
Traitez la lacune technique, mettez à jour les politiques relatives aux outils d'IA, corrigez le filtre de prompt injection, restreignez les autorisations de l'agent.
Mettre à jour les règles DLP et de surveillance
Déployez de nouvelles règles de détection ciblant le vecteur d'attaque observé. Testez les règles avec des données synthétiques avant de les activer en production.
Reformer le personnel concerné
Reformation ciblée sur la classification des données et la politique d'usage de l'IA. Documentez l'achèvement dans le dossier d'incident.
Rétablir les opérations
Réactivez les outils ou agents d'IA avec des contrôles renforcés. Définissez une fenêtre de surveillance renforcée (30 à 90 jours).
Demander la suppression des données par le fournisseur
Pour les services d'IA tiers, soumettez des demandes de suppression de données. Obtenez une confirmation écrite lorsque c'est possible.
Menez-la dans les 5 jours ouvrés suivant la résolution. Documentez toutes les constatations dans un rapport post-incident (PIR).
Conseil : Conservez les PIR dans un format consultable. Au fil du temps, votre bibliothèque de PIR devient la source la plus précieuse pour améliorer votre programme de sécurité de l'IA, en révélant des tendances entre incidents que les revues individuelles ne voient pas.
Ces trois scénarios couvrent les incidents de sécurité de l'IA les plus courants en entreprise. Chacun inclut des signaux de détection, des actions de confinement et des étapes de remédiation.
Scénario
Un agent du support client colle dans ChatGPT un tableur contenant 500 noms de clients, adresses e-mail et numéros de téléphone afin de rédiger une campagne d'e-mailing en masse. L'outil ne figure pas sur la liste approuvée et les données sont classées comme confidentielles.
Signaux de détection
Actions de confinement
Remédiation
Note réglementaire
Dans le cadre du dispositif australien Notifiable Data Breaches, cet incident peut être notifiable s'il est susceptible d'entraîner un préjudice grave. Sollicitez le service juridique dans les 30 jours suivant la prise de connaissance.
La meilleure réponse aux incidents est celle que vous n'avez jamais à exécuter. Aona AI détecte l'usage de Shadow AI, applique les politiques de protection des données et assure une surveillance en temps réel sur chaque outil d'IA de votre organisation. Déploiement en moins de 5 minutes. Aucun agent requis.