Le Zero Trust pour l’IA est une approche architecturale de la sécurité de l’IA qui applique les principes du Zero Trust, « ne jamais faire confiance, toujours vérifier », aux systèmes d’IA, aux interactions avec l’IA et aux agents d’IA. Plutôt que de présumer que les outils d’IA, les contenus générés par l’IA ou les données traitées par l’IA peuvent être considérés comme fiables par défaut, le Zero Trust pour l’IA traite chaque interaction avec l’IA comme potentiellement compromise jusqu’à ce qu’elle soit vérifiée au regard de contrôles de politique explicites.
Le Zero Trust pour l’IA étend le modèle de sécurité Zero Trust traditionnel de trois manières essentielles. Premièrement, il applique le Zero Trust à l’accès aux outils d’IA : les employés et les systèmes doivent s’authentifier et autoriser l’utilisation des outils d’IA au moyen de vérifications de politique explicites, plutôt que de disposer d’un accès illimité à tout service d’IA de leur choix. Deuxièmement, il applique le Zero Trust aux résultats de l’IA : les contenus générés par l’IA sont considérés comme non vérifiés jusqu’à leur confrontation à des sources faisant autorité ou à une revue humaine, en particulier pour les décisions à fort enjeu dans des contextes juridiques, médicaux ou financiers. Troisièmement, il applique le Zero Trust aux agents d’IA : les systèmes d’IA autonomes fonctionnent avec des privilèges minimaux et requièrent une autorisation explicite pour chaque action qu’ils entreprennent.
Pour les entreprises qui gèrent le Shadow AI, le Zero Trust pour l’IA consiste à découvrir tous les outils d’IA utilisés (sans présumer que seuls les outils approuvés sont sollicités), à surveiller en continu les interactions avec l’IA (sans présumer que les outils approuvés sont utilisés de manière appropriée) et à appliquer les politiques de classification des données en temps réel (sans présumer que les employés géreront d’eux-mêmes le traitement des données sensibles).
Le modèle Zero Trust pour l’IA s’aligne de plus en plus sur les exigences réglementaires. Les exigences de l’EU AI Act en matière de supervision humaine, les fonctions GOVERN et MANAGE du NIST AI RMF et les orientations émergentes de la SEC sur la gouvernance de l’IA reflètent toutes les principes du Zero Trust : elles exigent une vérification, une surveillance et des contrôles documentés plutôt qu’une gouvernance fondée sur des présomptions.
Les piliers de la mise en œuvre comprennent l’inventaire et la découverte de l’IA, le contrôle d’accès fondé sur des politiques pour les services d’IA, la surveillance DLP en ligne des interactions avec l’IA, l’analyse comportementale pour la détection des anomalies d’utilisation de l’IA et les cadres de gestion des privilèges des agents d’IA.