La sécurité de la chaîne d’approvisionnement de l’IA traite des risques qui découlent du réseau complexe de dépendances des systèmes d’IA modernes. À l’instar de la sécurité de la chaîne d’approvisionnement logicielle qui protège contre les bibliothèques et paquets compromis, la sécurité de la chaîne d’approvisionnement de l’IA protège contre les vulnérabilités des modèles d’IA, des données d’entraînement, des API et des prestataires de services.
La chaîne d’approvisionnement de l’IA comprend : les fournisseurs de modèles de fondation (OpenAI, Anthropic, Google, Meta), les plateformes d’affinage et d’hébergement, les jeux de données d’entraînement et d’évaluation, les éditeurs d’applications d’IA (outils SaaS bâtis sur l’IA), les modèles et bibliothèques open source, les fournisseurs de matériel (infrastructure GPU) et les services d’annotation et d’étiquetage de données.
Les principaux risques de la chaîne d’approvisionnement de l’IA comprennent : l’empoisonnement des modèles (données d’entraînement compromises conduisant à des sorties manipulées), les attaques de la chaîne d’approvisionnement contre les frameworks d’IA open source, la dépendance à un fournisseur et les points de défaillance uniques, les problèmes de souveraineté des données lorsque le traitement par l’IA franchit des juridictions, le vol de modèle ou la redistribution non autorisée, les vulnérabilités de sécurité des API, et les défaillances en cascade lorsque les fournisseurs en amont subissent des pannes.
Les organisations devraient mettre en œuvre la sécurité de la chaîne d’approvisionnement de l’IA au moyen d’évaluations des risques fournisseurs, d’une nomenclature des systèmes d’IA (AI BOM), d’une surveillance continue des services d’IA tiers, de stratégies de repli pour les dépendances d’IA critiques et de protections contractuelles dans les accords avec les fournisseurs.