ISO/IEC 42001, Norme de système de management de l'IA

Vue d'ensemble

ISO/IEC 42001:2023 est la première norme internationale au monde spécifiant les exigences relatives à l'établissement, à la mise en œuvre, à la maintenance et à l'amélioration continue d'un système de management de l'intelligence artificielle (AIMS) au sein des organisations. Publiée le 18 décembre 2023 par l'Organisation internationale de normalisation et la Commission électrotechnique internationale, elle fournit un cadre structuré pour gérer les risques et les opportunités liés à l'IA.

La norme suit la structure harmonisée (HS) commune à toutes les normes de système de management ISO (comme ISO 27001, ISO 9001), ce qui la rend familière aux organisations déjà certifiées selon d'autres normes ISO et permet une intégration aisée dans les systèmes de management existants.

ISO 42001 est conçue pour s'appliquer à toute organisation qui fournit ou utilise des produits ou services fondés sur l'IA, quels que soient sa taille, son type ou son secteur d'activité. Elle aborde les défis propres aux systèmes d'IA, notamment les considérations éthiques, la transparence, la responsabilité et la nature dynamique de la technologie d'IA.

La norme exige des organisations qu'elles prennent en compte le contexte propre à l'IA de leurs activités, y compris l'impact sociétal des systèmes d'IA, les exigences réglementaires et les attentes des parties prenantes. Elle impose une approche systématique de la gestion des risques liés à l'IA qui va au-delà des cadres traditionnels de gestion des risques informatiques pour englober l'équité, la transparence, l'explicabilité et la supervision humaine.

Les principaux éléments structurels comprennent l'engagement de la direction en faveur d'une IA responsable, une politique d'IA, des processus d'appréciation et de traitement des risques liés à l'IA, des objectifs et une planification pour le management de l'IA, des exigences de support (ressources, compétence, sensibilisation, communication), une planification et une maîtrise opérationnelles, une évaluation des performances et une amélioration continue.

ISO 42001 est particulièrement précieuse en tant qu'outil de conformité car elle fournit un cadre certifiable permettant de démontrer une diligence raisonnable dans le cadre de multiples régimes réglementaires. Les organisations cherchant à se conformer à l'EU AI Act, par exemple, peuvent utiliser la certification ISO 42001 comme preuve d'un cadre solide de gouvernance de l'IA, bien que la certification à elle seule ne garantisse pas la conformité réglementaire.

La norme aborde également le cycle de vie du système d'IA, depuis la conception et la conception jusqu'au développement, aux tests, au déploiement, à l'exploitation et au retrait. Cette approche par cycle de vie garantit que la gouvernance de l'IA n'est pas une réflexion après coup mais qu'elle est intégrée à chaque étape du développement et de l'utilisation du système d'IA.

Les annexes de la norme fournissent des orientations détaillées sur les mesures de maîtrise propres à l'IA, notamment les mesures relatives à la gestion des données, à l'évaluation de l'impact des systèmes d'IA, aux processus de développement des systèmes d'IA, aux relations avec les tiers et les clients, et à la surveillance de l'exploitation des systèmes. Ces mesures de maîtrise peuvent être sélectionnées et adaptées en fonction de l'appréciation des risques liés à l'IA propre à l'organisation.