La gouvernance des modèles désigne le cadre complet permettant de gérer les modèles d’IA et d’apprentissage automatique tout au long de leur cycle de vie. Elle garantit que les modèles sont développés de manière responsable, déployés en toute sécurité, surveillés en continu et mis hors service de façon appropriée.
Les aspects clés de la gouvernance des modèles comprennent : l’inventaire et l’enregistrement des modèles (tenir un catalogue de tous les modèles d’IA utilisés), l’évaluation des risques liés aux modèles (évaluer les préjudices potentiels avant le déploiement), la validation des modèles (tester l’exactitude, l’équité et la robustesse), la documentation des modèles (consigner les choix de conception, les données d’entraînement et les limites), la surveillance des modèles (suivre la dérive des performances, l’apparition de biais et les comportements inattendus), la gestion des versions des modèles (gérer les mises à jour et les retours en arrière) et la mise hors service des modèles (déclasser en toute sécurité les modèles obsolètes).
Pour les entreprises qui utilisent des outils et des API d’IA tiers, la gouvernance des modèles s’étend à la gestion des fournisseurs : savoir quels modèles alimentent les outils utilisés par les employés, suivre les changements de version des modèles par les fournisseurs, évaluer l’impact des mises à jour des modèles sur les processus métier et s’assurer que les modèles des fournisseurs répondent aux normes de l’organisation.
Des cadres réglementaires tels que l’EU AI Act et des normes sectorielles telles qu’ISO 42001 exigent de plus en plus des processus formels de gouvernance des modèles, en particulier pour les applications d’IA à haut risque.