La transparence de l’IA est le principe selon lequel les organisations devraient faire preuve d’ouverture sur le fonctionnement de leurs systèmes d’IA, les données qu’ils utilisent, la manière dont les décisions sont prises et les limites qui existent. Il s’agit d’une exigence fondamentale dans la plupart des cadres et réglementations de gouvernance de l’IA.
La transparence comporte plusieurs dimensions : la transparence algorithmique (comprendre comment le modèle d’IA fonctionne et prend des décisions), la transparence des données (clarté sur les données collectées, leur traitement et les personnes y ayant accès), la transparence des décisions (expliquer les décisions individuelles de l’IA aux parties concernées) et la transparence organisationnelle (divulguer l’usage de l’IA aux clients, aux employés et aux autorités de régulation).
Les exigences réglementaires imposent de plus en plus la transparence de l’IA : l’EU AI Act exige une divulgation lors des interactions avec les systèmes d’IA, le RGPD confère aux personnes le droit à une explication des décisions automatisées, et diverses réglementations sectorielles exigent la documentation des processus assistés par l’IA.
La mise en œuvre comprend : la documentation des modèles et les fiches de modèle (model cards), les systèmes d’explication des décisions (XAI), les mentions d’usage de l’IA dans les produits et services, des rapports de transparence réguliers, des pistes d’audit pour les décisions de l’IA et une communication claire sur les capacités et les limites de l’IA.