Une fiche de modèle d’IA (model card) est un format de documentation structuré qui accompagne un modèle d’IA afin de communiquer ses attributs clés, ses capacités, ses limites et ses cas d’usage appropriés. Introduites par des chercheurs de Google en 2019, les fiches de modèle sont devenues une bonne pratique en matière de transparence et de responsabilité de l’IA.
Une fiche de modèle complète comprend généralement : les détails du modèle (architecture, version, développeur, date de publication), l’utilisation prévue (principaux cas d’usage et utilisateurs cibles), les usages hors champ (applications pour lesquelles le modèle n’est pas conçu ou testé), les données d’entraînement (description des jeux de données utilisés, y compris les caractéristiques démographiques et les sources), les indicateurs de performance (exactitude, précision, rappel selon différentes conditions et populations), les limites (faiblesses connues, modes de défaillance et cas limites), les considérations éthiques (biais potentiels, évaluations d’équité et impacts sociétaux) et les recommandations (bonnes pratiques de déploiement et de surveillance).
Les fiches de modèle servent la gouvernance d’entreprise de plusieurs manières : elles facilitent l’évaluation des fournisseurs lors de la sélection d’outils d’IA, permettent l’évaluation des risques pour des cas d’usage spécifiques, fournissent une documentation pour la conformité réglementaire, facilitent le consentement éclairé lorsque l’IA affecte les utilisateurs finaux et instaurent une responsabilité en établissant des attentes claires quant au comportement du modèle.
Les organisations devraient exiger des fiches de modèle ou une documentation équivalente de tous leurs fournisseurs d’IA, créer des fiches de modèle internes pour les systèmes d’IA développés sur mesure et s’y référer dans les évaluations des risques et les revues de gouvernance de l’IA.