Un comité d’éthique de l’IA est un organe organisationnel dédié qui assure la supervision, l’orientation et le pouvoir de décision sur les questions éthiques découlant de l’usage de l’intelligence artificielle par une organisation. Il réunit des perspectives diverses afin de garantir que les systèmes d’IA s’alignent sur les valeurs de l’organisation, les normes sociétales et les exigences réglementaires.
La composition type d’un comité d’éthique de l’IA comprend : une représentation de la direction (pour garantir l’autorité et l’engagement de l’organisation), des experts juridiques et de la conformité (perspective réglementaire et juridique), des data scientists et des ingénieurs en IA (compréhension technique des capacités et des limites de l’IA), des professionnels de la confidentialité et de la sécurité (perspective de la protection des données), des représentants des unités métier (contexte opérationnel), des conseillers externes (perspectives indépendantes du monde universitaire ou de la société civile) et des représentants des employés (prise en compte de l’impact sur le personnel).
Les principales responsabilités comprennent : l’examen des cas d’usage de l’IA à haut risque avant le déploiement, l’établissement de lignes directrices et de principes éthiques pour le développement de l’IA, l’arbitrage des dilemmes éthiques et des cas limites, la supervision des audits de biais et des évaluations d’équité, l’évaluation de l’impact sociétal des initiatives d’IA, la recommandation de mises à jour des politiques en fonction des risques émergents liés à l’IA, la contribution à la sélection des fournisseurs d’IA et aux partenariats, et le rôle de point d’escalade pour les préoccupations éthiques liées à l’IA.
Des comités d’éthique de l’IA efficaces nécessitent : une charte claire définissant le périmètre et l’autorité, un rythme de réunions régulier avec des décisions documentées, une intégration aux structures de gouvernance existantes, un accès à des ressources techniques pour évaluer les systèmes d’IA, des mécanismes de contribution des employés et des parties prenantes, ainsi que la transparence sur les activités et les décisions du comité.