La transparencia de la IA es el principio de que las organizaciones deberían ser transparentes sobre cómo funcionan sus sistemas de IA, qué datos utilizan, cómo se toman las decisiones y qué limitaciones existen. Es un requisito fundamental en la mayoría de los marcos y regulaciones de gobernanza de la IA.
La transparencia tiene varias dimensiones: transparencia algorítmica (comprender cómo funciona el modelo de IA y cómo toma decisiones), transparencia de los datos (claridad sobre qué datos se recopilan, cómo se procesan y quién tiene acceso), transparencia de las decisiones (explicar las decisiones individuales de la IA a las partes afectadas) y transparencia organizativa (revelar el uso de la IA a clientes, empleados y reguladores).
Los requisitos regulatorios exigen cada vez más la transparencia de la IA: el EU AI Act exige la divulgación al interactuar con sistemas de IA, el RGPD otorga a las personas el derecho a una explicación de las decisiones automatizadas, y diversas regulaciones sectoriales exigen la documentación de los procesos asistidos por IA.
La implementación incluye: documentación de modelos y fichas de modelo (model cards), sistemas de explicación de decisiones (XAI), avisos sobre el uso de la IA en productos y servicios, informes de transparencia periódicos, registros de auditoría de las decisiones de la IA y una comunicación clara sobre las capacidades y limitaciones de la IA.