Una ficha de modelo de IA (model card) es un formato de documentación estructurado que acompaña a un modelo de IA para comunicar sus atributos clave, sus capacidades, sus limitaciones y sus casos de uso apropiados. Introducidas por investigadores de Google en 2019, las fichas de modelo se han convertido en una buena práctica para la transparencia y la rendición de cuentas de la IA.
Una ficha de modelo completa suele incluir: los detalles del modelo (arquitectura, versión, desarrollador, fecha de publicación), el uso previsto (principales casos de uso y usuarios objetivo), los usos fuera del ámbito previsto (aplicaciones para las que el modelo no está diseñado ni probado), los datos de entrenamiento (descripción de los conjuntos de datos utilizados, incluidos los datos demográficos y las fuentes), las métricas de rendimiento (exactitud, precisión, exhaustividad en distintas condiciones y poblaciones), las limitaciones (debilidades conocidas, modos de fallo y casos límite), las consideraciones éticas (posibles sesgos, evaluaciones de equidad e impactos sociales) y las recomendaciones (buenas prácticas de implementación y supervisión).
Las fichas de modelo sirven a la gobernanza empresarial de varias maneras: facilitan la evaluación de proveedores al seleccionar herramientas de IA, permiten la evaluación de riesgos para casos de uso específicos, proporcionan documentación para el cumplimiento normativo, facilitan el consentimiento informado cuando la IA afecta a los usuarios finales y crean rendición de cuentas al establecer expectativas claras sobre el comportamiento del modelo.
Las organizaciones deberían exigir fichas de modelo o documentación equivalente a todos sus proveedores de IA, crear fichas de modelo internas para los sistemas de IA desarrollados a medida y hacer referencia a ellas en las evaluaciones de riesgos y las revisiones de gobernanza de la IA.