La detección de deriva de la IA es la práctica de supervisar de forma continua los sistemas de IA para identificar cuándo su rendimiento se degrada debido a cambios en los datos subyacentes, el entorno o los patrones de uso. La deriva es una de las causas más comunes de fallos de los sistemas de IA en producción y puede introducir riesgos de seguridad, equidad y cumplimiento.
Los tipos de deriva de la IA incluyen: la deriva de datos (las propiedades estadísticas de los datos de entrada cambian respecto a aquellas con las que se entrenó el modelo), la deriva de concepto (la relación entre las entradas y las salidas cambia, por ejemplo, cuando evoluciona el comportamiento de los usuarios), la deriva del modelo (degradación gradual del rendimiento del modelo a lo largo del tiempo), la deriva de características (cambios en la disponibilidad o la calidad de las características de entrada) y la deriva de etiquetas (cambios en la distribución de las variables objetivo).
El impacto empresarial de una deriva no detectada es significativo: disminución de la exactitud en las decisiones impulsadas por IA, aparición de sesgos a medida que el rendimiento del modelo se degrada de forma desigual entre grupos, infracciones de cumplimiento si el comportamiento del modelo se aparta de las especificaciones documentadas, degradación de la experiencia del cliente y riesgos de seguridad por un comportamiento inesperado del modelo.
Los métodos de detección de deriva incluyen: pruebas estadísticas que comparan las distribuciones de datos actuales con las líneas de base de entrenamiento, la supervisión del rendimiento frente a métricas establecidas, alertas automatizadas cuando la deriva supera los umbrales definidos, calendarios periódicos de revalidación de modelos, pruebas A/B entre los modelos actuales y los reentrenados, y la integración con plataformas de observabilidad de la IA para una supervisión continua. Las organizaciones deberían establecer la supervisión de la deriva como parte de su ciclo de vida de gobernanza de modelos.