Implementar protecciones para garantizar un despliegue seguro de la IA
La evaluación de riesgos identifica qué podría salir mal con los sistemas de IA. Los controles y las barreras de protección son las protecciones que implementa para evitar que esos riesgos se materialicen. Unos controles eficaces marcan la diferencia entre una gobernanza de la IA como aspiración y una gobernanza de la IA como realidad.
Los controles existen en un espectro que va de lo preventivo a lo detectivo y lo correctivo. Los controles preventivos detienen los problemas antes de que ocurran, por ejemplo, bloqueando el envío de datos sensibles a servicios de IA públicos. Los controles detectivos identifican los problemas cuando se producen. Los controles correctivos responden a los problemas tras su detección. Un marco de control completo incluye los tres tipos, creando una defensa en profundidad.
El desafío de los controles de IA es equilibrar la protección con la habilitación. El objetivo son controles inteligentes y proporcionales al riesgo, estrictos para las aplicaciones de IA de alto riesgo y más ligeros para los usos de bajo riesgo.
Proteger los datos sensibles es fundamental para la gobernanza de la IA. Implemente requisitos de clasificación y tratamiento de datos, despliegue herramientas de prevención de pérdida de datos (DLP), use cifrado para los datos en reposo y en tránsito e implemente controles de acceso. Para casos de uso especialmente sensibles, considere tecnologías de mejora de la privacidad como la privacidad diferencial, el aprendizaje federado o la generación de datos sintéticos.
Los modelos de IA son activos valiosos que requieren protección. Implemente controles de acceso que limiten quién puede acceder a los modelos, modificarlos o desplegarlos. Use el versionado de modelos y la gestión de cambios. Proteja los modelos frente a ataques de extracción mediante marcas de agua en el modelo, limitación de la tasa de las API y filtrado de las salidas. Implemente validación de entradas para detectar entradas adversarias y despliegue detección de anomalías para patrones inusuales.
Para las aplicaciones de IA que afectan a los derechos individuales o a decisiones de alto impacto, implemente controles que ofrezcan una transparencia adecuada. Esto puede incluir puntuaciones de importancia de las variables, explicaciones contrafactuales, puntuaciones de confianza o pistas de auditoría. El nivel de explicabilidad debe corresponderse con el riesgo y los requisitos normativos del caso de uso.
Implemente flujos de aprobación ajustados a los niveles de riesgo de los sistemas de IA. Los sistemas de IA de alto riesgo deberían requerir la revisión de varias partes interesadas. Los flujos de aprobación deben integrarse en los procesos de desarrollo, no añadirse después. Haga que los procesos de aprobación sean claros y eficientes: los procesos largos y poco claros animan a los equipos a sortear la gobernanza.
Establezca pruebas obligatorias antes de que un sistema de IA pueda desplegarse. Las pruebas deben cubrir el rendimiento funcional y los requisitos de gobernanza, incluida la equidad entre grupos demográficos, la robustez frente a ejemplos adversarios, las protecciones de privacidad y el cumplimiento normativo. Las pruebas no deben ser una puerta única, sino una práctica continua.
Para los sistemas de IA que toman o influyen en decisiones importantes, defina qué decisiones requieren revisión humana, quién está cualificado para realizarla y cómo se documentan las decisiones. Tenga en cuenta el sesgo de automatización, la tendencia de las personas a confiar en exceso en las recomendaciones de la IA. Combátalo mediante la formación de los revisores y presentando las salidas de la IA de forma que fomente el pensamiento crítico.
A pesar de los controles preventivos, se producirán incidentes de IA. Establezca procedimientos específicos de respuesta a incidentes para los sistemas de IA. Defina qué constituye un incidente de IA y cree rutas de escalado claras. Construya relaciones entre los equipos de gobernanza de la IA, los equipos de respuesta a incidentes, la asesoría jurídica y los equipos de comunicación antes de que ocurran los incidentes. Realice simulacros de mesa para practicar la respuesta a incidentes de IA.
Diseñe controles que generen la menor fricción posible sin renunciar a la protección necesaria. Automatice la aplicación de los controles cuando sea viable. Integre los controles en las herramientas y los flujos de trabajo existentes. Revise periódicamente la eficacia de los controles: los mejores controles logran el equilibrio adecuado entre protección y habilitación, y evolucionan a medida que maduran las capacidades de IA y el panorama de riesgos de su organización.