Zero Trust AI es un enfoque arquitectónico de la seguridad de la IA que aplica los principios Zero Trust, «nunca confíes, verifica siempre», a los sistemas de IA, las interacciones con la IA y los agentes de IA. En lugar de presuponer que las herramientas de IA, los resultados generados por IA o los datos procesados por IA pueden considerarse fiables de forma predeterminada, Zero Trust AI trata cada interacción con la IA como potencialmente comprometida hasta que se verifica frente a controles de políticas explícitos.
Zero Trust AI amplía el modelo de seguridad Zero Trust tradicional de tres formas fundamentales. En primer lugar, aplica Zero Trust al acceso a las herramientas de IA: los empleados y los sistemas deben autenticar y autorizar el uso de las herramientas de IA mediante comprobaciones de políticas explícitas, en lugar de disponer de acceso ilimitado a cualquier servicio de IA que elijan. En segundo lugar, aplica Zero Trust a los resultados de la IA: el contenido generado por IA se trata como no verificado hasta que se coteja con fuentes autorizadas o se somete a revisión humana, en particular para las decisiones de alto riesgo en contextos jurídicos, médicos o financieros. En tercer lugar, aplica Zero Trust a los agentes de IA: los sistemas de IA autónomos operan con privilegios mínimos y requieren autorización explícita para cada acción que llevan a cabo.
Para las empresas que gestionan el Shadow AI, Zero Trust AI significa descubrir todas las herramientas de IA en uso (sin presuponer que solo se accede a las herramientas aprobadas), supervisar de forma continua las interacciones con la IA (sin presuponer que las herramientas aprobadas se utilizan de manera adecuada) y aplicar las políticas de clasificación de datos en tiempo real (sin presuponer que los empleados gestionarán por sí mismos el tratamiento de los datos sensibles).
El modelo Zero Trust AI está cada vez más alineado con los requisitos regulatorios. Los requisitos de supervisión humana del EU AI Act, las funciones GOVERN y MANAGE del NIST AI RMF y las orientaciones emergentes de la SEC sobre la gobernanza de la IA reflejan todos los principios Zero Trust: exigen verificación, supervisión y controles documentados en lugar de una gobernanza basada en suposiciones.
Los pilares de la implementación incluyen el inventario y el descubrimiento de IA, el control de acceso basado en políticas para los servicios de IA, la supervisión DLP en línea de las interacciones con la IA, el análisis del comportamiento para la detección de anomalías en el uso de la IA y los marcos de gestión de privilegios de los agentes de IA.