La seguridad de la cadena de suministro de la IA aborda los riesgos que surgen de la compleja red de dependencias de los sistemas de IA modernos. Al igual que la seguridad de la cadena de suministro de software protege frente a bibliotecas y paquetes comprometidos, la seguridad de la cadena de suministro de la IA protege frente a vulnerabilidades en los modelos de IA, los datos de entrenamiento, las API y los proveedores de servicios.
La cadena de suministro de la IA incluye: los proveedores de modelos fundacionales (OpenAI, Anthropic, Google, Meta), las plataformas de ajuste fino y alojamiento, los conjuntos de datos de entrenamiento y evaluación, los proveedores de aplicaciones de IA (herramientas SaaS construidas sobre IA), los modelos y bibliotecas de código abierto, los proveedores de hardware (infraestructura de GPU) y los servicios de anotación y etiquetado de datos.
Los riesgos clave en la cadena de suministro de la IA incluyen: el envenenamiento de modelos (datos de entrenamiento comprometidos que dan lugar a salidas manipuladas), los ataques a la cadena de suministro de los frameworks de IA de código abierto, la dependencia de un proveedor y los puntos únicos de fallo, los problemas de soberanía de datos cuando el procesamiento de IA cruza jurisdicciones, el robo de modelos o la redistribución no autorizada, las vulnerabilidades de seguridad de las API y los fallos en cascada cuando los proveedores upstream sufren interrupciones.
Las organizaciones deberían implementar la seguridad de la cadena de suministro de la IA mediante evaluaciones de riesgos de proveedores, una lista de materiales para los sistemas de IA (AI BOM), la supervisión continua de los servicios de IA de terceros, estrategias de respaldo para las dependencias de IA críticas y protecciones contractuales en los acuerdos con proveedores.