La privacidad de la IA abarca los principios, prácticas y tecnologías que se utilizan para proteger la información personal y sensible a medida que circula por los sistemas de IA. Aborda las preocupaciones de privacidad en cada etapa: la recopilación de datos, el entrenamiento de modelos, la inferencia (uso en tiempo de ejecución) y la generación de salidas.
Los principales desafíos de privacidad de la IA incluyen: la privacidad de los datos de entrenamiento (los modelos pueden memorizar y reproducir información personal de los datos de entrenamiento), la privacidad en la inferencia (las solicitudes de los usuarios pueden contener datos personales sensibles), la privacidad de las salidas (el contenido generado por IA puede revelar de forma inadvertida información privada), la privacidad entre contextos (información compartida en un contexto que aparece en otro) y la privacidad de los metadatos (patrones de uso que revelan información sensible sobre personas u organizaciones).
Las tecnologías de mejora de la privacidad para la IA incluyen: la privacidad diferencial (añadir ruido a los datos de entrenamiento para impedir la identificación de individuos), el aprendizaje federado (entrenar modelos con datos distribuidos sin centralizarlos), el cifrado homomórfico (procesar datos cifrados sin descifrarlos), la anonimización y seudonimización de datos, el cálculo seguro multiparte y el procesamiento de IA en el dispositivo que mantiene los datos en local.
Los requisitos regulatorios que afectan a la privacidad de la IA incluyen el derecho a una explicación de las decisiones automatizadas previsto por el RGPD, los principios de minimización de datos, la limitación de la finalidad, la limitación del plazo de conservación y el derecho de supresión, todos los cuales deben tenerse en cuenta en el diseño y la implementación de los sistemas de IA.