La privacidad diferencial es un marco matemático riguroso para cuantificar y limitar el riesgo de privacidad del análisis de datos y el entrenamiento de modelos de IA. Funciona añadiendo ruido aleatorio cuidadosamente calibrado a los datos, las consultas o los procesos de entrenamiento de modelos, lo que garantiza que la inclusión o exclusión de los datos de cualquier individuo tenga un impacto insignificante en el resultado.
El concepto central se resume en el parámetro de privacidad epsilon (ε): un epsilon más bajo ofrece garantías de privacidad más fuertes pero reduce la utilidad de los datos, mientras que un epsilon más alto preserva una mayor exactitud de los datos pero ofrece una privacidad más débil. Las organizaciones deben equilibrar esta compensación entre privacidad y utilidad en función de sus necesidades específicas.
Las aplicaciones de la privacidad diferencial en la IA empresarial incluyen: el entrenamiento de modelos con garantías de privacidad (impedir que los modelos memoricen puntos de datos individuales), el análisis y la elaboración de informes sobre conjuntos de datos sensibles (publicar estadísticas agregadas sin exponer a los individuos), la generación de datos sintéticos (crear conjuntos de datos que preserven la privacidad para el desarrollo de IA), la mejora del aprendizaje federado (añadir privacidad a las actualizaciones de modelos compartidas entre participantes) y el cumplimiento de los requisitos de minimización de datos del RGPD y regulaciones similares.
Importantes empresas tecnológicas han implementado la privacidad diferencial a gran escala: Apple la utiliza en iOS para el análisis de uso, Google la implementa en Chrome y Maps, y el U.S. Census Bureau utilizó la privacidad diferencial para el censo de 2020. Para las empresas, proporciona una base matemática para las afirmaciones de privacidad en lugar de depender únicamente de los controles de políticas.