La confidentialité de l’IA englobe les principes, pratiques et technologies utilisés pour protéger les informations personnelles et sensibles à mesure qu’elles transitent par les systèmes d’IA. Elle répond aux enjeux de confidentialité à chaque étape : collecte des données, entraînement des modèles, inférence (utilisation à l’exécution) et génération des sorties.
Les principaux défis de confidentialité de l’IA comprennent : la confidentialité des données d’entraînement (les modèles peuvent mémoriser et restituer des informations personnelles issues des données d’entraînement), la confidentialité à l’inférence (les requêtes des utilisateurs peuvent contenir des données personnelles sensibles), la confidentialité des sorties (les contenus générés par l’IA peuvent révéler par inadvertance des informations privées), la confidentialité inter-contextes (des informations partagées dans un contexte réapparaissant dans un autre) et la confidentialité des métadonnées (des habitudes d’usage révélant des informations sensibles sur des individus ou des organisations).
Les technologies de renforcement de la confidentialité pour l’IA comprennent : la confidentialité différentielle (ajouter du bruit aux données d’entraînement pour empêcher l’identification des individus), l’apprentissage fédéré (entraîner des modèles sur des données distribuées sans les centraliser), le chiffrement homomorphe (traiter des données chiffrées sans les déchiffrer), l’anonymisation et la pseudonymisation des données, le calcul multipartite sécurisé et le traitement de l’IA sur l’appareil qui maintient les données en local.
Les exigences réglementaires ayant une incidence sur la confidentialité de l’IA comprennent le droit à une explication des décisions automatisées prévu par le RGPD, les principes de minimisation des données, la limitation des finalités, la limitation de la conservation et le droit à l’effacement, autant d’éléments à prendre en compte dans la conception et le déploiement des systèmes d’IA.