La détection de la dérive de l’IA est la pratique consistant à surveiller en continu les systèmes d’IA afin de repérer le moment où leurs performances se dégradent en raison de changements dans les données sous-jacentes, l’environnement ou les habitudes d’utilisation. La dérive est l’une des causes les plus fréquentes de défaillance des systèmes d’IA en production et peut introduire des risques de sécurité, d’équité et de conformité.
Les types de dérive de l’IA comprennent : la dérive des données (les propriétés statistiques des données d’entrée diffèrent de celles sur lesquelles le modèle a été entraîné), la dérive de concept (la relation entre les entrées et les sorties change, par exemple lorsque le comportement des utilisateurs évolue), la dérive du modèle (dégradation progressive des performances du modèle au fil du temps), la dérive des caractéristiques (changements dans la disponibilité ou la qualité des caractéristiques d’entrée) et la dérive des étiquettes (changements dans la distribution des variables cibles).
L’impact d’une dérive non détectée sur l’entreprise est important : baisse de l’exactitude des décisions pilotées par l’IA, apparition de biais à mesure que les performances du modèle se dégradent de façon inégale entre les groupes, violations de conformité si le comportement du modèle s’écarte des spécifications documentées, dégradation de l’expérience client et risques de sécurité liés à un comportement inattendu du modèle.
Les méthodes de détection de la dérive comprennent : des tests statistiques comparant les distributions de données actuelles aux références d’entraînement, la surveillance des performances par rapport à des indicateurs établis, des alertes automatisées lorsque la dérive dépasse des seuils définis, des calendriers réguliers de revalidation des modèles, des tests A/B entre les modèles actuels et réentraînés, et une intégration avec les plateformes d’observabilité de l’IA pour une surveillance continue. Les organisations devraient intégrer la surveillance de la dérive à leur cycle de gouvernance des modèles.