KI-Transparenz ist der Grundsatz, dass Organisationen offenlegen sollten, wie ihre KI-Systeme funktionieren, welche Daten sie verwenden, wie Entscheidungen getroffen werden und welche Grenzen bestehen. Sie ist eine grundlegende Anforderung in den meisten Rahmenwerken und Vorschriften zur KI-Governance.
Transparenz hat mehrere Dimensionen: algorithmische Transparenz (nachvollziehen, wie das KI-Modell funktioniert und Entscheidungen trifft), Datentransparenz (Klarheit darüber, welche Daten erhoben werden, wie sie verarbeitet werden und wer Zugriff hat), Entscheidungstransparenz (einzelne KI-Entscheidungen gegenüber Betroffenen erläutern) und organisatorische Transparenz (die KI-Nutzung gegenüber Kunden, Mitarbeitenden und Aufsichtsbehörden offenlegen).
Regulatorische Anforderungen schreiben KI-Transparenz zunehmend vor: Der EU AI Act verlangt eine Offenlegung bei der Interaktion mit KI-Systemen, die DSGVO gewährt Einzelpersonen das Recht auf eine Erläuterung automatisierter Entscheidungen, und verschiedene Branchenvorschriften verlangen die Dokumentation KI-gestützter Prozesse.
Die Umsetzung umfasst: Modelldokumentation und Model Cards, Systeme zur Entscheidungserläuterung (XAI), Hinweise zur KI-Nutzung in Produkten und Diensten, regelmäßige Transparenzberichte, Audit-Trails für KI-Entscheidungen sowie eine klare Kommunikation über die Fähigkeiten und Grenzen der KI.