Ein KI-Ethikgremium ist ein eigens eingerichtetes Organisationsgremium, das Aufsicht, Orientierung und Entscheidungsbefugnis bei ethischen Fragen bietet, die sich aus der Nutzung künstlicher Intelligenz durch eine Organisation ergeben. Es bringt vielfältige Perspektiven zusammen, um sicherzustellen, dass KI-Systeme mit den Werten der Organisation, gesellschaftlichen Normen und regulatorischen Anforderungen im Einklang stehen.
Die typische Zusammensetzung eines KI-Ethikgremiums umfasst: eine Vertretung der Führungsebene (zur Sicherstellung von Autorität und organisatorischem Engagement), Rechts- und Compliance-Experten (regulatorische und rechtliche Perspektive), Data Scientists und KI-Ingenieure (technisches Verständnis der Fähigkeiten und Grenzen von KI), Datenschutz- und Sicherheitsfachleute (Perspektive des Datenschutzes), Vertreter der Geschäftsbereiche (operativer Kontext), externe Berater (unabhängige Perspektiven aus Wissenschaft oder Zivilgesellschaft) und Mitarbeitervertreter (Berücksichtigung der Auswirkungen auf die Belegschaft).
Zu den zentralen Verantwortlichkeiten gehören: die Prüfung von Hochrisiko-KI-Anwendungsfällen vor der Bereitstellung, die Festlegung ethischer Leitlinien und Grundsätze für die KI-Entwicklung, die Entscheidung über ethische Dilemmata und Grenzfälle, die Aufsicht über Verzerrungsprüfungen und Fairnessbewertungen, die Bewertung der gesellschaftlichen Auswirkungen von KI-Initiativen, die Empfehlung von Richtlinienaktualisierungen auf Grundlage neu entstehender KI-Risiken, die Mitwirkung bei der Auswahl von KI-Anbietern und Partnerschaften sowie die Funktion als Eskalationsstelle für KI-bezogene ethische Bedenken.
Wirksame KI-Ethikgremien erfordern: eine klare Satzung, die Umfang und Befugnisse definiert, einen regelmäßigen Sitzungsrhythmus mit dokumentierten Entscheidungen, eine Integration in bestehende Governance-Strukturen, den Zugang zu technischen Ressourcen zur Bewertung von KI-Systemen, Mechanismen für die Mitwirkung von Mitarbeitenden und Stakeholdern sowie Transparenz über die Aktivitäten und Entscheidungen des Gremiums.