KI-Ethik ist ein Zweig der angewandten Ethik, der darauf ausgerichtet ist, sicherzustellen, dass Systeme der künstlichen Intelligenz auf faire, transparente, rechenschaftspflichtige und für die Gesellschaft förderliche Weise entwickelt und genutzt werden. Sie befasst sich mit den moralischen Implikationen der KI-Entscheidungsfindung, mit Verzerrungen, Datenschutz, Autonomie und den weitergehenden gesellschaftlichen Auswirkungen von KI-Technologien.
Zu den Kernprinzipien, die häufig in KI-Ethik-Frameworks enthalten sind, gehören: Fairness und Nichtdiskriminierung (KI-Systeme sollten Verzerrungen nicht fortschreiben oder verstärken), Transparenz (die Entscheidungsprozesse der KI sollten nachvollziehbar sein), Rechenschaftspflicht (klare Verantwortung für die Ergebnisse von KI-Systemen), Datenschutz (Achtung der Datenrechte des Einzelnen), Sicherheit (KI-Systeme sollten zuverlässig und sicher sein), menschliche Aufsicht (eine wirksame menschliche Kontrolle über KI-Entscheidungen) und Wohltätigkeit (KI sollte der Menschheit zugutekommen).
Organisationen setzen KI-Ethik durch Ethikgremien oder -ausschüsse, ethische Folgenabschätzungen für KI-Projekte, Verzerrungsprüfungen und Fairnesstests, Anforderungen an die Erklärbarkeit von KI-Entscheidungen, Verfahren zur Einbindung von Interessengruppen sowie Schutzmaßnahmen für Hinweisgeber bei KI-bezogenen Bedenken um.
Zu den wichtigsten KI-Ethik-Frameworks zählen die OECD-KI-Grundsätze, die UNESCO-Empfehlung zur Ethik der KI, IEEE Ethically Aligned Design sowie verschiedene unternehmenseigene Leitlinien zur KI-Ethik.