Verantwortungsvolle KI ist ein umfassender Ansatz, um KI-Systeme so zu konzipieren, zu entwickeln, bereitzustellen und zu betreiben, dass sie ethisch, transparent, fair und rechenschaftspflichtig sind und mit menschlichen Werten sowie dem gesellschaftlichen Wohl im Einklang stehen. Er geht über die technische Leistung hinaus und berücksichtigt die weiterreichenden Auswirkungen von KI auf Einzelpersonen, Gemeinschaften und die Gesellschaft.
Zu den Kernsäulen verantwortungsvoller KI gehören: Fairness (Diskriminierung verhindern und gerechte Ergebnisse sicherstellen), Zuverlässigkeit und Sicherheit (konsistentes, vorhersehbares Verhalten gewährleisten), Datenschutz und Sicherheit (personenbezogene Daten schützen und unbefugten Zugriff verhindern), Inklusivität (KI gestalten, die für vielfältige Bevölkerungsgruppen funktioniert), Transparenz (offen darlegen, wie KI funktioniert und wo ihre Grenzen liegen) sowie Rechenschaftspflicht (klare Verantwortung für KI-Ergebnisse festlegen).
Die Umsetzung verantwortungsvoller KI erfordert sowohl organisatorische als auch technische Maßnahmen: Governance-Strukturen (Ethikgremien, Prüfprozesse), Rahmenwerke zur Risikobewertung, Werkzeuge zum Testen und Überwachen von Verzerrungen, Mechanismen zur Erklärbarkeit, Prozesse zur Einbindung von Stakeholdern, regelmäßige Audits, Mitarbeiterschulungen und eine klare Dokumentation.
Große Technologieunternehmen, Regierungen und internationale Organisationen haben Grundsätze und Rahmenwerke für verantwortungsvolle KI veröffentlicht, was den wachsenden Konsens widerspiegelt, dass die KI-Entwicklung neben den technischen Fähigkeiten von ethischen Erwägungen geleitet sein muss.