Modell-Governance bezeichnet das umfassende Rahmenwerk zur Steuerung von KI- und Machine-Learning-Modellen über ihren gesamten Lebenszyklus hinweg. Sie stellt sicher, dass Modelle verantwortungsvoll entwickelt, sicher bereitgestellt, kontinuierlich überwacht und angemessen außer Betrieb genommen werden.
Zu den zentralen Aspekten der Modell-Governance gehören: Modellinventar und -registrierung (einen Katalog aller eingesetzten KI-Modelle führen), Modellrisikobewertung (mögliche Schäden vor der Bereitstellung bewerten), Modellvalidierung (Genauigkeit, Fairness und Robustheit testen), Modelldokumentation (Designentscheidungen, Trainingsdaten und Grenzen festhalten), Modellüberwachung (Leistungsdrift, das Auftreten von Verzerrungen und unerwartetes Verhalten verfolgen), Modellversionierung (Updates und Rollbacks verwalten) und Modellaußerbetriebnahme (veraltete Modelle sicher außer Dienst stellen).
Für Unternehmen, die KI-Tools und -APIs von Drittanbietern nutzen, erstreckt sich die Modell-Governance auf das Lieferantenmanagement: zu verstehen, welche Modelle die von Mitarbeitenden genutzten Tools antreiben, Änderungen der Modellversionen durch Anbieter zu verfolgen, die Auswirkungen von Modell-Updates auf Geschäftsprozesse zu bewerten und sicherzustellen, dass die Modelle der Anbieter die Standards der Organisation erfüllen.
Regulatorische Rahmenwerke wie der EU AI Act und Branchenstandards wie ISO 42001 verlangen zunehmend formale Prozesse der Modell-Governance, insbesondere für Hochrisiko-KI-Anwendungen.