Das NIST AI Risk Management Framework (AI RMF) ist ein freiwilliges Rahmenwerk, das vom U.S. National Institute of Standards and Technology (NIST) entwickelt wurde, um Organisationen dabei zu helfen, Risiken im Zusammenhang mit Systemen der künstlichen Intelligenz über deren gesamten Lebenszyklus hinweg zu identifizieren, zu bewerten und zu steuern. Im Januar 2023 veröffentlicht, bietet das Rahmenwerk einen flexiblen, nicht präskriptiven Ansatz, den Organisationen an ihren spezifischen Kontext, ihre Risikotoleranz und ihre KI-Anwendungsfälle anpassen können.
Das NIST AI RMF ist um vier Kernfunktionen herum aufgebaut, die durch das Akronym GOVERN, MAP, MEASURE und MANAGE dargestellt werden. Die Funktion GOVERN legt organisatorische Richtlinien, Rollen und Verantwortlichkeiten für das KI-Risikomanagement fest und stellt die Rechenschaftspflicht der Führungsebene für KI-Entscheidungen sicher. Die Funktion MAP identifiziert den Kontext, die Schadenskategorien und die potenziellen Auswirkungen bestimmter KI-Systeme. Die Funktion MEASURE quantifiziert Risiken anhand von Kennzahlen und Bewertungsmethoden, die dem Risikoprofil des Systems angemessen sind. Die Funktion MANAGE wendet Risikomaßnahmen an, nämlich Minderung, Transfer, Akzeptanz oder Vermeidung, und verfolgt deren Wirksamkeit im Zeitverlauf.
Das Rahmenwerk gilt für alle Arten von KI-Systemen, von automatisierten Recruiting-Tools bis hin zu generativen KI-Anwendungen, und ist darauf ausgelegt, andere Ansätze des Risikomanagements wie ISO 42001, SOC 2 und branchenspezifische Vorschriften zu ergänzen. Für Organisationen in regulierten Branchen bietet das NIST AI RMF eine strukturierte Grundlage, die auf Compliance-Anforderungen abgebildet werden kann, wodurch der Aufwand für die Handhabung mehrerer separater Rahmenwerke verringert wird.
Zu den wichtigsten Vorteilen der Einführung des NIST AI RMF gehören eine verbesserte Sichtbarkeit von KI-Risiken (Organisationen erhalten ein klareres Verständnis ihrer KI-bezogenen Gefährdungen), bessere Governance-Strukturen (die Funktion GOVERN stärkt die Rechenschaftspflicht der Führungsebene), ein verbessertes Lieferantenmanagement (das Rahmenwerk bietet strukturierte Kriterien für die Bewertung von KI-Tools von Drittanbietern) und regulatorische Bereitschaft (die Ausrichtung am NIST AI RMF vereinfacht die Einhaltung neu entstehender KI-Vorschriften, einschließlich des EU AI Act und der US Executive Order on Safe, Secure, and Trustworthy AI).