Die Sicherheit der KI-Lieferkette befasst sich mit den Risiken, die aus dem komplexen Geflecht von Abhängigkeiten in modernen KI-Systemen entstehen. Ebenso wie die Sicherheit der Software-Lieferkette vor kompromittierten Bibliotheken und Paketen schützt, schützt die Sicherheit der KI-Lieferkette vor Schwachstellen in KI-Modellen, Trainingsdaten, APIs und Dienstanbietern.
Zur KI-Lieferkette gehören: Anbieter von Foundation-Modellen (OpenAI, Anthropic, Google, Meta), Plattformen für Fine-Tuning und Hosting, Trainings- und Evaluierungsdatensätze, Anbieter von KI-Anwendungen (auf KI aufbauende SaaS-Tools), Open-Source-Modelle und -Bibliotheken, Hardwareanbieter (GPU-Infrastruktur) sowie Dienste zur Datenannotation und -kennzeichnung.
Zu den zentralen Risiken in der KI-Lieferkette gehören: Modellvergiftung (kompromittierte Trainingsdaten, die zu manipulierten Ausgaben führen), Lieferkettenangriffe auf Open-Source-KI-Frameworks, Anbieterbindung und einzelne Ausfallpunkte, Fragen der Datensouveränität, wenn die KI-Verarbeitung Rechtsräume überschreitet, Modelldiebstahl oder unbefugte Weiterverbreitung, Sicherheitslücken in APIs sowie Kaskadenausfälle, wenn vorgelagerte Anbieter Ausfälle erleiden.
Organisationen sollten die Sicherheit der KI-Lieferkette durch Lieferanten-Risikobewertungen, eine Stückliste für KI-Systeme (AI BOM), eine kontinuierliche Überwachung von KI-Diensten Dritter, Ausweichstrategien für kritische KI-Abhängigkeiten und vertragliche Absicherungen in Lieferantenvereinbarungen umsetzen.