KI-Modelldiebstahl (auch Modellextraktion oder Model Stealing genannt) bezeichnet Angriffe, bei denen Angreifer versuchen, die Funktionalität eines proprietären KI-Modells ohne autorisierten Zugriff auf dessen Architektur, Gewichte oder Trainingsdaten nachzubilden. Dies stellt erhebliche Risiken für geistiges Eigentum und Wettbewerb für Organisationen dar, die stark in die Entwicklung von KI-Modellen investieren.
Zu den Techniken des Modelldiebstahls gehören: API-basierte Extraktion (eine Modell-API systematisch abfragen und die Eingabe-Ausgabe-Paare nutzen, um ein funktional gleichwertiges Ersatzmodell zu trainieren), Seitenkanalangriffe (Zeitverhalten, Stromverbrauch oder Speicherzugriffsmuster ausnutzen, um Modelldetails abzuleiten), Insider-Bedrohungen (Mitarbeitende oder Auftragnehmer, die Modellgewichte, Code oder Trainingsdaten exfiltrieren), Kompromittierung der Lieferkette (Modelle während der Übertragung zwischen Systemen abfangen) und Reverse Engineering (bereitgestellte Modellartefakte analysieren, um Architektur und Parameter zu rekonstruieren).
Zu den Auswirkungen von Modelldiebstahl gehören: der Verlust des Wettbewerbsvorteils (Wettbewerber erlangen gleichwertige KI-Fähigkeiten ohne F&E-Investitionen), die Verletzung geistigen Eigentums (die unbefugte Nutzung proprietärer Innovationen), Sicherheitsgefährdung (gestohlene Modelle können auf Schwachstellen hin analysiert werden), Compliance-Risiken (gestohlene Modelle werden möglicherweise ohne angemessene Governance eingesetzt) und finanzielle Verluste (die den Geschäftswert von KI-Investitionen untergraben).
Zu den Abwehrstrategien gehören: API-Ratenbegrenzung und Abfrageüberwachung (systematische Extraktionsversuche erkennen), Differential Privacy für Modellausgaben (Rauschen hinzufügen, um die Extraktionstreue zu verringern), Modell-Watermarking (einen Eigentumsnachweis einbetten), Zugriffskontrollen und Protokollierung (den Modellzugriff einschränken und überwachen), rechtliche Schutzmaßnahmen (Patente, Geschäftsgeheimnisse, Lizenzvereinbarungen) und Techniken zur Modellverschleierung (die Extraktion erschweren, ohne die legitime Nutzung zu beeinträchtigen).