KI-Datenschutzrisiko: Wie generative KI personenbezogene Daten offenlegt und wie man das stoppt
Die Einführung generativer KI-Tools hat ein Datenschutzrisiko geschaffen, mit dem sich die meisten Organisationen noch nicht vollständig auseinandergesetzt haben. Mitarbeiter geben täglich personenbezogene Daten an KI-Plattformen weiter - Kundenakten, Personalakten, Patientendaten, Finanzinformationen - oft ohne die Datenschutzfolgen zu erkennen. Und die Organisationen, für die sie arbeiten, sind rechtlich verantwortlich für den Umgang mit diesen Daten.
Dieser Leitfaden untersucht, wie KI-Tools Datenschutzrisiken erzeugen, welche regulatorischen Verpflichtungen es unter DSGVO, dem australischen Datenschutzgesetz und anderen Rahmenwerken gibt und welche praktischen Schritte Organisationen ergreifen können, um ihre Risiken zu managen.
Warum KI-Tools Datenschutzrisiken schaffen
Generative KI-Tools sind im Kern Datenverarbeitungssysteme. Wenn ein Mitarbeiter eine Eingabe an ChatGPT, Claude oder Microsoft Copilot sendet, übermittelt er Daten an ein Drittanbietersystem. Was mit diesen Daten geschieht, hängt von der Plattform, dem Abonnement und den vertraglichen Bedingungen ab - die die meisten Mitarbeiter weder gelesen noch verstanden haben.
Das Datenschutzrisiko entsteht durch mehrere unterschiedliche Mechanismen:
Aufbewahrung von Trainingsdaten
Viele KI-Plattformen, insbesondere kostenlose und Consumer-Dienste, verwenden eingereichte Eingaben und Gespräche, um ihre Modelle zu trainieren und zu verbessern. Das bedeutet, dass personenbezogene Daten, die ein Mitarbeiter eingibt, vom KI-Anbieter gespeichert und zur Generierung von Ausgaben für andere Nutzer verwendet werden können. Nach DSGVO und australischem Datenschutzgesetz dürfen Organisationen personenbezogene Daten nicht ohne Rechtsgrundlage und angemessene vertragliche Schutzmaßnahmen an Dritte zur Verarbeitung übermitteln.
Datenverarbeitung durch Dritte ohne Auftragsverarbeitungsvertrag (AVV)
Unternehmen, die personenbezogene Daten verarbeiten, sind nach DSGVO und vergleichbaren Regelungen verpflichtet, mit jedem Drittverarbeiter einen Auftragsverarbeitungsvertrag (AVV) abzuschließen. Dieser regelt, welche Daten verarbeitet werden, zu welchen Zwecken, Sicherheitsanforderungen und die Pflichten des Verarbeiters.
Wenn Mitarbeiter persönliche oder kostenlose KI-Konten für Arbeitstätigkeiten nutzen, besteht in der Regel kein AVV. Die Daten werden unter den Nutzungsbedingungen für Verbraucher verarbeitet, die nicht den Anforderungen des Datenschutzrechts entsprechen.
Verstöße gegen Datenresidenz
Viele KI-Plattformen verarbeiten und speichern Daten in den USA oder anderen Rechtsgebieten außerhalb der EU und Australiens. Die Übermittlung personenbezogener Daten in diese Länder erfordert geeignete Schutzmaßnahmen - Standardvertragsklauseln nach DSGVO oder gleichwertige Mechanismen. Ohne Unternehmensvereinbarungen, die Datenresidenz und angemessene Übertragungsmechanismen regeln, können Organisationen allein durch die Nutzung von Consumer-KI-Tools durch Mitarbeiter gegen Vorschriften verstoßen.
Unkontrollierter Zugriff auf Ausgaben
KI-Tools können Ausgaben erzeugen, die personenbezogene Daten enthalten oder reproduzieren, die von anderen Nutzern eingegeben wurden, insbesondere wenn diese Daten gespeichert und in das Training einbezogen wurden. Dies birgt das Risiko, dass personenbezogene Daten von Kunden einer Organisation in Antworten an Mitarbeiter einer anderen Organisation auftauchen.
Lücken im Audit-Trail
Datenschutzvorschriften verlangen von Organisationen, nachweisen zu können, welche personenbezogenen Daten sie besitzen, wohin sie gesendet wurden und auf welcher Rechtsgrundlage die Verarbeitung erfolgt. Die Nutzung von KI-Tools über persönliche Konten oder unüberwachte Mitarbeiter-Workflows hinterlässt keinen Audit-Trail, den die Organisation kontrolliert. Dies schafft eine grundlegende Rechenschaftslücke.
Was die Vorschriften tatsächlich verlangen
DSGVO (und UK DSGVO)
Die DSGVO gilt für jede Organisation, die personenbezogene Daten von EU-Bürgern verarbeitet, unabhängig vom Sitz der Organisation. Wichtige Pflichten im Zusammenhang mit KI-Tool-Nutzung:
Artikel 28 - Anforderungen an Auftragsverarbeiter: Organisationen dürfen nur Auftragsverarbeiter (einschließlich KI-Anbieter) einsetzen, die „ausreichende Garantien“ für die Einhaltung des Datenschutzes bieten. Die Verarbeitung muss durch einen Vertrag geregelt sein, der Nutzungsbeschränkungen, Sicherheitsanforderungen und Pflichten des Auftragsverarbeiters festlegt.
Artikel 5 - Datenminimierung: Personenbezogene Daten dürfen nicht über das für den angegebenen Zweck Notwendige hinaus erhoben oder verarbeitet werden. Das Eingeben von Kundendaten in ein KI-Tool für eine Aufgabe, die diese Daten nicht erfordert, verstößt gegen dieses Prinzip.
Artikel 25 - Datenschutz durch Technikgestaltung: Organisationen sind verpflichtet, technische und organisatorische Maßnahmen umzusetzen, die Datenschutzprinzipien standardmäßig in die Verarbeitung integrieren.
Artikel 35 - Datenschutz-Folgenabschätzung (DSFA): Verarbeitungen, die voraussichtlich ein hohes Risiko für Betroffene darstellen, erfordern vor Beginn eine DSFA. Der Einsatz von KI-Tools zur Verarbeitung sensibler personenbezogener Daten löst diese Pflicht nahezu immer aus.
Bußgelder nach DSGVO können bei schwerwiegenden Verstößen bis zu 20 Millionen Euro oder 4 % des weltweiten Jahresumsatzes betragen.
Australisches Datenschutzgesetz
Das Privacy Act 1988 (Cth) und seine Australian Privacy Principles (APPs) regeln die Erhebung, Nutzung und Offenlegung personenbezogener Daten durch australische Regierungsbehörden und Unternehmen mit einem Jahresumsatz über 3 Millionen Dollar.
Wesentliche Verpflichtungen bei der Nutzung von KI-Tools:
APP 6 - Nutzung oder Offenlegung: Für einen Zweck erhobene personenbezogene Daten dürfen ohne Zustimmung oder spezifische Ausnahme nicht für einen anderen Zweck verwendet oder offengelegt werden. Die Nutzung von Kundendaten zur Eingabe in ein KI-Tool für einen nicht kommunizierten Zweck kann gegen APP 6 verstoßen.
APP 8 - Grenzüberschreitende Offenlegung: Vor der Weitergabe personenbezogener Daten an Empfänger im Ausland (einschließlich KI-Plattformen in anderen Rechtsgebieten) müssen Organisationen angemessene Maßnahmen ergreifen, um sicherzustellen, dass der Empfänger die APPs nicht verletzt. Die Nutzung von Verbraucher-KI-Plattformen ohne Unternehmensvereinbarungen ist schwer mit dieser Verpflichtung vereinbar.
APP 11 - Sicherheit personenbezogener Daten: Organisationen müssen angemessene Maßnahmen ergreifen, um personenbezogene Daten vor Missbrauch, Eingriffen und Verlust zu schützen. Mitarbeitern zu erlauben, personenbezogene Daten an nicht geprüfte KI-Plattformen ohne Kontrollen zu übermitteln, steht wahrscheinlich im Widerspruch zu dieser Verpflichtung.
Die Reformen des australischen Privacy Act (derzeit im Parlament in Bearbeitung) werden die Strafen deutlich erhöhen und neue Anforderungen einführen, darunter verpflichtende Meldungen von Datenschutzverletzungen und stärkere Rechte für Betroffene.
Weitere Rahmenwerke
CCPA/CPRA (Kalifornien): Ähnliche Verpflichtungen gelten für personenbezogene Daten von Einwohnern Kaliforniens.
HIPAA (USA): Gesundheitsorganisationen, die HIPAA unterliegen, dürfen keine Patientendaten an KI-Plattformen übermitteln, ohne dass eine Business Associate Agreement besteht.
Regulierungen im Finanzdienstleistungsbereich: APRA-regulierte Unternehmen in Australien und entsprechende Stellen in anderen Jurisdiktionen haben spezifische Pflichten im Umgang mit Daten, die direkt mit der Nutzung von KI-Tools zusammenhängen.
Das Shadow-KI-Problem im Datenschutzrisiko
Die Herausforderung für die Datenschutz-Compliance besteht nicht nur darin, genehmigte KI-Tools zu verwalten, sondern auch die KI-Tools, von denen die IT nichts weiß.
Mitarbeiter nutzen routinemäßig persönliche ChatGPT-Konten, persönliche Claude-Abonnements und kostenlose KI-Tools für Arbeitsaufgaben, weil diese bequem sind und der Arbeitgeber keine ausreichend gute genehmigte Alternative bereitgestellt hat. Diese Schatten-KI-Nutzung schafft erhebliche Datenschutzrisiken:
- Keine Unternehmensvereinbarungen oder Auftragsverarbeitungsverträge (DPAs) vorhanden
- Keine Kontrollen zur Datenresidenz
- Keine Möglichkeit, nachzuvollziehen, welche personenbezogenen Daten übermittelt wurden
- Keine Möglichkeit, Betroffenenanfragen oder Löschanfragen für Daten auf diesen Plattformen zu bearbeiten
- Persönliche Kontodaten können für Modelltrainings verwendet werden
Eine Studie aus dem Jahr 2025 ergab, dass in Organisationen ohne aktive KI-Governance-Programme Mitarbeiter in der Mehrheit der beobachteten Fälle personenbezogene Daten an nicht genehmigte KI-Tools übermittelten. Die Gefährdung ist systemisch, nicht Ausnahme.
Wie man KI-Datenschutzrisiken managt
1. Erstellen Sie ein Inventar der KI-Tools
Man kann nur managen, was man sieht. Der erste Schritt ist die Erfassung aller KI-Tools, die in der Organisation genutzt werden, einschließlich Schatten-KI-Tools, die nicht von der IT genehmigt sind. Dies erfordert aktive Erkennung und darf sich nicht auf Beschaffungsunterlagen oder Selbstauskünfte der Mitarbeiter verlassen.
2. Führen Sie DPIAs für KI-Nutzung mit hohem Risiko durch
Für jedes KI-Tool, das personenbezogene Daten in großem Umfang oder sensible Kategorien (Gesundheit, Finanzen, Personal) verarbeitet, führen Sie eine Datenschutz-Folgenabschätzung durch. Dokumentieren Sie Datenflüsse, Risiken und Minderungsmaßnahmen.
3. Fordern Sie Unternehmensvereinbarungen mit DPAs
Für jedes KI-Tool, das personenbezogene Daten verarbeitet, verlangen Sie eine Lieferantenvereinbarung mit einem Auftragsverarbeitungsvertrag, der regulatorischen Anforderungen entspricht. Dies bedeutet:
- Klare Beschränkung der Nutzung eingereichter Daten für Trainingszwecke
- Datenresidenzvorgaben im Einklang mit Übertragungsanforderungen
- Ausrichtung an Sicherheitsstandards (SOC 2, ISO 27001)
- Meldepflichten bei Datenschutzverletzungen
- Regelungen zu Datenlöschung und Datenübertragbarkeit
Die meisten großen KI-Anbieter bieten Enterprise-Tarife mit diesen Schutzmaßnahmen an - das Problem ist, dass Organisationen die Nutzung von Verbrauchertarifen durch Mitarbeiter erlauben, die diese nicht enthalten.
4. Implementieren Sie Schulungen zur Datenklassifizierung
Mitarbeiter benötigen praktische Anleitungen, welche Daten sie in KI-Tools eingeben dürfen und welche nicht. Abstrakte Richtlinien helfen nicht - geben Sie konkrete Beispiele, die für die tatsächlichen Aufgaben jeder Rolle relevant sind.
Schulen Sie Mitarbeiter mindestens darin, folgende Daten als tabu für Verbraucher-KI-Tools zu behandeln:
- Kundendaten (Namen, Kontaktdaten, Konten, Transaktionen)
- Mitarbeiterdaten (Leistungsdaten, Gesundheitsinformationen, Gehaltsdaten)
- Patientendaten
- Nicht öffentlich zugängliche Finanzdaten
- Rechtsdokumente mit Kundeninformationen
5. Setzen Sie technische Kontrollen ein
Schulungen allein reichen nicht aus. Technische Kontrollen müssen Datenverarbeitungsrichtlinien an dem Punkt durchsetzen, an dem Daten an KI-Tools übermittelt werden könnten:
- Überwachen Sie ausgehende Datenflüsse zu KI-Plattform-Endpunkten
- Klassifizieren Sie Datentypen während der Übertragung, um zu erkennen, wann sensible Daten übermittelt werden
- Warnen oder blockieren Sie basierend auf Datensensitivität und Tool-Genehmigungsstatus
- Erstellen Sie Audit-Logs von KI-Tool-Interaktionen für Compliance-Dokumentationen
6. Definieren Sie einen Reaktionsprozess für Datenschutzverletzungen bei KI-Datenexposition
Was passiert, wenn ein Mitarbeiter feststellt, dass er personenbezogene Daten unangemessen an ein KI-Tool übermittelt hat? Organisationen benötigen einen klaren Incident-Response-Prozess:
- Wie der Vorfall zu melden ist
- Wie Schweregrad und Meldepflichten zu bewerten sind
- Wie mit dem KI-Anbieter bezüglich Datenlöschung (sofern möglich) zu kommunizieren ist
- Wie betroffene Personen und Aufsichtsbehörden gegebenenfalls zu benachrichtigen sind
Die Kosten falscher Handhabung
Datenschutzbehörden in Australien und der EU richten ihren Fokus zunehmend auf KI-bezogene Datenverarbeitung. Die Kombination aus weitverbreiteter Mitarbeiter-KI-Nutzung, unzureichenden organisatorischen Kontrollen und klaren regulatorischen Verpflichtungen birgt ein erhebliches Durchsetzungsrisiko.
Neben regulatorischen Bußgeldern kann der Reputationsschaden durch eine KI-bezogene Datenschutzverletzung - bei der persönliche Kundendaten durch die Nutzung eines nicht genehmigten KI-Tools offengelegt werden - erheblich sein. Der Eindruck, dass eine Organisation nachlässig mit ihrer Datenverwaltung umgeht, sorgt für schlechte Schlagzeilen.
Wie Aona hilft
Aona bietet die Transparenz- und Kontrollschicht, die Organisationen benötigen, um KI-Datenschutzrisiken praktisch zu managen. Anstatt sich auf Richtliniendokumente zu verlassen und darauf zu hoffen, dass Mitarbeiter diese einhalten, bietet Aona:
- **Vollständiges KI-Tool-Inventar** - Erfassung aller genutzten KI-Tools, einschließlich persönlicher Konten und Schatten-KI
- **Analyse der Datensensitivität** - Erkennung, wann personenbezogene Daten an KI-Tools übermittelt werden
- **Durchsetzung von Richtlinien** - Blockieren oder Warnen bei risikoreichen Interaktionen, bevor Daten offengelegt werden
- **Audit-Trails** - organisationskontrollierte Protokolle der KI-Tool-Nutzung für DPIA und regulatorische Compliance
- **Lieferantenrisikoprofilierung** - Verständnis der Datenverarbeitungsbedingungen für jedes von Mitarbeitern genutzte KI-Tool
Für Organisationen, die KI-Datenschutz-Compliance gegenüber Aufsichtsbehörden, Kunden oder bei Audits nachweisen müssen, bietet Aona die Governance-Basis, die manuelle Prozesse in dieser Größenordnung nicht leisten können.
[Demo buchen](/book-demo), um zu sehen, wie Aona KI-Datenschutzrisiken in Ihrer Organisation erfasst und steuert.
