Ihre KI-Systeme haben mehr Zugriffsrechte als Ihre Mitarbeiter. Niemand hat es bemerkt.
Es gibt eine stille Ironie darin, wie die meisten Unternehmen KI in diesem Jahr eingeführt haben. Sie haben Monate damit verbracht, Mitarbeiter in Datenhandhabungsrichtlinien zu schulen, Phishing-Simulationen durchzuführen und Zugriffsüberprüfungsprozesse zu etablieren, um sicherzustellen, dass Menschen keine sensiblen Daten versehentlich preisgeben. Und dann haben sie KI-Agenten die Schlüssel zu allem gegeben - Datenbanken, APIs, interne Tools, Kundendaten - mit fast keinen vergleichbaren Kontrollen.
Ein neuer Bericht, der diesen Monat unter Enterprise-Sicherheitsteams kursiert, bringt eine Zahl ins Spiel: Ein von acht Unternehmen hat bereits eine Sicherheitsverletzung erlebt, die mit agentischer KI zusammenhängt. Lesen Sie das noch einmal. Nicht KI-gestütztes Phishing, nicht Mitarbeiter, die ChatGPT missbrauchen - tatsächliche Verstöße, verursacht von autonomen KI-Agenten, die die Organisationen selbst eingesetzt haben.
Das ist kein zukünftiges Risiko. Es passiert jetzt.
Das Zugriffsproblem, über das niemand spricht
Wenn Sicherheitsteams Insider-Bedrohungen modellieren, denken sie an Menschen. Ein frustrierter Ingenieur mit Datenbankzugriff. Ein Finanzmitarbeiter, dessen Zugangsdaten kompromittiert wurden. Es gibt Rahmenwerke, Playbooks und Werkzeuge, die genau auf diese Risiken ausgerichtet sind.
Aber KI-Agenten - die Art von Agenten, die Organisationen heute einsetzen, um Kundensupport-Eskalationen zu bearbeiten, automatisierte Workflows auszuführen, Berichte zu erstellen oder mit SaaS-Plattformen zu interagieren - haben oft breiteren Zugriff als jeder einzelne Mensch. Und sie werden anders bereitgestellt. Kein Genehmigungsworkflow durch Manager. Keine vierteljährliche Zugriffsüberprüfung. Kein Offboarding-Prozess, wenn sich das Projekt ändert.
Laut einer Studie des Ponemon Institute, die Anfang dieses Monats veröffentlicht wurde, haben 79 % der Organisationen noch nicht die volle KI-Sicherheitsreife erreicht - das bedeutet, dass Systeme vollständig implementiert und Risiken gründlich bewertet sind. Und 31 % der Organisationen wissen nicht, ob sie im vergangenen Jahr eine KI-Sicherheitsverletzung erlebt haben. Nicht „wahrscheinlich nicht“ - sie können es wirklich nicht sagen.
Das ist nicht nur eine philosophische Sorge um KI-Risiken. Es ist ein konkretes Sichtbarkeitsproblem mit direkten regulatorischen Folgen, besonders für Unternehmen, die unter GDPR, HIPAA operieren oder sich auf die Hochrisikoregeln des EU AI Act vorbereiten, die im August in Kraft treten.
Wo Agenten Fehler machen
Die Schwachstelle ist meist nicht das KI-Modell selbst. Es ist die sogenannte „Ausführungsebene“ - der Punkt, an dem ein KI-Agent eine Aktion in der realen Welt ausführt. Eine Datenbankabfrage. Ein API-Aufruf. Eine Datei wird geschrieben. Eine Nachricht wird im Namen eines Menschen gesendet.
Die meisten Organisationen, die ihre KI-Einsätze sichern, konzentrieren sich auf die Eingabeseite: Sie sorgen dafür, dass Mitarbeiter keine geistigen Eigentumsrechte in ChatGPT einfügen und blockieren sensible Daten, die externe Modelle erreichen könnten. Das ist wichtige Arbeit. Aber agentische KI bringt ein strukturell anderes Ausgaberisiko mit sich.
Wenn einem KI-Agenten Werkzeugzugriff gewährt wird - und die meisten derzeit populären agentischen Frameworks, von OpenAI Assistants über LangChain-Workflows bis zu Microsoft Copilot-Agenten, geben Agenten genau diesen Zugriff - kann dieser Agent manipuliert werden, um diese Werkzeuge missbräuchlich zu verwenden. Prompt Injection ist der am besten dokumentierte Angriffsvektor: Ein Angreifer bettet Anweisungen in Inhalte ein, die der Agent verarbeitet, und der Agent folgt ihnen. Das ist kein Fehler im KI-Modell. Es ist eine Folge davon, KI die Fähigkeit zu geben, zu handeln.
Ein reales Szenario aus der Bedrohungsforschung dieses Monats: Ein KI-Agent, der für die Vertragsprüfung eingesetzt wurde, hatte umfassenden Zugriff auf den Dokumentenspeicher eines Rechtsteams. Ein böswilliger Akteur bettete Anweisungen in ein eingereichtes Vertragsdokument ein, und der Agent leitete intern genutzte Vorlagen pflichtbewusst an eine externe E-Mail-Adresse weiter. Der Agent tat genau das, wofür er entwickelt wurde - nur nicht mit den Inhalten, die das Team erwartet hatte.
Die Schatten-KI-Überlappung
Hier wird es komplizierter. Das Problem agentischer KI beschränkt sich nicht auf offiziell genehmigte Tools. Schatten-KI - Mitarbeiter, die KI-Tools, Agenten und Automatisierungsplattformen ohne Wissen der IT nutzen - breitet sich schnell aus.
Die durchschnittlichen Kosten eines Datenverstoßes durch Schatten-KI liegen inzwischen bei 308.000 US-Dollar pro Vorfall. Und im Gegensatz zu genehmigten Einsätzen operieren Schatten-KI-Agenten vollständig außerhalb Ihrer Sicherheitsarchitektur. Es gibt keine Zugriffsüberprüfung, weil es nie einen Zugriffsbereitstellungsprozess gab. Ihr SIEM erkennt sie nicht. Ihre DLP-Tools fangen deren Ausgaben nicht ab. Ihre Prüfpfade haben genau dort eine Lücke, wo Sie am dringendsten sehen müssen, was passiert ist.
Wir beobachten dies auf interessante Weise bei browserbasierten KI-Tools. Mitarbeiter installieren Browsererweiterungen, die KI-Agenten nutzen, um bei Arbeitsaufgaben zu „helfen“ - E-Mails zusammenfassen, Antworten entwerfen, Daten abrufen. Diese Erweiterungen erhalten oft weitreichende Berechtigungen für die Browsersitzung des Nutzers, was auch authentifizierten Zugriff auf interne Tools einschließen kann. Die Erweiterung (und jeder darin laufende KI-Agent) hat nun denselben Zugriff wie der Mitarbeiter. Aber niemand hat das katalogisiert, niemand hat es überprüft, und der Mitarbeiter hat nichts falsch gemacht. Er hat ein Produktivitätstool installiert.
Wie gute Governance hier aussieht
Die Lücke zwischen dem, wo die meisten Unternehmen stehen, und dem, wo sie sein müssen, ist nicht in erster Linie ein Technologieproblem. Es gibt viele Tools, die helfen - CASBs, SaaS-Management-Plattformen, Endpunktüberwachung. Die Lücke ist vor allem ein Problem von Richtlinien und Sichtbarkeit.
Effektive KI-Governance für agentische Systeme muss einige Punkte adressieren, für die traditionelle Sicherheitsrahmen nicht ausgelegt sind:
Verwaltung nicht-menschlicher Identitäten. Jeder KI-Agent, der Aktionen ausführen kann, sollte eine eigene Identität mit klar definierten Berechtigungen und einem eindeutigen Eigentümer haben. So verfahren die meisten Organisationen heute nicht. Agenten erben typischerweise Anmeldedaten vom Benutzer oder Dienstkonto, das sie eingerichtet hat, ohne eigenständiges Lifecycle-Management.
Überwachung der Ausführungsebene. Es reicht nicht mehr zu wissen, welche Daten in ein KI-Modell eingeflossen sind. Sie benötigen Einblick in die Aktionen, die das Modell ausgelöst hat: welche APIs aufgerufen wurden, welche Dateien geöffnet wurden, welche Nachrichten gesendet wurden. Dies ist ein Audit-Trail-Problem, das die meisten Sicherheitsteams nicht abdecken.
Umfassende Entdeckung von Schatten-KI. Browser-Erweiterungen, lokale LLM-Tools, Drittanbieter-KI-Integrationen, die einzelne Teams hinzufügen - nichts davon erscheint in Ihrem genehmigten Software-Inventar. Diese Sichtbarkeit zu erhalten, ist der Ausgangspunkt für alles Weitere. Sie können nicht regeln, was Sie nicht sehen.
Die August-Frist ist real
Für Organisationen, die unter den EU-KI-Gesetz fallen, ist August 2026 kein abstraktes Zukunftsdatum mehr. Die Regeln für Hochrisiko-KI treten in etwa fünf Monaten in Kraft, und die Compliance-Anforderungen umfassen verpflichtende Dokumentation, Risikobewertung, menschliche Aufsicht und Prüfpfade für betroffene KI-Systeme.
Agentische Systeme, die mit Personalentscheidungen, Kundendaten, Finanzabläufen oder Rechtsprozessen interagieren, fallen fast sicher unter Hochrisiko-Klassifikationen. Die Compliance-Papiere, für die Teams dachten, sie hätten noch Zeit, sind jetzt dringend, und die Sicherheitskontrollen, die dieser Compliance zugrunde liegen, sind noch dringlicher.
Ironischerweise sind die Organisationen, die bei KI am schnellsten vorangekommen sind - die eigentlich am weitesten sein sollten - oft am stärksten exponiert. Sie haben breit ausgerollt, schnell gehandelt und die Governance-Ebene übersprungen. Die KI-Systeme, die echten Produktivitätswert liefern, sind oft dieselben, die nicht offengelegte Zugriffsrisiken und Prüfungslücken schaffen.
Das ist kein Argument für langsames Vorgehen. Es ist ein Argument dafür, die Governance-Ebene jetzt aufzuholen, bevor der August das Thema auf eine Weise erzwingt, von der man sich schwer erholt.
---
Aona AI hilft Unternehmen, Shadow AI-Nutzung zu entdecken, den Zugriff von KI-Agenten zu steuern und die für regulatorische Compliance erforderlichen Audit-Trails zu erstellen. Wenn Sie einen Überblick darüber erhalten möchten, welche KI tatsächlich in Ihrem Unternehmen eingesetzt wird, [buchen Sie eine Demo](/book-demo).
