Ihr KI-Rollout sieht im Vorstandsdokument wahrscheinlich gesund aus.
Ein paar genehmigte Copiloten. Einige interne Assistenten. Vielleicht ein kundenorientierter Bot. Vielleicht ein Workflow-Agent im Operationsteam. Alles klingt kontrolliert.
Ist es meist nicht.
Was tatsächlich in den meisten Unternehmen passiert, ist unübersichtlicher: Teams starten Agenten schneller, als die IT sie inventarisieren kann, die Sicherheit soll Verhalten absegnen, das sie nicht vollständig beobachten kann, und Governance wird noch wie ein Dokumentenworkflow aus der Vor-Agenten-Ära betrieben.
Das ist das echte Unternehmens-KI-Risiko Mitte 2026.
Nicht, dass ein Mitarbeiter ChatGPT gebeten hat, ein PDF zusammenzufassen.
Das echte Risiko ist, dass Ihr Unternehmen still und heimlich eine verteilte Schicht halbautonomer Systeme aufbaut, jedes mit eigenen Prompts, Tools, Zugangswegen, Gedächtnis und Ausfallmodi, während Ihr Kontrollmodell immer noch davon ausgeht, dass ein Mensch immer im Loop ist.
Die Kontrolllücke ist jetzt messbar
IBM hat Zahlen veröffentlicht, die viele Sicherheits- und Governance-Teams ohnehin täglich spüren.
In seiner Studie von Juni 2026 mit 2.000 Technologie-Führungskräften gaben zwei Drittel an, für KI-Systeme verantwortlich gemacht zu werden, die sie nicht vollständig kontrollieren. Siebzig Prozent sagten, das Unternehmen setze Technologie schneller ein, als die IT sie verfolgen kann. Nur elf Prozent fühlten sich vollständig auf das erwartete Ausmaß der KI-Agenten-Einführung im nächsten Jahr vorbereitet.
Das ist keine kleine Reife-Lücke. Das ist eine Kontrolllücke.
Die gleiche Studie ergab, dass Organisationen im letzten Jahr durchschnittlich 54 KI-Agenten-Vorfälle hatten, die menschliche Korrektur erforderten. Siebzehn Prozent dieser Vorfälle waren von hoher Schwere und benötigten mehr als vier Stunden zur Eindämmung. Von diesen schwerwiegenden Vorfällen betrafen 37 Prozent Datenexposition oder Sicherheitsverletzungen und 33 Prozent verursachten kaskadierende Systemausfälle.
Das sollte die Art und Weise, wie Vorstände und Führungskräfte über KI-Risiken sprechen, neu justieren.
Wir sind über die Phase hinaus, in der die Hauptfrage lautet: „Sollten wir KI erlauben?“
Die bessere Frage ist: „Wie viele Systeme handeln bereits mit genug Autonomie, um betriebliche, sicherheitsrelevante oder Compliance-Folgen zu erzeugen, bevor wir es überhaupt bemerken?“
Warum Governance mit Politik als Erstes scheitert
Viele Unternehmens-KI-Governance folgt noch einem vertrauten Muster:
- ein Tool genehmigen
- eine Richtlinie veröffentlichen
- einige Nutzungsregeln definieren
- die Fachabteilungen zum richtigen Verhalten auffordern
- Vorfallanalysen nachträglich durchführen
Dieser Ansatz war schon für Schatten-KI schwach. Für Agenten ist er noch schwächer.
Agenten generieren nicht nur Text. Sie rufen Tools auf. Sie greifen auf Systeme zu. Sie holen Kontext ab. Sie verketten Entscheidungen. Sie lösen Aktionen in anderen Plattformen aus. Sobald Sie das zulassen, wird Governance kein Richtlinienproblem mehr, sondern ein Problem der Laufzeitkontrolle.
Genau deshalb vermittelt das alte Governance-Modell Führungskräften falsche Sicherheit. Ein Team kann auf dem Papier vollständig compliant sein und dennoch ein hochriskantes System in Produktion schaffen, indem es einen Agenten mit der falschen Datenquelle verbindet, ihm zu viel Freiheit gibt oder versäumt, sein Verhalten zu überwachen, sobald Prompts und reale Randfälle sich anhäufen.
Das Gefährliche ist, dass viele dieser Fehler zunächst nicht dramatisch wirken.
Sie wirken wie eine selbstbewusste, aber falsche Empfehlung. Wie eine unnötige Aktion in Maschinen-Geschwindigkeit. Wie ein Abrufschritt, der das falsche Dokument holte. Wie ein Workflow, der sensible Daten berührte, weil niemand die Abhängigkeit richtig abgebildet hat.
Wenn der Vorfall sichtbar wird, liegt die Ursache meist über mehrere Ebenen verteilt: Modellverhalten, Prompt-Design, Tool-Berechtigungen, Geschäftslogik und Datenexposition.
Deshalb wirken generische KI-Richtlinien zunehmend losgelöst vom realen Unternehmensrisiko.
NIST macht das Problem schwerer zu ignorieren
Im Juni veröffentlichte NIST ein mathematisches Argument, das von einem einmaligen KI-Sicherheitsmodell abrät.
Kurz gesagt: Es gibt keine endliche Menge an Schutzmaßnahmen, die gegen adaptive adversariale Prompts universell robust ist.
Das ist wichtig, weil viele Unternehmen KI-Sicherheit noch wie eine einmalige Härtungsübung behandeln. Prompt-Regeln testen. Filter hinzufügen. Kontrollen dokumentieren. Weiter.
NIST sagt effektiv, dass diese Denkweise strukturell falsch ist.
Wenn keine feste Regelmenge dauerhaft hält, kann KI-Governance nicht nur statische Überprüfung plus periodische Genehmigung sein. Sie muss kontinuierliche Überwachung, kontinuierliches Testen und kontinuierliche Korrektur werden.
Das gilt besonders für Agenten, da Agenten über die Zeit agieren. Sie leben nicht in einem einzelnen Prompt-Fenster. Sie entwickeln sich durch Kontext, Werkzeugnutzung, Integrationen und kumulative Entscheidungen. Eine Kontrolle, die bei der Überprüfung in Ordnung schien, kann versagen, sobald das System mit der unordentlichen Produktionsrealität interagiert.
Hier sind heute viele Unternehmen exponiert. Sie versuchen, dynamische Systeme mit statischen Prozessen zu steuern.
Was reife Teams anders machen
Der interessante Teil der IBM-Daten ist nicht nur die Warnung. Es ist der Kontrast.
Organisationen, die Kontrolle direkt in ihre KI-Systeme integrieren, berichten von 25 Prozent weniger Vorfällen. IBM fand außerdem heraus, dass Organisationen mit Control-by-Design 16-mal mehr KI-Agenten einsetzen als solche, die auf manuelle Governance setzen.
Das ist der Teil, den viele Führungskräfte übersehen.
Governance ist keine Steuer, die Sie zahlen, um KI zu verlangsamen. Gute Governance ermöglicht Skalierung, ohne den Überblick zu verlieren.
In der Praxis bewegen sich reife Teams auf ein anderes Betriebsmodell zu:
1. Sie erfassen Verhalten, nicht nur Anbieter
Zu wissen, dass jemand ein KI-Tool gekauft hat, reicht nicht aus. Sie brauchen Sichtbarkeit darüber, welche Agenten existieren, mit welchen Systemen sie verbunden sind, welche Daten sie berühren, welche Aktionen sie ausführen können und wer sie besitzt.
2. Sie behandeln Agentenberechtigungen wie eine lebendige Sicherheitsfläche
Ein Agent mit breitem Werkzeugzugriff ist nicht nur ein Produktivitätsfaktor. Er ist ein nicht-menschlicher Operator in Ihrer Umgebung. Das bedeutet, dass Prinzipien wie Least Privilege, begrenzte Aktionen, Genehmigungsgrenzen und Nachvollziehbarkeit genauso wichtig sind wie bei menschlichen Administratoren.
3. Sie überwachen die Laufzeit, nicht nur die Einrichtung
Die eigentliche Frage ist nicht, ob der Agent in Woche eins die Überprüfung bestanden hat. Die eigentliche Frage ist, was er in Woche zwölf tut, nachdem Prompt-Drift, Integrationsänderungen, neue Datenquellen und eilige Geschäftsanforderungen das System verändert haben.
4. Sie vereinen Governance und Sicherheit
Diese Trennung ist eines der größten strukturellen Probleme, die wir sehen. Governance-Teams sind oft für Richtlinien, Risiko und Compliance zuständig. Sicherheitsteams für technische Kontrollen und Incident Response. Agenten durchschneiden beide Bereiche direkt. Wenn diese Funktionen noch getrennt arbeiten, vervielfachen sich Ihre blinden Flecken schnell.
Der nächste KI-Vorfall im Unternehmen wird wahrscheinlich nicht wie "KI" aussehen
Das ist ein weiterer Grund, warum Führungskräfte das Problem unterschätzen.
Der nächste ernsthafte Vorfall kann als Datenpanne, Compliance-Verstoß, Workflow-Ausfall, Modellqualitätsproblem oder Fehler bei einer Drittanbieterintegration erfasst werden. KI erscheint dann im Nachhinein nur als eine von mehreren Ursachen.
Wenn aber ein Agent die falsche Abfrage machte, den falschen Schritt ausführte, den falschen Datensatz preisgab oder den falschen Workflow beschleunigte, war KI nicht zufällig beteiligt. Sie war operativ involviert.
Deshalb ist Sichtbarkeit so wichtig.
Sie können nicht steuern, was Sie nicht sehen, und Sie können nicht sichern, was Sie nicht wissen, dass es in Ihrer Umgebung agiert.
Der praktische nächste Schritt
Wenn ich gerade einem CIO, CISO oder Leiter Risiko beraten würde, würde ich nicht mit einer weiteren Richtlinienüberarbeitung beginnen.
Ich würde mit drei unbequemen Fragen starten:
- Wie viele KI-Agenten, Assistenten und eingebettete KI-Workflows sind bereits im Unternehmen aktiv?
- Welche davon haben Zugriff auf sensible Daten oder können nachgelagerte Aktionen auslösen?
- Welche davon werden kontinuierlich auf ihr Verhalten überwacht, nicht nur auf dem Papier genehmigt?
Die meisten Organisationen mögen die Antworten nicht.
Das ist der Einstieg.
Die Gewinner im Bereich Unternehmens-KI werden nicht die Firmen sein, die einfach die meisten Agenten ausliefern. Es werden diejenigen sein, die eine echte Kontrollschicht aufbauen, bevor Skalierung ins Chaos umschlägt.
Aona existiert genau für dieses Problem: Entdecken, welche KI tatsächlich in Ihrer Umgebung läuft, sehen, wo das Risiko liegt, und Governance- sowie Sicherheitskontrollen um die tatsächliche Nutzung legen, statt nur auf Richtlinien zu hoffen.
Denn an diesem Punkt ist die KI-Frage nicht mehr, ob Ihr Unternehmen Agenten eingeführt hat.
Sondern ob Ihre Kontrollen Schritt gehalten haben.
