Agentische KI bezeichnet Systeme künstlicher Intelligenz, die darauf ausgelegt sind, mit einem hohen Maß an Autonomie zu agieren: ihre Umgebung wahrnehmen, mehrstufige Pläne formulieren, Abfolgen von Aktionen ausführen und sich an Rückmeldungen anpassen, ohne bei jedem Schritt menschliche Anleitung zu benötigen. Anders als herkömmliche KI-Tools, die auf einzelne Prompts reagieren, verfolgen agentische Systeme Ziele über längere Zeithorizonte hinweg und greifen dabei häufig auf externe Tools wie Websuche, Codeausführung, Dateizugriff, APIs und Datenbanken zurück, um komplexe Ziele zu erreichen. Der Begriff umfasst ein Spektrum von einfachen, werkzeugaufrufenden Assistenten bis hin zu vollständig autonomen Agenten, die Sub-Agenten erzeugen und ganze Workflows orchestrieren können.
Aus Sicht der Unternehmens-Governance führt agentische KI ein qualitativ neues Risikoprofil ein. Wenn ein KI-System im Web surfen, Code schreiben und ausführen, E-Mails senden oder mit SaaS-Plattformen interagieren kann, vergrößert sich der Wirkungsradius einer fehlausgerichteten Anweisung oder einer bösartigen Prompt Injection dramatisch. Datenexfiltration, unbeabsichtigte Finanztransaktionen, das versehentliche Löschen kritischer Datensätze und regulatorische Verstöße können allesamt daraus resultieren, dass agentische Systeme auf mehrdeutige oder adversarial gestaltete Anweisungen reagieren. Agentische Shadow AI, also Mitarbeitende, die autonome Agenten außerhalb genehmigter IT-Kanäle einsetzen, verschärft dieses Risiko, da Sicherheitsteams möglicherweise keine Sichtbarkeit darüber haben, welche Aktionen diese Agenten im Namen der Organisation ausführen.
Die Steuerung agentischer KI erfordert von Organisationen, ihre bestehenden KI-Governance-Rahmenwerke um agentenspezifische Kontrollen zu erweitern: eng gefasste Berechtigungsmodelle, die einschränken, auf welche Tools und Datenquellen ein Agent zugreifen kann, Human-in-the-Loop-Kontrollpunkte für folgenschwere Aktionen, Audit-Logs, die jede von einem Agenten ausgeführte Aktion aufzeichnen, eine Überwachung von Ein- und Ausgaben auf Prompt Injection und Datenabfluss sowie klare Richtlinien, die die genehmigten Anwendungsfälle für autonome Agenten definieren. Rahmenwerke wie das NIST AI RMF und aufkommende Leitlinien des EU AI Act behandeln agentische Systeme zunehmend als eigenständige Governance-Herausforderung. Unternehmen, die agentische KI-Tools ohne angemessene Aufsicht einsetzen oder zulassen, sind kumulierten Risiken ausgesetzt, die sowohl von der Technologie selbst als auch von der sich darum entwickelnden regulatorischen Landschaft ausgehen.