Ein KI-Agent ist ein Softwaresystem, das künstliche Intelligenz nutzt, am häufigsten ein großes Sprachmodell als Denkkern, um autonom Eingaben aus seiner Umgebung wahrzunehmen, einen Handlungsablauf zu planen, diesen Plan über verfügbare Tools oder APIs auszuführen und auf Grundlage von Rückmeldungen zu iterieren, bis ein Ziel erreicht ist. Anders als ein einfacher Chatbot, der auf eine einzelne Anfrage reagiert, hält ein KI-Agent einen Zustand über mehrere Schritte hinweg aufrecht, kann externe Tools aufrufen (Websuche, Code-Interpreter, Datenbanken, Kommunikationsplattformen) und kann Sub-Agenten erzeugen, um komplexe Aufgaben zu parallelisieren. Der Grad der Autonomie reicht von „Human-in-the-Loop"-Designs, die an wichtigen Entscheidungspunkten eine Genehmigung erfordern, bis hin zu vollständig autonomen Agenten, die ohne menschliches Eingreifen arbeiten.
KI-Agenten werden zunehmend in Unternehmen für Anwendungsfälle wie die Automatisierung des Kundensupports, die Codegenerierung und -prüfung, Datenanalysepipelines, Recherche-Workflows und den IT-Betrieb eingesetzt. Sie bieten erhebliche Produktivitätsgewinne, indem sie mehrstufige Wissensarbeit automatisieren, die zuvor in jeder Phase menschliches Urteilsvermögen erforderte. Diese Autonomie bringt jedoch auch neuartige Risiken mit sich: Agenten können unbeabsichtigte, schwer rückgängig zu machende Aktionen ausführen, Berechtigungen über das für eine bestimmte Aufgabe Notwendige hinaus ansammeln, durch in den verarbeiteten Daten eingebettete Prompt-Injection-Angriffe manipuliert werden und außerhalb der Sichtbarkeit von IT- und Sicherheitsteams arbeiten, wenn sie als Shadow AI eingesetzt werden.
Die Unternehmens-Governance von KI-Agenten erfordert ein eigens konzipiertes Richtlinien-Rahmenwerk, das die besonderen Merkmale agentischer Systeme adressiert. Zu den zentralen Governance-Anforderungen gehören: minimaler Berechtigungszugriff (Agenten sollten nur die Berechtigungen haben, die sie für jede spezifische Aufgabe benötigen), Audit-Logs für Aktionen (jeder Tool-Aufruf und jeder Zustandsübergang sollte aufgezeichnet werden), Auslöser für menschliche Eskalation (folgenschwere oder unumkehrbare Aktionen sollten eine menschliche Genehmigung erfordern), Eingabeüberwachung auf Prompt Injection (Daten, die der Agent aus externen Quellen liest, können bösartige Anweisungen enthalten) und Register genehmigter Agenten (ein formaler Prozess zur Bewertung und Freigabe von KI-Agenten vor der Bereitstellung im Unternehmen). Regulatorische Rahmenwerke, einschließlich des EU AI Act, beginnen, autonome Agenten als eigenständige KI-Systemkategorie mit verschärften Aufsichtsanforderungen zu behandeln.