In dieser Folge spricht Bastien Cabirou mit Abbas Kudrati, Chief Identity Security Advisor APAC bei Silverfort und ehemaliger Chief Cybersecurity Advisor für Asien bei Microsoft, darüber, wie Sicherheitsverantwortliche über Schatten-KI, KI-Governance und die aufkommenden Risiken agentischer Systeme im Unternehmen denken sollten.
Das Gespräch behandelt, warum Mitarbeiter KI weiterhin nutzen, auch wenn sie blockiert wird, warum Governance pauschale Verbote übertrifft, wie agentische KI ein neues Problem nicht-menschlicher Identitäten schafft und was CISOs jetzt tun müssen, um der nächsten Welle unternehmensbezogener Risiken voraus zu sein.
Folgen-Highlights
- Warum das Blockieren von KI-Tools oft dazu führt, dass die Nutzung heimlich erfolgt, anstatt das Risiko zu verringern
- Wie sich Schatten-KI aus dem gleichen Muster wie Schatten-IT und Schatten-SaaS entwickelt hat
- Warum Governance, Richtlinien und Mitarbeiterschulung wichtiger sind als pauschale Verbote
- Wie Agenten Privilegien erben und neue Angriffsflächen für nicht-menschliche Identitäten schaffen
- Warum Prompt Injection, unkontrollierter Tool-Zugriff und E-Mail-Exposition große Risiken für Unternehmen darstellen
- Warum das zukünftige SOC wahrscheinlich Agenten auf Level Null und Menschen zur Verwaltung, Feinabstimmung und Überwachung umfasst
Über Abbas Kudrati
Abbas Kudrati verfügt über mehr als 27 Jahre Erfahrung in IT, Cybersicherheit, ethischem Hacking, GRC und leitender Sicherheitsführung. Er war zuvor Chief Cybersecurity Advisor für Asien bei Microsoft und arbeitet jetzt bei Silverfort, wo er sich auf Identitätssicherheit für menschliche, nicht-menschliche und agentische Identitäten konzentriert.
Wesentliche Erkenntnisse aus dem Gespräch
1. Mitarbeiter werden KI nutzen, egal ob Sie es genehmigen oder nicht
Einer von Abbas' klarsten Punkten ist, dass die KI-Einführung sich ähnlich verhält wie frühere Technologiewellen wie Internet, Mobiltelefone und BYOD. Wenn Organisationen KI einfach blockieren, umgehen Mitarbeiter oft die Kontrollen, indem sie persönliche Geräte oder Verbraucher-Accounts nutzen. Das entzieht gerade dann die Sichtbarkeit, wenn sie am dringendsten benötigt wird.
2. Gute Governance schlägt das Abschalten der Quelle
Statt standardmäßig Verbote auszusprechen, argumentiert Abbas, dass Organisationen klare Leitplanken definieren sollten: welche Tools genehmigt sind, welche Arten von Eingaben akzeptabel sind, welche Daten verwendet werden dürfen und wo kostenpflichtige Enterprise-Versionen Verbrauchertools ersetzen sollten. Ziel ist sichere Ermöglichung, nicht bloßes Verbot.
3. Schatten-KI wird zu einem Sichtbarkeitsproblem auf Unternehmensebene
Sicherheitsteams kennen vielleicht einige Mainstream-Tools, aber Abbas weist darauf hin, dass reale Umgebungen Hunderte von KI-Anwendungen enthalten können, oft ohne Aufsicht. Entdeckung ist entscheidend, denn wenn Sie nicht sehen können, welche Tools genutzt werden, welche Daten einfließen und welche Identitäten damit verbunden sind, können Sie das Risiko nicht steuern.
4. Agentische KI schafft eine neue Herausforderung für die Identitätssicherheit
Ein zentrales Thema der Folge ist, dass Agenten als Teil der Belegschaft behandelt werden sollten. Sie erben Zugriffsrechte, schaffen Unteridentitäten, verbinden sich mit E-Mail- und SaaS-Tools und können Aktionen in mehreren Systemen auslösen. Das macht nicht-menschliche Identitätssicherheit, Rechteverwaltung und Prüfbarkeit zentral für KI-Governance.
5. KI-Sicherheit wird zum Agent-gegen-Agent-Kampf
Die Diskussion beleuchtet auch eine Zukunft, in der Red-Team-Agenten Blue-Team-Agenten testen und Verteidigungssysteme andere KI-Systeme kontinuierlich herausfordern, überwachen und neu trainieren. Praktisch bedeutet das, dass Governance über Mitarbeiterschulungen hinausgeht und laufende Agenten-Feinabstimmung, Bewertung und Kontrolle umfasst.
Bemerkenswerte Zitate
Wenn Sie es nicht sehen, können Sie es nicht verwalten.
Schließen Sie es nicht, denn wenn Sie sie schließen, gehen sie weg. Bilden Sie sie stattdessen aus.
Hacker zielen nicht auf menschliche Identitäten ab. Sie zielen auf nicht-menschliche Identitäten.
Sie müssen lernen, wie man den Agenten verwaltet.
Warum das für CISOs und Sicherheitsteams wichtig ist
Die Folge unterstreicht einen praktischen Punkt für Unternehmensleiter: KI-Risiken betreffen nicht mehr nur das Einfügen sensibler Daten in öffentliche Chatbots. Sie umfassen jetzt Schatten-KI-Erkennung, Exposition nicht-menschlicher Identitäten, Prompt Injection, Agenten-Ausbreitung, Budgetausweitung und die operative Herausforderung, halbautonome Systeme, die mit Geschäftstools verbunden sind, zu überwachen.
Für Sicherheitsverantwortliche ist die kurzfristige Priorität nicht, die KI-Nutzung vollständig zu stoppen. Es geht darum, die KI-Nutzung sichtbar, geregelt, wo angemessen genehmigt und durch durchsetzbare Kontrollen begrenzt zu machen. Hier kommen KI-Governance-Plattformen, Identitätskontrollen und strukturiertes Red-Teaming ins Spiel.
Transkript
Nachfolgend ein leicht bereinigter Transkriptauszug des Gesprächs für Leser, die die Diskussion lieber im Textformat überfliegen möchten.
Ja, Technologien entwickeln sich schnell oder werden intelligenter. Wir haben CNAPP-Anwendungen und Cloud Application Proxy und all das. Sie ermöglichen es, zu erkennen, welche KI genutzt wird, aber sie können immer noch nicht sehen, welche Daten hineinfließen oder welche Identitäten aktiviert werden. Neue Technologien und Anbieter kommen mit solchen Lösungen, aber es ist noch ein frühes Stadium. Nicht jeder hat das Budget, um eine Landschaftsanalyse durchzuführen und damit zu beginnen. Also schalten sie einfach die Quelle ab. Selbst wenn man die Quelle abschaltet, würden sie bei einem gründlichen Scan aller menschlichen und nicht-menschlichen Identitäten immer noch Hunderte von KI-Anwendungen finden, die genutzt werden, aber keine Sichtbarkeit besteht. Noch einmal zur Governance: Wenn Sie es nicht sehen, können Sie es nicht verwalten.
Wenn Sie es nicht sehen, können Sie es nicht verwalten. Danke, Abbas, dass Sie heute bei uns sind. Es ist großartig, Sie hier zu haben. Heute möchte ich Ihre Meinung zu KI-Cybersicherheit und allem, was in diesem Bereich passiert, hören. Vielen Dank, dass Sie hier sind. Sehr gerne. Danke für die Einladung, und heute ist ein wunderschöner Tag in Sydney. Genau. Genau. Können Sie mir zuerst ein wenig über sich erzählen? Ja. Ich bin seit über 27 Jahren in der Branche. Ich bin Abbas Kudrati. Ich habe in verschiedenen Unternehmen gearbeitet, angefangen als Systemadministrator, Netzwerkingenieur, dann als ethischer Hacker, GRC-Berater und wurde CISO. Mein letzter Job war bei Microsoft als Chief Cybersecurity Advisor für Asien, und jetzt arbeite ich bei Silverfort als Chief Identity Security Advisor für die Region Asien-Pazifik.
Wow. Sie haben also viele verschiedene Jobs gemacht, immer in der Cybersicherheit, immer in der IT. Ich habe immer in der IT angefangen, weil es damals noch keine Cyber gab, als ich 1996, 1997 angefangen habe. Es war eine verrückte Reise bis heute. Und jetzt leben wir im Zeitalter der KI, wie wir wissen. Ja, das war eine große Welle. Ja, absolut. Cool. Was war in Ihrer Erfahrung die spannendste Zeit und die aufregendste technologische Welle? Meine spannendste Zeit war Y2K. Diejenigen mit 25, 30 Jahren Erfahrung erinnern sich sicher noch an die langen Stunden und Nächte, in denen sie sich auf den Jahreswechsel 2000 vorbereitet haben. Das war eine verrückte Zeit für mich, und ich war noch ganz am Anfang meiner beruflichen Laufbahn.
Ich glaube, es war mein zweiter oder dritter Job in Indien, in Pune, bei einem amerikanischen Unternehmen. Alle Anforderungen kamen aus den USA mit der Anweisung, sich auf den Jahreswechsel vorzubereiten und unsere Daten zu schützen, falls die Uhr mitten in der Nacht umschlägt. Das war die Nacht, in der ich bis ein Uhr morgens gearbeitet habe, um alle Server zu überwachen, was um Mitternacht passiert. Ich und ein Kollege waren die einzigen im Raum, während alle anderen die Jahrtausendwende feierten. Ich habe mich als Cyber- oder IT-Held gewidmet und beobachtet, wie alles lief. Danach habe ich die letzte E-Mail geschickt. Es sah so aus, als ob alles funktionierte, alle Daten sicher und geschützt waren.
Ich bin dann nach Hause gegangen oder zur Party. Meine Party begann um halb zwei morgens, ich hatte es früh hinter mir. Das war die verrückteste Zeit aus beruflicher Sicht. Y2K werde ich immer in Erinnerung behalten. Das ist großartig. Danach haben Sie verschiedene Jobs gemacht, und als wir uns trafen, arbeiteten Sie bei Microsoft. Ja. Eine große Reise. Wie sind Sie zu Microsoft gekommen? Ich war eine Zeit lang CISO. Ich habe als CISO für mehrere Unternehmen gearbeitet, angefangen im Nahen Osten. Im Königreich Bahrain war ich CISO für die gesamte elektronische Regierung. Dann bin ich nach Kuwait zum National Bank of Kuwait gewechselt, wo ich stellvertretender CISO war. Von dort bin ich 2013 nach Melbourne, Australien, gezogen.
Ich trat bei Public Transport Victoria ein, dem Zug-, Straßenbahn- und Metronetzwerk. Dort war ich CISO und wechselte dann zu KPMG als CISO für interne Aufgaben, nicht für Kundenprojekte. Ich war CISO für die KPMG-Büros in Australien, Neuseeland, Fidschi und PNG. Während meiner Tätigkeit als CISO fragte ich mich, was als Nächstes kommt. Dann sah ich eine Stelle bei Microsoft, die jemanden suchten, der erfahrener CISO, öffentlicher Redner ist, sich wohlfühlt, vor großem Publikum, Führungskräften und Stakeholdern zu sprechen, und der an Microsoft-Technologie als ein sicheres Unternehmen glaubt - Microsoft war damals keine Sicherheitsfirma, sondern ein Persona. Ich bewarb mich, durchlief viele Interviews, und schließlich waren sowohl Microsoft als auch ich überzeugt, dass ich diese Rolle übernehmen kann: CISO für Kunden zu werden.
Ein Kunden-CISO oder Field-CISO, wie wir es nennen. Das war eine interessante Zeit. Fast sieben Jahre verbrachte ich bei Microsoft und sah, wie sie sich von einem Unternehmen, das sich selbst als sicher bezeichnete, zu einem Sicherheitsunternehmen entwickelten. Das war ein Übergang, den ich miterlebte, und jetzt bewegen sie sich in eine KI-Phase. Dann dachte ich, genug von Microsoft, ich möchte etwas Neues versuchen. Ich bin fest davon überzeugt, dass Identität die Kontrollinstanz ist, denn alle Angriffe richten sich gegen menschliche und nicht-menschliche Identitäten. So stieß ich auf Silverfort, ein Microsoft-Partner, mit dem ich in den letzten drei Jahren von Microsoft-Seite aus zusammenarbeitete, um die Zero-Trust-Architektur in On-Premises-Umgebungen zu implementieren. Schließlich sprach mich der CEO an und fragte, warum ich nicht auf deren Seite wechseln wolle. Wir einigten uns darauf, diesen Schritt zu wagen und etwas Neues auszuprobieren.
So arbeite ich nun seit einem Jahr und zwei Monaten bei Silverfort im Bereich Identitätssicherheit. Spannende Zeit, von menschlicher Identität über nicht-menschliche Identität bis hin zur agentischen Identität - darauf konzentriere ich mich derzeit. Großartig. Im Hinblick auf KI und die Sicherheit rund um KI wollen wir gleich sprechen. Da Sie bei Microsoft gearbeitet haben, haben Sie die KI-Einführung am Arbeitsplatz erlebt. Welche Risiken im Bereich Cybersicherheit sehen Sie im Zusammenhang mit der KI-Nutzung durch Mitarbeiter und agentischer Arbeit? Mitarbeiter sind neugierig. Neue Technologien werden immer ausprobiert und erforscht. Gleichzeitig haben CISO und Führungskräfte Angst vor etwas völlig Neuem.
Sie wollen das Risiko nicht eingehen, es zu ermöglichen. Wenn sie solche Technologien aber verbieten, probieren Mitarbeiter sie privat auf dem Handy oder Laptop aus, weil alle darüber sprechen. Sie haben sicher die Statistiken gesehen, wie lange es dauerte, bis Internet und Mobiltelefone populär wurden, und wie schnell ChatGPT Millionen Nutzer gewann - innerhalb weniger Wochen, wegen der Neugier und der coolen Funktionen. Menschen wollen es ausprobieren, aber natürlich müssen wir auch die Risiken und Bedrohungen bedenken. Das ist eine fantastische Chance. CISOs sorgen sich, dass sie ihren Nutzern erlauben wollen, es zu nutzen, aber gleichzeitig Leitplanken setzen müssen - hier kommt gute Governance ins Spiel.
Wenn man keine guten Leitplanken und Governance setzt, geraten die Nutzer außer Kontrolle. Das Gleiche geschah mit dem Internet und Mobiltelefonen. Erlauben Sie Ihren Mitarbeitern, ihre eigenen Handys im Unternehmen zu nutzen? Daraus entstand die BYOD-Richtlinie. Der erste Schritt, den ich CISOs immer empfehle, ist, Leitplanken und Richtlinien zu setzen: Welche Technologien dürfen sie nutzen? Nicht verbieten, denn wenn Sie es verbieten, machen sie es trotzdem. Bilden Sie sie auf die Risiken hin, die damit einhergehen. Ja, sie können damit experimentieren, und wenn es eine Unternehmensversion gibt, aktivieren Sie diese. ChatGPT etwa bietet eine Enterprise-Version, Microsoft hat seinen professionellen Copilot neben der kostenlosen Version.
Denn wenn Sie für etwas bezahlen, sind Leitplanken enthalten. Bei kostenlosen Angeboten sind Sie das Produkt. Setzen Sie Leitplanken, Richtlinien und Schulungen auf. Zeigen Sie, wie die Technologie sicher genutzt werden kann, welche Eingaben erlaubt sind. Arbeiten Sie mit Ihren Mitarbeitern zusammen, um sichere Nutzung zu ermöglichen, statt einfach zu blockieren. Genau das empfehlen wir, und ich habe das Gefühl, wir sind da einer Meinung. Was halten Sie von Shadow KI und den Risiken, die aus unbekannten Anwendungen entstehen? Shadow KI begann mit Shadow IT, dann Shadow Security und Shadow Applications. Das war die größte Herausforderung. Wenn Sie CIOs, CXOs oder CISOs fragen, sagen sie meist: "Ich mache mir keine Sorgen um das, was ich kenne,
ich mache mir Sorgen um das, was ich nicht kenne." Das ist das Shadow-Thema. Mitarbeiter richten eigene Server ein - Shadow IT. Sie nutzen eigene Cloud-Anwendungen - Shadow Applications. Jetzt kommt Shadow KI. Ja, Mitarbeiter nutzen viele neue Produkte, die schnell wachsen. Früher war es nur ChatGPT, heute gibt es über tausend KI-Anwendungen. Organisationen haben keine Ahnung, wie viele davon ihre Mitarbeiter nutzen und welche Unternehmensdaten darin verarbeitet werden. Technologien werden immer smarter. CNAPP-Anwendungen, Cloud Application Proxy und andere helfen, genutzte KI zu erkennen, aber sie können noch nicht sehen, welche Daten verarbeitet werden oder welche Identitäten genutzt werden.
Neue Technologien und Anbieter kommen auf den Markt, aber das ist noch am Anfang. Nicht jeder hat das Budget für eine umfassende Analyse. Viele schalten einfach ab, denken, das Problem ist weg. Doch selbst wenn man abschaltet, findet man bei genauer Prüfung weiterhin hunderte KI-Anwendungen, die genutzt werden, ohne Sichtbarkeit. Zurück zur Governance: Wenn Sie es nicht sehen, können Sie es nicht steuern. Wenn es unsichtbar ist, können Sie es nicht managen. Ich stimme zu. Interessant ist, dass Blockieren oft schlimmer ist, weil die Nutzer es trotzdem verwenden.
Ja, und Sie haben keine Sichtbarkeit, weil sie private Laptops nutzen oder Dokumente dorthin senden. Es wird umgangen. Die Technologie ist zu gut, um sie nicht zu nutzen. Also werden sie es tun. Die Frage ist, wollen Sie es kontrollieren und steuern? Wenn Sie blockieren, nutzen sie es trotzdem, und Sie sehen nichts. Genau. Sie tauschen sich aus: "Ich kann in fünf Minuten Code schreiben, statt Stunden zu arbeiten." Warum nicht? Wenn die Firma es nicht erlaubt, mache ich es eben zu Hause. Gerade bei großen Dokumenten oder E-Mails ist das so.
Weiter erkunden
Wenn dieses Gespräch Ihre internen Herausforderungen widerspiegelt, hilft Aona Sicherheits- und Compliance-Teams, Shadow KI zu entdecken, zu verstehen, wie Mitarbeiter und Agenten KI-Tools nutzen, und Governance-Leitplanken anzuwenden, ohne die Produktivität zu beeinträchtigen.
Möchten Sie sehen, wie es funktioniert? Buchen Sie eine Demo mit Aona, um Shadow KI-Erkennung und KI-Governance live zu erleben.
