Modul 5 · 2:28
Vertrauen, Verifizieren und KI-gemachte Täuschung
Halluzinationen, Deepfakes und KI-Phishing: Verifizieren Sie, was KI Ihnen gibt und was sie Ihnen sendet.
Das Wichtigste
Falsche Antworten der KI sehen genau so aus wie richtige, daher liegt der Beweis außerhalb des Chatfensters, in etwas, auf das Sie zeigen können.
Verifizieren Sie nach Ausgabetyp: Zahlen gehen zurück ins Quellsystem, Namen und Daten zum Originaldokument, Code in einen Test, rechtliche und Richtlinientexte zu einem menschlichen Verantwortlichen.
KI-Phishing ist makellos und persönlich, also bewerten Sie nicht die Grammatik, sondern die Anfrage: Dringlichkeit, Geheimhaltung, Geld oder Zugangsdaten.
Dringlichkeit plus Geheimhaltung ist der Fingerabdruck eines Betrugs; verifizieren Sie über einen Kanal, den der Anfragende nicht gewählt hat, z. B. die bereits in Ihrem Telefon gespeicherte Nummer.
Wenn etwas durchkommt oder das Einfügen von Ihnen war: Stoppen Sie, erfassen Sie, was Sie gesehen haben, und informieren Sie IT oder Sicherheit innerhalb von Minuten, denn schnelle Meldungen machen Schäden meist rückgängig.
Modul 5
Kurzer Check
Drei Fragen, sofortiges Feedback. Zwei richtige Antworten schließen das Modul ab.
1.Ein KI-Assistent sagt Ihnen, dass die Abwanderung im letzten Quartal genau 3,47 Prozent betrug. Was sagt dieses Modul, was Sie mit dieser Zahl tun sollten, bevor sie in Ihren Bericht geht?
2.Eine Stimme, die genau wie Ihr CFO klingt, ruft an, bittet um eine dringende Überweisung und besteht darauf, dass Sie niemandem etwas sagen. Was ist der richtige Schritt?
3.Sie haben auf einen Link in einer überzeugenden E-Mail geklickt und Ihr Passwort eingegeben, bevor Ihnen etwas auffiel. Was jetzt?
Transkript
- 0:01
- KI-Fehler gibt es in zwei Varianten: ehrlicher Fehler Ihrer KI und eine Lüge, die auf Sie abzielt.
- 0:17
- Falsche Antworten sehen genau so aus wie richtige.
- 0:38
- Die Verifizierungs-Checkliste: Zahlen, Namen und Daten, Code, Rechtstexte.
- 0:54
- Jetzt der Teil, in dem KI auf Sie abzielt.
- 1:01
- Die alten Anzeichen sind weg. Bewerten Sie die Anfrage, nicht die Grammatik.
- 1:17
- Dringlichkeit plus Geheimhaltung ist der Fingerabdruck. Verifizieren Sie über einen zweiten Kanal.
- 1:32
- Ablehnen, die gespeicherte Nummer anrufen, in zwanzig Sekunden erledigt.
- 1:47
- Stoppen. Erfassen, was Sie gesehen haben. Informieren Sie jetzt IT oder Sicherheit.
- 2:09
- Prüfen Sie, was KI Ihnen gibt. Hinterfragen Sie, was KI von Ihnen verlangt.
Als Nächstes: Your AI Has Agents Now
Der Kurs ist kostenlos und ohne Login. IT- und Sicherheitsteams erhalten das Rollout-Kit mit Quiz und Artikel-4-Checkliste.