Module 5 · 2:28
Confiance, vérification et tromperie créée par l’IA
Hallucinations, deepfakes et phishing IA : vérifiez ce que l’IA vous donne et ce qu’elle vous envoie.
À retenir
Les mauvaises réponses de l’IA sont habillées exactement comme les bonnes, donc la preuve se trouve hors de la fenêtre de chat, dans quelque chose que vous pouvez pointer.
Vérifiez selon le type de sortie : les chiffres retournent au système source, les noms et dates au document original, le code dans un test, les textes juridiques et politiques à un responsable humain.
Le phishing IA est parfait et personnalisé, alors arrêtez d’évaluer la grammaire et évaluez la demande : urgence, secret, argent ou identifiants.
Urgence plus secret est l’empreinte d’une arnaque ; vérifiez via un canal que le demandeur n’a pas choisi, comme le numéro déjà enregistré dans votre téléphone.
Si quelque chose passe, ou si le collage était le vôtre : arrêtez-vous, capturez ce que vous avez vu, et informez l’IT ou la sécurité en quelques minutes, car les rapports rapides rendent généralement les dégâts réversibles.
Module 5
Vérification rapide
Trois questions, correction immédiate. Deux bonnes réponses valident le module.
1.Un assistant IA vous dit que le taux de départ du dernier trimestre était exactement de 3,47 %. Que dit ce module que vous devez faire de ce chiffre avant qu’il n’aille dans votre rapport ?
2.Une voix qui ressemble exactement à celle de votre CFO appelle, demande un transfert urgent et insiste pour que vous ne le disiez à personne. Quelle est la bonne démarche ?
3.Vous avez cliqué sur un lien dans un e-mail convaincant et saisi votre mot de passe avant de réaliser que quelque chose clochait. Que faire maintenant ?
Transcription
- 0:01
- L’échec de l’IA se présente sous deux formes : l’erreur honnête de votre IA, et un mensonge destiné à vous tromper.
- 0:17
- Les mauvaises réponses sont habillées exactement comme les bonnes.
- 0:38
- La liste de vérification : chiffres, noms et dates, code, texte juridique.
- 0:54
- Voici maintenant la partie où l’IA est dirigée contre vous.
- 1:01
- Les anciens signes ont disparu. Évaluez la demande, pas la grammaire.
- 1:17
- Urgence plus secret est l’empreinte. Vérifiez via un second canal.
- 1:32
- Refusez, appelez le numéro enregistré, réglé en vingt secondes.
- 1:47
- Arrêtez-vous. Capturez ce que vous avez vu. Informez l’IT ou la sécurité maintenant.
- 2:09
- Vérifiez ce que l’IA vous donne. Remettez en question ce que l’IA vous demande.
À suivre : Your AI Has Agents Now
Le parcours est gratuit et sans connexion. Les équipes IT et sécurité disposent du kit de déploiement avec quiz et checklist article 4.