Módulo 5 · 2:28
Confía, verifica y detecta engaños hechos por IA
Alucinaciones, deepfakes y phishing con IA: verifica lo que la IA te da y lo que te envía.
Para recordar
Las respuestas erróneas de la IA se presentan igual que las correctas, por eso la prueba está fuera de la ventana de chat, en algo que puedas señalar.
Verifica según el tipo de salida: números al sistema fuente, nombres y fechas al documento original, código en una prueba, textos legales y de políticas a un responsable humano.
El phishing con IA es impecable y personal, así que deja de evaluar la gramática y evalúa la solicitud: urgencia, secreto, dinero o credenciales.
Urgencia más secreto es la huella de una estafa; verifica por un canal que el solicitante no eligió, como el número ya guardado en tu teléfono.
Si algo pasa o el pegado fue tuyo: para, captura lo que viste y avisa a TI o seguridad en minutos, porque los reportes rápidos suelen hacer reversible el daño.
Módulo 5
Comprobación rápida
Tres preguntas con corrección inmediata. Dos aciertos completan el módulo.
1.Un asistente de IA te dice que la rotación del último trimestre fue exactamente 3,47 por ciento. ¿Qué dice este módulo que debes hacer con ese número antes de incluirlo en tu informe?
2.Una voz que suena exactamente como tu CFO llama, pide una transferencia urgente y te insiste en no contar a nadie. ¿Cuál es la acción correcta?
3.Hiciste clic en un enlace de un correo convincente y pusiste tu contraseña antes de darte cuenta de que algo no iba bien. ¿Qué hacer ahora?
Transcripción
- 0:01
- El fallo de IA tiene dos tipos: el error honesto de tu IA y una mentira dirigida a ti.
- 0:17
- Las respuestas erróneas se presentan igual que las correctas.
- 0:38
- Lista de verificación para verificar: números, nombres y fechas, código, texto legal.
- 0:54
- Ahora la parte donde la IA va dirigida a ti.
- 1:01
- Las señales antiguas desaparecieron. Evalúa la solicitud, no la gramática.
- 1:17
- Urgencia más secreto es la huella. Verifica por un segundo canal.
- 1:32
- Rechaza, llama al número guardado, resuelto en veinte segundos.
- 1:47
- Para. Captura lo que viste. Informa a TI o seguridad ahora.
- 2:09
- Revisa lo que la IA te da. Cuestiona lo que la IA te pide.
A continuación: Your AI Has Agents Now
El curso es gratuito y sin registro. Los equipos de TI y seguridad tienen el kit de despliegue con quiz y checklist del artículo 4.