Plantilla gratuita · Directrices de seguridad
Ingeniería de prompts de IA
Directrices
Directrices de ingeniería de prompts centradas en la seguridad para equipos empresariales. Cubren las prácticas de prompting seguro, la prevención de fugas de datos, la concienciación sobre la inyección de prompts, la validación de salidas y plantillas de prompts aprobadas para tareas de negocio habituales.
5 secciones
cobertura de directrices de seguridad
4 patrones
plantillas de prompts aprobadas
OWASP LLM
top 10 de riesgos de inyección cubiertos
Gratis
para usar y personalizar
Por qué importan las directrices de ingeniería de prompts en la empresa
Los empleados usan herramientas de IA a diario para procesar información de negocio. Sin orientación sobre el prompting seguro, el comportamiento por defecto es pegar en el prompt cualquier dato relevante, incluidos PII, datos confidenciales de clientes y credenciales.
N.º 1
La inyección de prompts es el principal riesgo de seguridad de los LLM
El Top 10 de LLM de OWASP cataloga la inyección de prompts como el principal riesgo de seguridad para los sistemas de IA empresariales. Sin formación, los empleados no pueden reconocerla.
Datos
Los PII entran con frecuencia en los prompts de las herramientas de IA sin política
Sin reglas de clasificación de datos para los prompts, los empleados tienden a incluir todo el contexto de su trabajo, incluidos datos personales identificables.
RGPD
Enviar datos personales a herramientas de IA puede infringir el RGPD
Según los términos de tratamiento de datos del proveedor de IA, incluir datos personales en los prompts puede constituir una transferencia internacional de datos ilícita.
Agentes
Los agentes de IA amplifican el riesgo de inyección
Los agentes de IA capaces de realizar acciones (enviar correos, consultar bases de datos, navegar por la web) son especialmente vulnerables a la inyección de prompts, una sola instrucción inyectada puede secuestrar toda la tarea.
Las directrices
Haga clic en cada sección para desplegar su contenido. Compártalas con sus equipos e incorpórelas a su política de uso aceptable de la IA.
El prompting seguro consiste en proporcionar a las herramientas de IA el contexto que necesitan para realizar la tarea, y nada más. La ventana de contexto no es un contenedor seguro; su contenido puede registrarse, conservarse y exponerse en salidas futuras.
NUNCA debe incluirse en ningún prompt de IA:
- Información personal identificable (PII), nombres, direcciones, número de la seguridad social/SSN, fechas de nacimiento, números de cuenta financiera
- Credenciales, claves de API, contraseñas, tokens de autenticación, secretos de cualquier tipo
- Información de negocio confidencial, datos financieros no publicados, operaciones de fusiones y adquisiciones, estrategia de precios, inteligencia competitiva
- Datos de clientes sujetos a acuerdos de confidencialidad o de tratamiento de datos
- Código fuente de sistemas de producción, salvo que la herramienta esté expresamente aprobada para código y no contenga secretos
- Datos clasificados como Restringidos según su política de clasificación de datos
Consideraciones sobre la ventana de contexto y la memoria
- Asuma que todo lo que hay en la ventana de contexto puede ser registrado por el proveedor de IA, incluso en los niveles empresariales
- Las conversaciones de varios turnos acumulan contexto: los mensajes anteriores con datos sensibles permanecen en el contexto durante toda la sesión
- Las herramientas de IA con memoria o contexto persistente transportan información entre sesiones, nunca confíe en que los datos se olviden
- Al usar RAG (generación aumentada por recuperación), los datos recuperados de fuentes externas se insertan en la ventana de contexto y están sujetos a las mismas reglas que los datos introducidos directamente
Cómo implementar estas directrices
Siga estos cinco pasos para pasar de la plantilla de directrices a la aplicación en toda la organización en 30 días.
1
Evalúe su panorama actual de herramientas de IA
Identifique todas las herramientas de IA en uso, aprobadas y no aprobadas, y qué datos introducen hoy los empleados en los prompts. Esta base de referencia revela los comportamientos de mayor riesgo que abordar primero.
2
Defina reglas de clasificación de datos para los prompts
Asigne sus niveles de clasificación de datos existentes a reglas explícitas sobre lo que puede y no puede incluirse en los prompts. Elabore ejemplos claros de patrones de prompts aceptables e inaceptables.
3
Desarrolle plantillas de prompts aprobadas para tareas habituales
Trabaje con los responsables de departamento para crear plantillas revisadas en materia de seguridad para las tareas que los empleados realizan con más frecuencia. Las plantillas predefinidas reducen la carga cognitiva del prompting seguro.
4
Forme a los empleados con ejemplos en lugar de reglas
Imparta una sesión de formación de 30 minutos centrada en ejemplos concretos de prompts seguros e inseguros. Incluya ejemplos reales de cómo es una inyección de prompts y cómo reconocerla.
5
Aplique y supervise con controles técnicos
Implemente controles técnicos que detecten datos sensibles en los prompts de IA en tiempo real. Las directrices escritas sin aplicación técnica son aspiracionales. Supervise automáticamente los patrones de inyección.
Preguntas frecuentes
Preguntas frecuentes
¿Qué es la inyección de prompts y por qué importa para las empresas?
La inyección de prompts es un ataque en el que instrucciones maliciosas incrustadas en un contenido hacen que un modelo de IA anule su comportamiento previsto cuando ese contenido se incluye en un prompt. En un contexto empresarial, esto importa porque los empleados pueden incluir sin saberlo contenido inyectado en los prompts (p. ej., al pedir a una IA que resuma un correo que contiene instrucciones de inyección); los atacantes pueden diseñar documentos que manipulan a los agentes de IA para que filtren datos; y los sistemas de IA que actúan de forma autónoma son especialmente vulnerables, ya que las instrucciones inyectadas pueden redirigir todo su flujo de tareas.
¿Qué datos no deben incluirse nunca en un prompt de IA?
Lo siguiente no debe incluirse nunca en un prompt de IA, ni siquiera con herramientas aprobadas: información personal identificable (PII), incluidos nombres, direcciones y números de cuenta financiera; credenciales de cualquier tipo, incluidas claves de API, contraseñas y tokens de autenticación; información de negocio confidencial, incluidos datos financieros no publicados y operaciones de fusiones y adquisiciones; datos de clientes sujetos a acuerdos de confidencialidad; y código fuente de sistemas de producción, salvo que la herramienta esté expresamente aprobada y el código no contenga secretos. En caso de duda, anonimice antes de enviar el prompt.
¿Cuándo requiere una salida de IA revisión humana antes de su uso?
Una salida de IA siempre requiere revisión humana antes de su uso para: cualquier documento jurídico o de cumplimiento, nunca debe confiarse en una salida de IA para asesoramiento jurídico o presentaciones regulatorias; cualquier afirmación factual destinada a publicación externa, los modelos de IA alucinan y las citas deben verificarse; cualquier código para despliegue en producción, el código generado por IA requiere revisión de seguridad; cualquier contenido de cara al cliente en contextos regulados; y cualquier decisión que afecte al empleo, el crédito o las prestaciones de una persona.
¿Cómo pruebo un prompt en busca de vulnerabilidades de seguridad?
Para probar un prompt en busca de vulnerabilidades de seguridad: intente anular el prompt del sistema añadiendo instrucciones al final de la entrada del usuario; pruebe si el modelo revela su prompt del sistema cuando se le pregunta; para sistemas RAG, incluya instrucciones de inyección en un documento de prueba y compruebe si se ejecutan; pruebe la exfiltración de datos añadiendo instrucciones para incluir datos específicos en la respuesta; y pruebe el filtrado de salidas intentando obtener contenido que debería bloquearse. Documente todas las vulnerabilidades encontradas y las medidas de endurecimiento del prompt aplicadas.
Empezar
Aplique las directrices de prompting en tiempo real
Aona aplica las políticas de ingeniería de prompts en tiempo real, detectando datos sensibles en los prompts de IA antes de que lleguen al modelo, bloqueando los patrones de inyección de prompts y registrando todas las interacciones de IA como prueba de cumplimiento.