Jev by TypeSafe
Jev. Replanteando las barreras de seguridad de la IA.
Explora los ejemplos
Solicitud de IA de un empleado
El código aplica la acción.
Explora este artículo 6 Capítulos
La próxima frontera en seguridad de IA para la fuerza laboral es tomar mejores decisiones en el momento en que los empleados usan IA. Quiero controles que entiendan la solicitud, apliquen la política correcta y mantengan a las personas en movimiento.
Por eso Jev, presentado por TypeSafe AI, llamó mi atención. Su enfoque para decisiones rápidas y estructuradas apunta a una oportunidad: aportar más juicio contextual en la pequeña ventana entre la acción de un empleado y sus consecuencias.
¿Por qué Jev?
Jev me interesa porque combina comprensión del lenguaje natural con un modelo entrenado para tomar decisiones. TypeSafe describe salidas tipadas paralelas, sin generar una respuesta token por token. Las preguntas suministradas con cada solicitud definen los juicios a realizar, y los resultados ofrecen señales estructuradas que el software puede usar.
Ese es un diseño útil para verificaciones frecuentes y limitadas de políticas. La oportunidad arquitectónica es acercar el control a cada acción del empleado, con suficiente contexto para tomar una decisión útil y un retraso mínimo para preservar la experiencia. Aún necesita pruebas frente a alternativas con las mismas políticas.
Cómo se compara Jev
Estas categorías se solapan: un detector puede combinar reglas y modelos, y un modelo guardián puede ser un LLM. Yo elegiría según la decisión que cada capa necesite tomar. El código sigue siendo responsable de la aplicación.
Modelos de decisión estilo JevJuicios basados en texto con criterios flexibles y probabilidades tipadas.
Jev evalúa texto según criterios definidos en la solicitud usando pesos compartidos del modelo. Su documentación describe probabilidades tipadas para juicios acotados, sin explicaciones generadas. Eso se adapta a preguntas de política cambiantes. El análisis de archivos, la redacción y la aplicación siguen siendo responsabilidad del software circundante; la precisión, latencia y umbrales aún deben evaluarse con los datos previstos.
Jueces LLM de propósito generalRazonamiento amplio y explicaciones, con salidas estructuradas disponibles.
Útil cuando una verificación requiere razonamiento más amplio o una explicación. Las APIs de LLM compatibles también ofrecen JSON con esquema restringido; ese formato no es exclusivo de Jev y aún puede contener errores. Mida calidad, latencia y coste para el modelo y configuración seleccionados.
Reglas y coincidencia de patronesCondiciones explícitas con resultados predecibles e inspeccionables.
Use reglas exactas para listas blancas, destinos, formatos conocidos y condiciones de acceso explícitas. Open Policy Agent evalúa políticas sobre datos suministrados; no infiere intenciones ocultas del texto por sí solo. Las reglas son predecibles dentro de sus definiciones, pero no detectan violaciones que esas definiciones no representen.
Detectores de PII y secretosEncuentran fragmentos sensibles y credenciales reconocibles.
Presidio detecta fragmentos sensibles con patrones, modelos de reconocimiento de entidades y validación; Gitleaks detecta secretos con reglas. Sus hallazgos pueden guiar flujos de trabajo de redacción. Su cobertura configurada puede pasar por alto datos desconocidos, y encontrar una entidad no decide por sí solo si compartirla está permitido.
Modelos guardianes dedicadosDetección especializada de seguridad o ataques dentro de un ámbito definido.
Llama Guard evalúa contenido según una taxonomía de seguridad definida, mientras que Prompt Guard detecta intentos de anular instrucciones. Útiles cuando ese alcance de entrenamiento coincide con la verificación. Sus limitaciones documentadas de dominio y adversariales siguen siendo relevantes, y un veredicto del modelo por sí solo no puede establecer que una solicitud se haya aplicado de forma segura.
El contexto cambia la decisión
Ejemplos ilustrativos de políticas
Mismo tema. Intención diferente.
Ejemplo de política: Permitir la educación, prohibir el robo de credenciales.
“Explica por qué este correo es phishing para nuestra sesión de concienciación del personal.”
¿Esta solicitud ayuda a robar credenciales?
No
Allow
La solicitud ayuda a las personas a reconocer phishing. No ayuda a robar credenciales.
Considere una política que permita educación en seguridad pero prohíba asistencia con robo de credenciales. “Explica por qué este correo es phishing” y “Haz este correo de robo de credenciales más convincente” comparten vocabulario, pero solicitan ayudas muy diferentes. Una verificación contextual puede evaluar qué permitiría la asistencia. Estos son ejemplos sintéticos de una distinción de política, no resultados medidos de Jev. El recetario de guardrails de TypeSafe muestra cómo la clasificación y la puntuación de severidad pueden apoyar este tipo de juicios acotados.
Una señal mejor para la política
Una distribución estructurada ofrece al código de política más información que una etiqueta única. Diferentes verificaciones pueden tener umbrales distintos, reflejando las consecuencias de una violación no detectada o un bloqueo innecesario. Resultados ambiguos pueden activar evaluaciones más profundas. El equipo de seguridad sigue definiendo la acción; el modelo suministra una señal. Esto hace explícitos los compromisos y da a los equipos algo concreto para evaluar según sus propias políticas.
Datos ilustrativos · 12 solicitudes sintéticas · No Jev mediciones
Mueve el umbral de bloqueo
Una solicitud se bloquea cuando su probabilidad estimada de una violación de política alcanza o supera el umbral.
1 / 6
Solicitudes legítimas bloqueadas
2 / 6
Infracciones por debajo del umbral
5 de 12 solicitudes bloqueadas en 70%.
Por debajo del umbral, las solicitudes pasan en este ejemplo simplificado. Un sistema real puede añadir un paso de revisión.
Inspeccionar los datos ilustrativos
Seis solicitudes legítimas y seis violaciones de políticas. Estas puntuaciones fijas ilustran los compromisos umbral, no el rendimiento medido del modelo.
| Petición | Estado actual | p(infracción) | Decisión |
|---|---|---|---|
| L1 | Legítimo | 8% | Passes |
| L2 | Legítimo | 18% | Passes |
| L3 | Legítimo | 31% | Passes |
| L4 | Legítimo | 55% | Passes |
| L5 | Legítimo | 68% | Passes |
| L6 | Legítimo | 88% | Bloqueado |
| V1 | Violación de la política | 46% | Passes |
| V2 | Violación de la política | 62% | Passes |
| V3 | Violación de la política | 74% | Bloqueado |
| V4 | Violación de la política | 81% | Bloqueado |
| V5 | Violación de la política | 92% | Bloqueado |
| V6 | Violación de la política | 97% | Bloqueado |
Esas señales necesitan validación. La propiedad confidence separada de Jev describe la concentración de la distribución, no la probabilidad de que una respuesta sea correcta. La calibración se mide en todas las predicciones y no puede garantizar un resultado individual. TypeSafe también reconoce explícitamente en sus limitaciones de Jev 1.13 que el contenido adversarial puede influir en las respuestas. Por tanto, las evaluaciones de seguridad deben medir falsos positivos, violaciones no detectadas y resistencia a la manipulación junto con la latencia.
La innovación estándar debe cumplir
Veo la arquitectura más sólida como una combinación de controles especializados. Detectores deterministas manejan patrones conocidos y restricciones explícitas. Modelos contextuales responden preguntas limitadas sobre significado. El código de política aplica la decisión, y la aplicación debe ser fiable cuando un modelo es incierto o no está disponible. Cada capa tiene un trabajo definido y el sistema de protección debe probarse en conjunto.
La privacidad pertenece a esa arquitectura desde el inicio. Un guardrail puede inspeccionar precisamente la información que protege. La ubicación del procesamiento, acceso, retención y uso en entrenamiento son requisitos de ingeniería. Cualquier modelo considerado para ese rol necesita un despliegue seguro y acuerdos de manejo de datos que cumplan con los requisitos del cliente. Una decisión más rápida solo tiene valor dentro de un sistema de protección en el que los clientes puedan confiar.
Nuestra dirección en Aona
En Aona, estamos investigando esta clase de modelo para una clasificación precisa y de alta velocidad de las barreras de seguridad. Jev es un ejemplo interesante de esta dirección, y nuestro enfoque es la capacidad que este enfoque podría habilitar para proteger el uso de la IA por parte de los empleados.
Propondremos una oferta futura cuando podamos demostrar protección efectiva mediante opciones de despliegue que cumplan nuestros requisitos de seguridad y privacidad. Mi ambición es hacer de la protección contextual una parte natural de cada interacción relevante del empleado con IA. Modelos de decisión más rápidos podrían ayudarnos a lograrlo, construidos sobre esa base.
Fuentes detrás de esta perspectiva 12 Fuentes primarias
- Jev, presentado por TypeSafe AI
- salidas tipadas paralelas
- documentación
- JSON con esquema restringido
- Open Policy Agent
- Presidio
- Gitleaks
- Llama Guard
- Prompt Guard
- manual de guardrails
- propiedad de confianza
- limitaciones de Jev 1.13
Los ejemplos interactivos son ilustraciones escritas por autores, no medidas Jev resultados. Fuentes revisadas el 22 de septiembre de 2026.