Los modelos de visión artificial detectan posibles hurtos y generan alertas que el agente de seguridad tiene que triar. El problema es que el agente recibe una puntuación de confianza sin saber qué secuencia de comportamiento la generó, si la alerta es fiable en las condiciones de iluminación actuales, ni si el modelo está tratando a todos los perfiles de cliente de forma consistente. El EU AI Act clasifica la videovigilancia conductual en tiendas como inteligencia artificial de alto riesgo: el cliente de retail está legalmente expuesto si el sistema no puede explicar sus decisiones, demostrar operación sin sesgo y producir un registro de auditoría completo. AyGLOO convierte cada alerta en cuatro beneficios concretos: la explicación de qué secuencia de comportamiento disparó la alerta; la verificación visual de que el modelo se ancló en conducta y no en apariencia; la detección de segmentos con mayor tasa de falso positivo; y la trazabilidad regulatoria completa lista para auditoría.
1
El agente entiende exactamente qué secuencia de comportamiento generó la alerta y con qué certeza, sin tener que revisar el vídeo completo para reconstruir el razonamiento del modelo.
2
El mapa de atención visual demuestra que la alerta se generó por comportamiento y no por características de apariencia del sujeto, que es el argumento regulatorio clave ante el EU AI Act.
3
El ISA detecta los segmentos con mayor tasa de falso positivo (baja iluminación, zonas de autocaja) antes de que el agente actúe, evitando intervenciones incorrectas y su coste reputacional.
4
La trazabilidad regulatoria completa se genera automáticamente para cada alerta, cubriendo EU AI Act Arts. 9, 13, 14 y 15, sin esfuerzo adicional del equipo.
Hoy, lo que un agente de seguridad suele recibir
Con AyGLOO. Misma alerta, completamente enriquecida
XAI Secuencia de comportamiento detectada
Twin Reglas con nivel de fiabilidad
CV Mapa de atención visual
ISA Fiabilidad del modelo en este segmento
Fairness Verificación de sesgo demográfico
CF Qué habría que cambiar para que la alerta desapareciera
Action Acción recomendada
PDF Trazabilidad regulatoria
1. Qué secuencia de comportamiento generó esta alerta. Twin model (profundidad 7 · fidelidad 96.3%)
100%IF gesto_ocultación = true AND traslado_artículo_interior_ropa = true AND tiempo_permanencia_estantería > 4× media_segmento → Alerta de alta confianza: revisar vídeo antes de intervenir. Fiabilidad total: secuencia completa detectada.
79%IF trayectoria_hacia_salida_anómala = true AND gesto_ocultación = true sin traslado_confirmado → Señal probable pero incompleta. Revisar grabación de los 30 segundos anteriores antes de actuar.
58%IF trayectoria_hacia_salida_anómala = true sin otros factores → Señal débil aislada. No intervenir solo con esta regla: puede ser cliente buscando caja.
Las reglas con 100% de fiabilidad identifican la secuencia completa de comportamiento. Las reglas con fiabilidad menor requieren verificación del agente antes de actuar, donde el contexto visual puede cambiar la decisión.
XAITwin
2. Mapa de atención visual. Qué zonas de la imagen activaron el modelo
El modelo concentró su activación en tres zonas espaciales: zona de transferencia mano-ropa interior (38% de activación) · límite de interacción con la estantería (24%) · corredor de trayectoria hacia salida (14%) · Clientes en segundo plano desactivados (<4% de activación cada uno) · La atención espacial confirma que el modelo se ancló en la secuencia de comportamiento, no en características físicas del sujeto
Este es el módulo más diferenciador en visión artificial: no explica qué variable numérica fue más importante, sino en qué zonas físicas de la imagen puso atención el modelo. Eso demuestra ante una auditoría regulatoria que la alerta se generó por conducta y no por apariencia.
CV
3. Doble check del modelo en este segmento (ISA)
Segmento: "pasillo interior, iluminación normal, horario diurno" · Tasa de falsos positivos en este segmento: 14% · Precisión del modelo: 86% · Sin deriva detectada en las últimas 8 semanas
Segmento de mayor incertidumbre: esta combinación cámara-pasillo cae dentro del micro-segmento de baja iluminación nocturna (18:00–22:00), donde la tasa de falsos positivos sube al 31% por interferencia entre el ajuste de ganancia de cámara y el módulo de detección de sombras. En ese horario se recomienda revisar el vídeo antes de cualquier intervención.
El ISA no solo dice si el modelo es fiable en general: detecta los micro-segmentos donde sistemáticamente se equivoca. Una tasa de falso positivo del 31% en baja iluminación es el tipo de patrón que sin este análisis solo se detecta después de varias intervenciones incorrectas y sus consecuencias.
ISA
4. Verificación de sesgo demográfico (Fairness)
Sin señales de sesgo demográfico en esta alerta: verificación de invariancia por tono de piel, edad y género completada · La alerta está generada exclusivamente por características conductuales, sin contribución de atributos de apariencia · Tasa de alerta por perfil demográfico: dentro de los umbrales de la normativa EU AI Act Art. 10
En videovigilancia conductual esta verificación no es opcional: el EU AI Act exige que los sistemas de alta riesgo demuestren operación sin sesgo demográfico para cada decisión individual. AyGLOO hace ese check automáticamente en cada alerta y lo registra en el expediente de auditoría.
Fairness
5. CF. Qué habría que cambiar en la escena para que la alerta desapareciera
Eliminar el gesto de ocultación: confianza baja de 87% a 41% (por debajo del umbral de alerta) · Solo trayectoria hacia salida sin gesto: confianza 38%, no genera alerta · La decisión está impulsada por la secuencia gesto + traslado de artículo, no por la ubicación ni la apariencia del sujeto
El CF demuestra que si el gesto de ocultación no hubiera ocurrido, no habría alerta. Eso es relevante tanto para el triaje del agente como para la defensa regulatoria: la decisión se puede revertir eliminando el comportamiento, no el perfil de la persona.
CF
6. Acción recomendada
Prioridad ALTA: revisar grabación de vídeo antes de cualquier intervención en tienda · Valor estimado del artículo: €45–€120 · Si se confirma: activar protocolo de intervención en sala · Si no se confirma: registrar como falso positivo para la cola de reentrenamiento del segmento · No actuar sobre el output del modelo sin confirmación humana: intervención humana obligatoria bajo EU AI Act Art. 14
La confirmación humana antes de cualquier intervención no es solo una buena práctica: es un requisito legal bajo el EU AI Act para sistemas de vigilancia conductual clasificados como alto riesgo. AyGLOO genera el registro de esa confirmación automáticamente.
ActionPDF
Ejemplo ilustrativo. AyGLOO se integra sobre cualquier modelo de visión artificial existente sin acceder al código subyacente. Los datos de vídeo no salen del perímetro del cliente. Cada despliegue se adapta a los modelos, datos y operativa de cada entidad.
