Técnicas de IA explicable
Métodos propios para saber si un modelo acierta en cada caso, por qué, y qué hacer con ese resultado.
part of
Nuestra I+D
Investigamos lo que otros solo integran
Más de 6 años de confianza, control y decisión sobre tu IA. De ahí nacen nuestra explicabilidad a escala y las capas de decisión y control que nos separan de un integrador puro de IA.
+6años de I+D en IA explicable
6proyectos de I+D, 4 con CDTI
2capas fundamentales: confianza y control
De la investigación al producto
Investigamos primero. El producto viene después.
Vivimos de desplegar IA en producción, y ese trabajo financia nuestra línea de I+D en IA explicable. De ahí salen dos capas fundamentales, confianza y control, que se materializan en tres capacidades:
Prescriptive
La capa de decisión sobre modelos predictivos.
Lucid
La capa de verificación y control sobre modelos generativos.
Explicabilidad a escala
La explicabilidad a escala de modelos predictivos y generativos.
El método, en detalle
No es explicabilidad de manual
Aquí sí entramos en el fondo técnico.
Modelos predictivos · Decisión y control a partir de la explicabilidad, de Neotec y Cervera.
Modelo gemelo interpretable
Reproduce y explica cada score del modelo del cliente, y expone métricas propias de fiabilidad que no da el modelo original.
Análisis inteligente de segmentos
Sitúa cada caso en zona fiable, de incertidumbre o de error según su tipología, y detecta cuando el modelo empieza a derivar.
GraphXAI: explicabilidad de relaciones
Mapa de conexiones entre casos y variables: la red detectada, pero con el porqué y auditable. Es lo que Cervera aporta a las dos capas.
Atribución que respeta la causalidad
Reparte la contribución de cada variable según el orden causal, no a ciegas entre variables correlacionadas. Es también lo que sostiene la detección de sesgos por proxy.
Detección de sesgos
Señala si las decisiones perjudican de forma no intencionada a determinados colectivos, incluso por variables proxy.
What-if y contrafactuales
Simula qué habría cambiado la decisión, caso a caso o sobre toda la cartera, con métodos causales de verdad.
Y todo esto a escala: calculamos sobre las instancias relevantes de cada decisión, no recorriendo el dataset entero, con cómputo elástico sobre arquitectura serverless. Es lo que lleva la explicabilidad a producción y no solo al laboratorio.
Lucid
Modelos generativos · Verificación y control a partir de las técnicas de explicabilidad.
Del proyecto Lucid. Verifica y explica los modelos generativos (Agentic AI, RAG, chatbots): de qué depende cada respuesta y si sus afirmaciones se sostienen. Y valida cada acción del agente antes de ejecutarla: acceder a sistemas, usar herramientas, mover dinero, cambiar un dato o aprobar una operación. Si está verificada, la acepta; si no, la supervisa (human on the loop) o la bloquea y la envía a investigar (human in the loop).
Detección de alucinaciones y verificación de hechosCobertura: ¿usa el contexto recuperado (RAG) o lo ignora?Atribución: ¿responde desde tus documentos o desde su memoria?Pirámide semántica (SAP): a qué profundidad se apoya en la fuente (cita, paráfrasis, inferencia, síntesis)Sensibilidad al prompt: ¿la respuesta es estable o frágil ante reescrituras?MISMATCH: qué tipo de afirmación falla (dato fabricado, severidad extrapolada, causalidad sin respaldo)Validación de acciones del agente (sistemas, herramientas, dinero)Acepta lo verificado, supervisa o bloquea y escala lo dudoso
Investigación con respaldo
Los 6 proyectos de I+D detrás de la plataforma
Cada capa nace de un proyecto de investigación. Cuatro de ellos cofinanciados por el CDTI.
Neotec
2023–2024Cofinanciado por CDTIBase de explicabilidad y decisión · modelos predictivosPlataforma de IA explicable (XAI) para usuarios no técnicos: analiza modelos de caja negra con modelos subrogados interpretables, segmentación inteligente, explicabilidad por caso (tabular, texto e imagen) y análisis de sesgos, sobre una infraestructura segura y escalable en la nube.
Modelos gemelos interpretablesAnálisis inteligente de segmentos (ISA)Explicabilidad y contrafactualesTexto e imagenSesgos y equidadAnálisis causalInfraestructura serverless segura
Cervera
2025–2026Cofinanciado por CDTIGraphXAI · amplía explicabilidad y decisiónPlataforma no-code de IA explicable para modelos avanzados basados en grafos. Plug & play con modelos de sklearn, TensorFlow, Keras, PyTorch, SAS o MATLAB, integrada en la plataforma de AyGLOO.
Explicabilidad de modelos de grafos (GNN)Inferencia y descubrimiento causal sobre grafosContrafactuales estructuralesDetección de subgrafos anómalosSesgos estructurales
Fidelidad del modelo subrogado superior al 98% sobre logs reales de ciberseguridad. Explicaciones individuales en segundos, procesamiento por lotes en minutos.
Lucid
2026Explicabilidad y verificación · modelos generativosExplicabilidad y verificación a escala para IA generativa: LLMs, RAG y agentes. Abre la caja negra de lo que genera y hace la IA: de qué depende cada respuesta, si sus afirmaciones se sostienen y si una acción de un agente puede ejecutarse. I+D propia, sin financiación CDTI.
Atribución de fuenteVerificación de afirmacionesDetección de alucinaciones por capasAlineación semántica (SAP)Robustez y consistenciaVerificación de acciones de agentes
UCAM
2023–2026Aplica Prescriptive · prevención de lesionesIA explicable para prevenir lesiones en el fútbol. Tras tres años entrenando el modelo con equipos vinculados al CIARD (Murcia), en 2026 arranca el piloto con cuatro clubes profesionales de Primera y Segunda División (de septiembre a diciembre). El modelo admite variables exclusivas de cada club (sueño, biomarcadores, métricas internas) tal como las registran sus wearables, y su capa prescriptiva recomienda a cada jugador las acciones que más reducen su riesgo de lesión.
Riesgo de lesión por jugadorVariables exclusivas de cada clubWhat-if sobre carga, minutos y hábitosCambios mínimos para bajar el riesgo (prescriptive)Factores de riesgo por jugador y por equipoIncertidumbre y auditoría de sesgos
El coste de las lesiones en LaLiga se estima en 178 M€, unos 8 M€ de media por club (Nieto-Torrejón et al., 2024-2025). Piloto en marcha con cuatro clubes profesionales.
Europa Press · FND
2022–2023Cofinanciado por CDTIExplicabilidad sobre textosDetector de noticias falsas en cloud: analiza textos de la web y de redes y decide si son fake, encadenando cuatro técnicas de IA sobre el texto, entrenadas con corpus verificados de Europa Press. Aporta el porqué de la decisión para que el periodista valide o rechace la noticia rápido.
Clasificación por categorías (NLP)Similitud semántica (STS) para fact-checkingInferencia (NLI): neutro, contradictorio o implicadoExplicabilidad sobre texto: por qué es fake o realServerless en Google CloudInterfaz de validación, carga automática o manual
Diferencial: la única solución que aplica IA explicable sobre textos, con estado del arte en STS y NLI. Producto terminado.
Europa Press · SNA
2023–2024Cofinanciado por CDTIExplicabilidad sobre textosAnalizador inteligente de noticias en cloud: extrae los momentos de interés de un texto, audio o vídeo para asistir al periodista en el momento en que se genera la noticia, y reconstruye piezas cortas con esos momentos. Explica por qué cada sumario es relevante.
Clasificación temática (NLP)Sumarización extractiva (grafos/PageRank + STS)Filtro por temática y por CCAAPonderación con los fact-checks de FNDExplicabilidad del sumarioReconstrucción de vídeos y audios cortos
En producción en un cliente y disponible para cualquier medio. Personalizable para formatos cortos y redes sociales.
De la investigación a tu operativa
Todo lo que investigamos acaba en producción. Compruébalo con tus propios datos, de la validación a producción en 4-8 semanas.