IA de apoyo a decisiones con cadena de evidencia
La IA de apoyo a decisiones aplica modelos a datos estructurados y no estructurados para producir recomendaciones revisables por un humano: evaluación de riesgo crediticio, triaje de siniestros, detección de fraude, priorización clínica, scoring de proveedores. Impetora entrega estos sistemas con cadena de evidencia completa, conforme al perfil de alto riesgo del Reglamento de IA de la UE.
01.¿Qué es la IA de apoyo a decisiones?
La IA de apoyo a decisiones es la práctica de usar modelos para producir recomendaciones que un humano cualificado revisa antes de actuar. Cubre evaluación de riesgo de crédito, triaje de siniestros de seguro, scoring de fraude, priorización clínica y revisión de proveedores. La característica definitoria es que la decisión final permanece con el humano y el sistema produce la cadena de evidencia que sostiene la recomendación.
El análisis de Gartner sobre IA en decisión intelligence sostiene que las organizaciones que combinan modelos con revisión humana superan en consistencia y velocidad tanto a operaciones puramente humanas como a sistemas totalmente automatizados sin revisión. Bajo el Reglamento de IA de la UE estos sistemas suelen caer en alto riesgo (Anexo III), con obligaciones de evaluación de conformidad, supervisión humana, gestión de riesgo y registros.
03.¿Cómo lo resuelve TRACE?
Trust
Readiness
Architecture
Citations
Confianza. Clasificación por defecto a alto riesgo del Reglamento de IA hasta que el cliente justifique lo contrario. Documentación técnica del Anexo IV preparada en paralelo al desarrollo. Artículo 22 RGPD respetado: ninguna decisión con efecto jurídico significativo se ejecuta sin revisión humana.
Preparación. Línea base de tasas humanas de error y tiempo, conjunto de evaluación con casos históricos validados, definición explicita de métricas de equidad y deriva. Arquitectura. Modo sombra obligatorio antes de modo asistido. Citas y evidencia. Cada recomendación incluye los rasgos de entrada usados, las fuentes de política aplicadas, la versión del modelo, y un texto explicativo en lenguaje natural revisable.
05.¿Qué resultados medibles cabe esperar?
Reducciones del 40% al 60% en tiempo medio de revisión, manteniendo o mejorando consistencia entre revisores. Acuerdo con experto humano en validación superior al 94% en categorías delimitadas. La cobertura de cadena de evidencia es del 100%: cada decisión puede reconstruirse incluyendo modelo, rasgos, fuentes y nota del revisor.
Beneficios secundarios: el conjunto de evaluación crece con cada override humano, generando un activo de entrenamiento que mejora el modelo. La carga cognitiva del revisor cae porque la cadena de evidencia presenta el caso ya estructurado.
02.¿Cómo funciona tradicionalmente?
Sin IA, las decisiones complejas dependen de listas de comprobación, scorecards y experiencia individual. La consistencia entre revisores varía significativamente; estudios sectoriales muestran tasas de acuerdo entre revisores del 60-80% para casos no triviales, con variación sustancial entre días y entre cargas de trabajo. La trazabilidad es a menudo informal: el revisor escribe una nota, pero la cadena de evidencia que sustenta la decisión rara vez se preserva en formato consultable.
El coste regulatorio es real. Multas significativas se han impuesto en banca y seguros por decisiones automatizadas o asistidas que no preservaron explicación suficiente. La Autoridad Bancaria Europea (EBA), la AEPD y las DGSFP han publicado orientaciones especificas sobre obligaciones de explicabilidad y supervisión en sistemas de scoring.
04.¿Cómo es la arquitectura?
Cuatro componentes. Ingesta: conectores con sistemas de origen (CRM, ERP, plataforma de pólizas, sistema bancario central, EHR), con preservación de metadatos de procedencia. Procesamiento: ingeniería de rasgos, modelo de scoring, modelo de explicación (SHAP/LIME para tabular, recuperación fundamentada para texto), generación de la cadena de evidencia.
Revisión: interfaz humana donde el revisor ve recomendación, evidencia, rasgos contribuyentes y opciones de override. Entrega: decisión firmada por humano va al sistema de registro; evento estructurado al log de auditoría con todos los componentes preservados para reconstrucción.
06.¿Cuánto dura un despliegue?
Piloto en 4 semanas para una categoría (un tipo de decisión en un perimetro definido). Modo sombra obligatorio durante 4 a 8 semanas adicionales, con la IA produciendo recomendación sin actuar y comparación contra decisión humana. Solo tras superar las compuertas de exactitud, equidad y deriva acordadas pasa a modo asistido. La transición total a producción suele tomar de 12 a 16 semanas.
07.¿Cuánto cuesta?
Pilotos desde 35.000 EUR (más que documentos por la documentación de conformidad de alto riesgo). Despliegues completos entre 80.000 y 220.000 EUR dependiendo del número de categorías, integración y obligaciones del Reglamento de IA aplicables. Envíe un proyecto para estimación adaptada.
Frequently asked questions
¿Es de alto riesgo según el Reglamento de IA?
Por defecto sí: scoring crediticio, decisiones de seguro, triaje clínico, detección de fraude con efecto en derechos suelen entrar en el Anexo III. Construimos conforme a alto riesgo desde el inicio: documentación técnica del Anexo IV, sistema de gestión de riesgo, registro continuo, supervisión humana documentada, declaración de conformidad UE. Si su caso es de menor riesgo, lo justificamos por escrito y aplicamos controles proporcionales.
¿Cómo tratan el sesgo y la equidad?
Definimos métricas de equidad apropiadas al caso (paridad demografica, igualdad de oportunidad, calibración por grupo) en el sprint de preparación. El conjunto de evaluación incluye particiones por subgrupo. Las regresiones de equidad bloquean despliegue igual que las regresiones de exactitud. Reportamos métricas de equidad junto a métricas de rendimiento en el dashboard del cliente.
¿Cómo se ejerce el derecho del artículo 22 RGPD?
Toda decisión con efecto jurídico significativo o impacto similar exige revisión humana antes de ejecutarse. El sujeto del dato puede solicitar la decisión humana, una explicación y la posibilidad de impugnar. La interfaz documenta cada paso. La AEPD ha publicado orientación sobre el alcance de artículo 22; nuestra arquitectura respeta esa orientación.
¿Cómo gestionan la deriva del modelo?
Monitorización continua de exactitud, equidad y distribución de rasgos. Informe trimestral comparando rendimiento contra línea base. Cuando una métrica supera el umbral acordado, reentrenamiento, validación en conjunto evaluación completo y nuevo despliegue en modo sombra antes de promover. La AEBA exige esto para sistemas de crédito; lo aplicamos por defecto.
¿Pueden integrarse con nuestros sistemas existentes?
Sí. Integraciones con sistemas de pólizas (Guidewire, Duck Creek), bancarios (Temenos, Finastra, sistemas core), salud (Epic, Cerner, sistemas regionales), CRM (Salesforce, Dynamics) y plataformas de fraude. La cadena de evidencia se genera en formato consultable independientemente del sistema receptor.
¿Qué pasa cuando el regulador audita?
El log de auditoría reproduce cualquier decisión: datos de entrada, versión del modelo, rasgos contribuyentes, fuente de política aplicada, recomendación, decisión humana final, identidad del revisor. La documentación técnica Anexo IV está lista. Hemos diseñado la arquitectura para que un auditor del regulador pueda reconstruir la decisión sin asistencia técnica.