Observabilidad (IA)

La observabilidad de un sistema de IA designa la capacidad de detectar, explicar e investigar su comportamiento en produccion de forma reproducible, sin modificar el codigo.

Qué es Observabilidad (IA)?

La observabilidad de IA suma a la observabilidad clasica (logs, metricas, trazas) tres capas: entradas (prompts, fuentes, llamadas a herramientas), salidas (respuestas, confianza, indicadores de alucinacion) y comportamiento del modelo (latencia, consumo de tokens, drift). Herramientas: extensiones de OpenTelemetry, plataformas dedicadas de observabilidad LLM.

Cómo se aplica Observabilidad (IA) en la IA empresarial?

Para IA de alto riesgo, el articulo 12 de la Ley de IA de la UE exige el registro completo de entradas y salidas (obligacion de logging). Configuramos la observabilidad de modo que cada peticion sea trazable a su fuente, version de modelo, version de prompt y justificacion de respuesta, punto obligatorio en caso de auditoria.