Observabilité (IA)
L'observabilité d'un système d'IA désigne la capacité à détecter, expliquer et investiguer son comportement en production de manière reproductible, sans modifier le code.
L'observabilité IA ajoute à l'observabilité classique (logs, métriques, traces) trois couches : entrées (prompts, sources, appels d'outils), sorties (réponses, confiance, indicateurs d'hallucination) et comportement du modèle (latence, consommation de jetons, dérive). Outils : extensions OpenTelemetry, plateformes dédiées d'observabilité LLM.
Pour les IA à haut risque, l'article 12 du Règlement IA impose la journalisation complète des entrées et sorties (obligation de logging). Nous configurons l'observabilité de sorte que chaque requête soit rattachable à sa source, version de modèle, version de prompt et justification de réponse - point obligatoire en cas d'audit.