Beobachtbarkeit (KI)
Beobachtbarkeit eines KI-Systems bezeichnet die Fähigkeit, das Verhalten in Produktion zu erkennen, zu erklären und reproduzierbar zu untersuchen, ohne den Code zu ändern.
Definition und Aufbau
KI-Beobachtbarkeit ergänzt klassische Anwendungs-Beobachtbarkeit (Logs, Metriken, Traces) um drei zusätzliche Schichten: Eingaben (Prompts, Quellen, Tool-Aufrufe), Ausgaben (Antworten, Konfidenz, Halluzinations-Indikatoren) und Modell-Verhalten (Latenz, Token-Verbrauch, Drift). Werkzeuge: OpenTelemetry-Erweiterungen, dedizierte LLM-Beobachtbarkeit-Plattformen.
Was Impetora hier liefert
Bei Hochrisiko-KI nach EU-KI-Verordnung Artikel 12 ist eine vollständige Aufzeichnung aller Eingaben und Ausgaben Pflicht (Logging-Pflicht). Wir konfigurieren die Beobachtbarkeit so, dass jede einzelne Anfrage zu Quelle, Modell-Version, Prompt-Version und Antwort-Begründung rückführbar ist - im Audit-Fall ein Pflicht-Punkt.
Verwandte Begriffe
Bewertungsharness: Eval-Harness. EU-KI-Verordnung: EU-Rahmen für KI.
Diese deutsche Fassung wird laufend ausgebaut. Für ein konkretes Projekt nutzen Sie bitte das Beratungsgespräch oder schreiben an info@ainora.lt.