EU-KI-Verordnung Umsetzungs-Checkliste für Anbieter und Betreiber

Artikel 3 definiert vier Akteurs-Rollen, und dieselbe Organisation kann mehr als eine innehaben. Ein Anbieter entwickelt ein KI-System oder lässt es entwickeln und bringt es unter eigenem Namen in Verkehr oder in Betrieb. Ein Betreiber verwendet ein KI-System unter eigener Verantwortung im professionellen Kontext. Ein Einführer bringt ein System mit dem Namen eines Nicht-EU-Anbieters auf dem EU-Markt in Verkehr. Ein Händler stellt ein System bereit, ohne dessen Eigenschaften zu verändern [1].

Entscheidend ist, dass ein Betreiber, der ein Hochrisiko-System wesentlich verändert, umlabelt oder dessen Zweckbestimmung ändert, nach Artikel 25 für das geänderte System zum Anbieter wird. Ordnen Sie zuerst jedes KI-System Ihres Portfolios diesen vier Rollen zu, denn alle weiteren Schritte hängen von dieser Antwort ab.

Die Verordnung teilt KI-Systeme in vier Risikostufen ein. Verbotene Praktiken nach Artikel 5 umfassen unterschwellige Manipulation, Ausbeutung schutzbedürftiger Gruppen, Social Scoring durch Behörden, ungerichtetes Auslesen von Gesichtsbildern, biometrische Kategorisierung nach sensiblen Merkmalen, biometrische Echtzeit-Fernidentifizierung im öffentlichen Raum (mit eng begrenzten Ausnahmen für die Strafverfolgung) und Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen [1]. Hochrisiko-Systeme sind in Artikel 6 und Anhang III definiert und decken acht Kategorien ab: Biometrie, kritische Infrastruktur, allgemeine und berufliche Bildung, Beschäftigung und Beschäftigtenmanagement, Zugang zu wesentlichen öffentlichen und privaten Diensten (einschliesslich Kreditwürdigkeit), Strafverfolgung, Migration und Grenzkontrolle, Justiz und demokratische Prozesse. Begrenzt riskante Systeme lösen Transparenzpflichten nach Artikel 50 aus (Chatbots, Deepfakes, KI-generierte Inhalte). Minimalrisiko-Systeme tragen über freiwillige Verhaltenskodizes hinaus keine spezifischen Verordnungspflichten.

Dokumentieren Sie die Klassifizierungsentscheidung pro System samt Begründung. Das Europäische KI-Büro veröffentlicht Klassifizierungsleitlinien, und dieses Dokument ist die massgebliche Referenz, nicht das Marketingmaterial der Anbieter [2].

Für jedes Hochrisiko-System verlangt Artikel 9 ein schriftliches, kontinuierliches und iteratives Risikomanagementsystem über den gesamten Lebenszyklus. Es muss vorhersehbare Risiken für Gesundheit, Sicherheit und Grundrechte identifizieren und analysieren, Risiken in der bestimmungsgemässen Verwendung und im vernünftigerweise vorhersehbaren Missbrauch schätzen und bewerten, weitere Risiken auf Basis der Daten aus der Beobachtung nach dem Inverkehrbringen bewerten und geeignete Risikomanagementmassnahmen ergreifen.

Das RMS-Dokument ist kein einmaliges Ergebnis. Es wird systematisch überprüft und fortgeschrieben, und Tests müssen belegen, dass die gewählten Massnahmen im jeweiligen Betriebskontext wirken. Behandeln Sie es als lebendes Artefakt mit benannter verantwortlicher Person.

Trainings-, Validierungs- und Testdaten müssen relevant, hinreichend repräsentativ, fehlerfrei und im Hinblick auf die Zweckbestimmung vollständig sein. Artikel 10 verlangt dokumentierte Daten-Governance-Praktiken zu: Designentscheidungen, Datenerhebungsprozessen, Datenaufbereitung (Annotation, Etikettierung, Bereinigung, Anreicherung, Aggregation), Annahmenbildung, Vorabprüfung der Verfügbarkeit, Untersuchung auf Verzerrungen, die Gesundheit, Sicherheit oder Grundrechte beeinträchtigen können, sowie Identifizierung relevanter Datenlücken mit Minderungsmassnahmen.

Soweit unbedingt erforderlich, ist die Verarbeitung besonderer Kategorien personenbezogener Daten nach Artikel 10 Absatz 5 zur Erkennung und Korrektur von Verzerrungen mit angemessenen Schutzmassnahmen zulässig. Dokumentieren Sie jede Entscheidung; die Konformitätsbewertung besteht ohne diese Dokumentation nicht.

Die technische Dokumentation muss vor Inverkehrbringen erstellt und auf dem aktuellen Stand gehalten werden. Anhang IV legt den Mindestinhalt fest: allgemeine Beschreibung des Systems, detailliertes Design und Architektur, Überwachung und Steuerung, Validierungs- und Testdaten und -verfahren, Bewertungsergebnisse einschliesslich Metriken und bekannter Einschränkungen, Cybersicherheits-Massnahmen, Verfahren zum Änderungsmanagement und EU-Konformitätserklärung.

KMU und Start-ups dürfen ein vereinfachtes Anhang-IV-Formular des KI-Büros nutzen, die zugrunde liegenden Pflichten bleiben unverändert. Halten Sie die Dokumentation in einer Form vor, die die zuständige nationale Behörde auf Anfrage einsehen kann.

Hochrisiko-Systeme müssen während ihrer gesamten Lebensdauer automatisch Ereignisse (Logs) in einem der Zweckbestimmung angemessenen Mass aufzeichnen. Logs müssen die Identifizierung von Situationen ermöglichen, in denen das System nach Artikel 79 ein Risiko darstellen kann, die Beobachtung nach dem Inverkehrbringen erleichtern und die Überwachung durch den Betreiber nach Artikel 26 ermöglichen. Artikel 12 Absatz 3 legt für biometrische Fernidentifizierungssysteme spezifische Mindestlogs fest (Nutzungsdauer, Referenzdatenbank, Eingangsdaten, identifizierendes Personal).

Legen Sie eine zur Zweckbestimmung verhältnismässige Aufbewahrungsdauer fest, mindestens jedoch sechs Monate, sofern andere Vorschriften der Union oder der Mitgliedstaaten nichts anderes bestimmen.

Hochrisiko-Systeme sind so zu gestalten, dass Betreiber die Ausgaben interpretieren und sachgerecht nutzen können. Sie sind mit präzisen, vollständigen, korrekten und klaren Betriebsanleitungen zu liefern, die folgende Angaben enthalten: Identität des Anbieters, Eigenschaften und Zweckbestimmung des Systems, Genauigkeits- und Robustheitsniveau, vorhersehbare Risikolagen, technische Eigenschaften für die Erklärung der Ausgaben, Leistung in Bezug auf bestimmte Personen oder Gruppen, Spezifikation der Eingabedaten, menschliche Aufsicht, erwartete Lebensdauer und erforderliche Wartung.

Bei begrenzt riskanten Systemen erlegt Artikel 50 zusätzliche Transparenzpflichten auf: Nutzer sind darüber zu informieren, dass sie mit einem KI-System interagieren, KI-erzeugte synthetische Inhalte sind maschinenlesbar als solche zu kennzeichnen, Deepfakes sind offenzulegen.

Hochrisiko-Systeme sind so zu gestalten, dass sie während ihrer Verwendung wirksam von natürlichen Personen beaufsichtigt werden können. Aufsichtsmassnahmen müssen es der zugewiesenen Person erlauben: relevante Fähigkeiten und Grenzen des Systems zu verstehen, sich des Automation Bias bewusst zu bleiben, Ausgaben korrekt zu interpretieren, das System nicht zu verwenden oder dessen Ausgabe zu missachten, zu überschreiben oder rückgängig zu machen, sowie den Betrieb durch eine Stopptaste oder ein vergleichbares Verfahren zu unterbrechen.

Bei biometrischer Fernidentifizierung nach Anhang III(1)(a) darf keine Massnahme oder Entscheidung allein auf Basis der Identifizierung getroffen werden, sofern diese nicht von mindestens zwei natürlichen Personen mit der erforderlichen Sachkunde, Schulung und Befugnis überprüft und bestätigt wurde.

Artikel 15 verlangt, dass Hochrisiko-Systeme im Hinblick auf ihre Zweckbestimmung ein angemessenes Mass an Genauigkeit, Robustheit und Cybersicherheit erreichen und durchgängig über den Lebenszyklus konsistent funktionieren. Genauigkeitsniveaus und einschlägige Metriken sind in der Betriebsanleitung anzugeben.

Die Robustheit muss Rückkopplungsschleifen, Fehler und Inkonsistenzen behandeln. Die Cybersicherheit muss gegen Versuche resilient sein, Verwendung, Verhalten oder Leistung zu verändern, einschliesslich Datenvergiftung, Modellvergiftung, adversarialer Beispiele, Modellumgehung und Vertraulichkeitsangriffen. Das KI-Büro entwickelt mit ENISA technische Spezifikationen [3].

Vor dem Inverkehrbringen eines Hochrisiko-Systems muss der Anbieter eine Konformitätsbewertung durchführen. Für die meisten Anhang-III-Systeme ist die interne Kontrolle nach Anhang VI möglich. Anhang-III(1)-Biometriesysteme müssen das Verfahren mit notifizierter Stelle nach Anhang VII durchlaufen, sofern keine harmonisierten Normen angewendet wurden. Eine erfolgreiche Bewertung führt zu: EU-Konformitätserklärung (Artikel 47), Anbringung des CE-Kennzeichens (Artikel 48) und Registrierung in der EU-Datenbank (Artikel 49) vor Inbetriebnahme. Behördliche Betreiber registrieren ihre Verwendung zusätzlich nach Artikel 49 Absatz 1a.

Anbieterpflichten sind in den Artikeln 16 bis 26 geregelt und umfassen Qualitätsmanagement, Aufbewahrung von Unterlagen, Aufbewahrung automatisch erzeugter Logs, Korrekturmassnahmen, Zusammenarbeit mit Behörden und Barrierefreiheit.

Anbieter müssen ein dokumentiertes System zur Beobachtung nach Inverkehrbringen einrichten, das den KI-Technologien und den Risiken des Hochrisiko-Systems angemessen ist. Der Plan ist Teil der technischen Dokumentation. Daten werden während der gesamten Lebensdauer aktiv und systematisch erhoben, dokumentiert und analysiert, und der Anbieter prüft die fortdauernde Einhaltung der Anforderungen der Verordnung.

Artikel 73 verlangt die Meldung schwerer Vorfälle an die Marktüberwachungsbehörde des Mitgliedstaats, in dem der Vorfall eingetreten ist, unverzüglich nach Feststellung eines kausalen Zusammenhangs oder einer angemessenen Wahrscheinlichkeit dafür, spätestens innerhalb von 15 Tagen nach Kenntnisnahme. Tod oder schwere Beeinträchtigung lösen eine 10-Tages-Frist aus. Weitverbreitete Verstösse oder Beeinträchtigungen kritischer Infrastruktur lösen eine 2-Tages-Frist aus.

Vor dem Einsatz eines in Anhang III aufgeführten Hochrisiko-Systems (mit begrenzten Ausnahmen) müssen Einrichtungen des öffentlichen Rechts und private Anbieter öffentlicher Dienste sowie Betreiber von Kreditscoring- oder Lebens- und Krankenversicherungs-Risikosystemen eine Grundrechte-Folgenabschätzung (FRIA) durchführen. Die FRIA muss beschreiben: den Einsatzprozess, Dauer und Häufigkeit der Verwendung, Kategorien der wahrscheinlich betroffenen natürlichen Personen, konkrete vernünftigerweise zu erwartende Schäden, die menschlichen Aufsichtsmassnahmen und die im Risikoeintritt zu treffenden Massnahmen.

Das Ergebnis der FRIA wird der Marktüberwachungsbehörde über ein vom KI-Büro veröffentlichtes Muster angezeigt. Bei wesentlicher Änderung eines Elements ist eine neue FRIA erforderlich.

• 1. August 2024 - Verordnung tritt in Kraft.
• 2. Februar 2025 - Verbote nach Artikel 5 sowie KI-Kompetenzpflicht (Artikel 4) für Anbieter und Betreiber gelten.
• 2. August 2025 - Pflichten für KI-Modelle mit allgemeinem Verwendungszweck (Artikel 51-55), Governance-Struktur, Bussgelder, Rahmen für notifizierende Behörden und notifizierte Stellen gelten.
• 2. August 2026 - Grossteil der Pflichten gilt, einschliesslich Hochrisiko-Systeme nach Artikel 6 Absatz 2 und Anhang III, Betreiberpflichten nach Artikel 26, FRIA nach Artikel 27, Registrierung in der EU-Datenbank nach Artikel 49.
• 2. August 2027 - Pflichten gelten für Hochrisiko-Systeme als Sicherheitsbauteile von Produkten, die unter sektorale Rechtsakte aus Anhang I fallen.

Sanktionen sind gestaffelt. Verstösse gegen Verbote nach Artikel 5 ziehen Bussgelder bis zu 35 Mio. EUR oder 7 % des weltweiten Jahresumsatzes nach sich, je nachdem welcher Betrag höher ist. Verstösse gegen die meisten anderen Akteurspflichten (Artikel 16-26 für Anbieter, Artikel 26 für Betreiber, Artikel 31, 33, 34 für notifizierte Stellen) ziehen Bussgelder bis zu 15 Mio. EUR oder 3 % des Umsatzes nach sich. Falsche, unvollständige oder irreführende Angaben gegenüber Behörden ziehen Bussgelder bis zu 7,5 Mio. EUR oder 1 % nach sich. Für KMU und Start-ups gilt jeweils die niedrigere der beiden Grössen.

Anbieter von KI-Modellen mit allgemeinem Verwendungszweck unterliegen einem getrennten Regime nach Artikel 101 mit Höchstbeträgen von 15 Mio. EUR oder 3 % des Umsatzes.