Liste de mise en oeuvre du Règlement IA de l'UE pour fournisseurs et déployeurs

L'article 3 définit quatre rôles d'opérateur, et une même organisation peut en cumuler plusieurs. Un fournisseur développe un système d'IA ou le fait développer et le met sur le marché ou le met en service sous son propre nom. Un déployeur utilise un système d'IA sous son autorité dans un cadre professionnel. Un importateur met sur le marché de l'UE un système portant le nom d'un fournisseur extérieur à l'UE. Un distributeur rend disponible un système sans en modifier les propriétés [1].

Élément clé : un déployeur qui modifie substantiellement un système haut risque, le rebadge ou en change la finalité prévue devient fournisseur du système modifié au sens de l'article 25. Cartographiez chaque système d'IA de votre portefeuille selon ces quatre rôles avant toute autre démarche, car la suite de la liste en dépend.

Le Règlement répartit les systèmes en quatre niveaux de risque. Les pratiques interdites par l'article 5 incluent la manipulation subliminale, l'exploitation des groupes vulnérables, la notation sociale par les autorités, la collecte non ciblée d'images faciales, la catégorisation biométrique selon des attributs sensibles, l'identification biométrique à distance en temps réel dans les espaces publics (avec des exceptions strictement encadrées pour les autorités répressives) et la reconnaissance des émotions au travail et en milieu éducatif [1]. Les systèmes haut risque sont définis à l'article 6 et à l'annexe III, qui couvre huit catégories : biométrie, infrastructures critiques, éducation et formation professionnelle, emploi et gestion des travailleurs, accès aux services publics et privés essentiels (y compris la notation de crédit), application de la loi, migration et contrôle aux frontières, administration de la justice et processus démocratiques. Les systèmes à risque limité déclenchent les obligations de transparence de l'article 50 (chatbots, deepfakes, contenus générés par IA). Les systèmes à risque minimal ne portent aucune obligation spécifique au-delà des codes de conduite volontaires.

Documentez la décision de classification par système, motifs à l'appui. Le Bureau européen de l'IA publie des lignes directrices, et c'est la référence à utiliser, et non les supports marketing des fournisseurs [2].

Pour chaque système haut risque, l'article 9 impose un système de gestion des risques écrit, continu et itératif couvrant l'ensemble du cycle de vie. Il doit identifier et analyser les risques prévisibles pour la santé, la sécurité et les droits fondamentaux, estimer et évaluer les risques susceptibles d'apparaître dans l'usage prévu et le mésusage raisonnablement prévisible, évaluer d'autres risques sur la base des données de surveillance après mise sur le marché, et adopter des mesures de gestion des risques adéquates.

Le document SGR n'est pas un livrable ponctuel. Il est revu et mis à jour systématiquement, et les tests doivent vérifier que les mesures retenues fonctionnent dans le contexte d'exploitation pertinent. Considérez-le comme un artefact vivant porté par une personne nommément responsable.

Les données d'entraînement, de validation et de test doivent être pertinentes, suffisamment représentatives, exemptes d'erreurs et complètes au regard de la finalité prévue. L'article 10 impose des pratiques documentées de gouvernance des données : choix de conception, processus de collecte, opérations de préparation (annotation, étiquetage, nettoyage, enrichissement, agrégation), formulation des hypothèses, évaluation préalable de la disponibilité, examen des biais susceptibles d'affecter la santé, la sécurité ou les droits fondamentaux, identification des lacunes pertinentes avec mesures d'atténuation.

Lorsque c'est strictement nécessaire, le traitement de catégories particulières de données à caractère personnel est autorisé par l'article 10, paragraphe 5, pour détecter et corriger les biais, sous des garanties appropriées. Documentez chaque choix : l'évaluation de la conformité ne passera pas sans cela.

La documentation technique doit être établie avant la mise sur le marché et tenue à jour. L'annexe IV en fixe le contenu minimal : description générale du système, conception détaillée et architecture, surveillance et contrôle, données et procédures de validation et de test, résultats d'évaluation y compris métriques et limites connues, mesures de cybersécurité, procédures de gestion des modifications, déclaration UE de conformité.

Les PME et jeunes pousses peuvent recourir à un formulaire annexe IV simplifié publié par le Bureau de l'IA, mais les obligations de fond sont inchangées. Conservez la documentation sous une forme que l'autorité nationale compétente peut consulter sur demande.

Les systèmes haut risque doivent enregistrer automatiquement les événements (logs) tout au long de leur durée de vie, à un degré approprié à la finalité prévue. Les journaux doivent permettre d'identifier les situations susceptibles de présenter un risque au sens de l'article 79, faciliter la surveillance après mise sur le marché et permettre la surveillance par le déployeur au titre de l'article 26. L'article 12, paragraphe 3, impose des journaux minimaux spécifiques pour les systèmes d'identification biométrique à distance (durée d'utilisation, base de données de référence, données d'entrée, personnel identifiant).

Définissez une durée de conservation proportionnée à la finalité, au minimum six mois, sauf disposition contraire d'un autre droit de l'Union ou national.

Les systèmes haut risque doivent être conçus pour que les déployeurs interprètent les sorties et les utilisent correctement. Ils sont accompagnés d'une notice d'utilisation concise, complète, exacte et claire qui indique : l'identité du fournisseur, les caractéristiques et la finalité du système, le niveau d'exactitude et de robustesse, les circonstances prévisibles susceptibles d'entraîner des risques, les capacités techniques utiles à l'explication des sorties, la performance vis-à-vis de personnes ou de groupes spécifiques, les spécifications des données d'entrée, les mesures de surveillance humaine, la durée de vie attendue et la maintenance nécessaire.

Pour les systèmes à risque limité, l'article 50 impose des obligations supplémentaires de transparence : les utilisateurs sont informés qu'ils interagissent avec un système d'IA, les contenus synthétiques générés par IA sont identifiables comme tels par voie automatique, les hypertrucages doivent être divulgués.

Les systèmes haut risque doivent être conçus de manière à pouvoir être effectivement supervisés par des personnes physiques durant leur utilisation. Les mesures de supervision doivent permettre à la personne désignée : de comprendre les capacités et limites pertinentes du système, de demeurer consciente du biais d'automatisation, d'interpréter correctement les sorties, de décider de ne pas utiliser le système ou de méconnaître, écraser ou inverser une sortie, et d'intervenir pour interrompre le fonctionnement par un bouton d'arrêt ou une procédure équivalente.

Pour l'identification biométrique à distance au titre de l'annexe III, point 1 a), aucune mesure ou décision ne peut être prise sur la seule base de l'identification sans vérification et confirmation par au moins deux personnes physiques disposant des compétences, de la formation et de l'autorité nécessaires.

L'article 15 impose aux systèmes haut risque d'atteindre, au regard de leur finalité, un niveau approprié d'exactitude, de robustesse et de cybersécurité, et de fonctionner de manière cohérente sur l'ensemble du cycle de vie. Les niveaux d'exactitude et les métriques pertinentes sont déclarés dans la notice d'utilisation.

La robustesse doit traiter les boucles de rétroaction, les erreurs et les incohérences. La cybersécurité doit résister aux tentatives d'altérer l'usage, le comportement ou la performance, y compris l'empoisonnement de données, l'empoisonnement de modèles, les exemples adversariaux, le contournement et les attaques contre la confidentialité. Le Bureau de l'IA développe des spécifications techniques avec l'ENISA [3].

Avant la mise sur le marché d'un système haut risque, le fournisseur procède à l'évaluation de la conformité. La plupart des systèmes de l'annexe III peuvent recourir au contrôle interne au titre de l'annexe VI. Les systèmes biométriques de l'annexe III, point 1, doivent recourir à la procédure avec organisme notifié au titre de l'annexe VII, sauf application de normes harmonisées. Une évaluation réussie aboutit à : la déclaration UE de conformité (article 47), l'apposition du marquage CE (article 48) et l'enregistrement dans la base de données UE (article 49) avant mise en service. Les déployeurs publics enregistrent en outre leur usage au titre de l'article 49, paragraphe 1 bis.

Les obligations du fournisseur figurent aux articles 16 à 26 et couvrent le système qualité, la conservation des documents, la conservation des journaux automatiques, les mesures correctives, la coopération avec les autorités et l'accessibilité.

Les fournisseurs établissent un système de surveillance après mise sur le marché documenté, proportionné à la nature des technologies d'IA et aux risques du système haut risque. Le plan fait partie de la documentation technique. Les données sont collectées, documentées et analysées activement et systématiquement tout au long de la durée de vie, et le fournisseur évalue la conformité continue aux exigences du Règlement.

L'article 73 impose le signalement des incidents graves à l'autorité de surveillance du marché de l'État membre où l'incident s'est produit, immédiatement après que le fournisseur a établi un lien causal ou sa probabilité raisonnable, et au plus tard dans les 15 jours après en avoir eu connaissance. Le décès ou un préjudice grave déclenche un délai de 10 jours. Une infraction généralisée ou la perturbation d'infrastructures critiques déclenche un délai de 2 jours.

Avant le déploiement d'un système haut risque visé à l'annexe III (avec des exceptions limitées), les organismes de droit public et les opérateurs privés fournissant des services publics, ainsi que les déployeurs de systèmes de notation de crédit ou d'évaluation des risques en assurance vie et santé, doivent réaliser une analyse d'impact sur les droits fondamentaux (AIDF). L'AIDF doit décrire : le processus de déploiement, la durée et la fréquence d'utilisation, les catégories de personnes physiques susceptibles d'être affectées, les préjudices spécifiques raisonnablement attendus, les mesures de supervision humaine et les mesures à prendre si les risques se matérialisent.

Le résultat est notifié à l'autorité de surveillance du marché via un modèle publié par le Bureau de l'IA. Une nouvelle AIDF est nécessaire en cas de modification substantielle d'un élément.

• 1er août 2024 - Entrée en vigueur du Règlement.
• 2 février 2025 - Application des pratiques interdites (article 5) et de l'obligation de littératie en IA (article 4) pour fournisseurs et déployeurs.
• 2 août 2025 - Application des obligations relatives aux modèles d'IA à usage général (articles 51-55), de la structure de gouvernance, des sanctions, du cadre des autorités notifiantes et des organismes notifiés.
• 2 août 2026 - L'essentiel des obligations s'applique, y compris les systèmes haut risque au titre de l'article 6, paragraphe 2 et de l'annexe III, les obligations du déployeur (article 26), l'AIDF (article 27), l'enregistrement dans la base de données UE (article 49).
• 2 août 2027 - Application aux systèmes haut risque qui sont des composants de sécurité de produits couverts par la législation sectorielle de l'annexe I.

Les sanctions sont graduées. Les violations des interdictions de l'article 5 sont passibles d'amendes pouvant atteindre 35 M EUR ou 7 % du chiffre d'affaires annuel mondial, le montant le plus élevé étant retenu. Les violations de la plupart des autres obligations (articles 16-26 pour fournisseurs, article 26 pour déployeurs, articles 31, 33, 34 pour organismes notifiés) sont passibles d'amendes pouvant atteindre 15 M EUR ou 3 % du chiffre d'affaires. La fourniture d'informations inexactes, incomplètes ou trompeuses aux autorités est passible d'amendes jusqu'à 7,5 M EUR ou 1 %. Pour les PME et jeunes pousses, le plafond retenu est le moins élevé des deux.

Les fournisseurs de modèles d'IA à usage général relèvent d'un régime distinct au titre de l'article 101, plafonné à 15 M EUR ou 3 % du chiffre d'affaires.