Human in the loop
Le human in the loop (HITL) désigne une architecture où un humain intervient dans le processus de décision d'un système d'IA - par décision, par échantillon ou en cas d'escalade. Le HITL est obligatoire pour les IA à haut risque au titre de l'article 14 du Règlement IA.
Trois variantes sont établies : human in the loop (l'humain décide par cas), human on the loop (l'humain supervise au niveau agrégé et intervient en cas d'anomalie), human out of the loop (aucun humain, autorisé seulement par exception). Le Règlement IA exige expressément pour les IA à haut risque la possibilité d'arrêt, de remplacement et de compréhension.
En pratique le HITL se conçoit sur deux axes : granularité (par cas ou par échantillon) et sortie (l'humain peut-il arrêter le système). Nous livrons pour chaque application à haut risque un playbook HITL : définition des déclencheurs, motifs d'interface, voies d'escalade, supports de formation. L'article 22 du RGPD impose en outre concrètement la possibilité de demander une révision humaine.