Human in the loop

Human in the loop (HITL) designa una arquitectura en la que una persona interviene en el proceso de decision de un sistema de IA, ya sea por decision, por muestreo o en caso de escalado. El HITL es obligatorio para IA de alto riesgo segun el articulo 14 de la Ley de IA de la UE.

Qué es Human in the loop?

Existen tres variantes: human in the loop (la persona decide caso a caso), human on the loop (la persona supervisa a nivel agregado e interviene en caso de anomalia), human out of the loop (sin persona; solo admisible de forma excepcional). La Ley de IA de la UE exige expresamente para IA de alto riesgo capacidad de parada, anulacion y comprension.

Cómo se aplica Human in the loop en la IA empresarial?

En la practica el HITL se disena en dos ejes: granularidad (por caso o por muestreo) y salida (puede la persona detener el sistema). Para cada aplicacion de alto riesgo entregamos un playbook HITL: definicion de disparadores, patrones de interfaz, rutas de escalado y material formativo. El articulo 22 del RGPD exige ademas la posibilidad concreta de pedir revision humana.