Call-bot.ai

GlossairePublié le

Human-in-the-loop (humain dans la boucle)

Définition

Le human-in-the-loop (HITL, « humain dans la boucle ») est une conception où un humain peut intervenir à chaque cycle de décision d'un système d'IA. Il se distingue du human-on-the-loop (suivi du fonctionnement) et du human-in-command (maîtrise de l'usage global).

À retenir

  • Trois niveaux (lignes directrices de 2019 du groupe d'experts indépendant de haut niveau sur l'IA, constitué par la Commission européenne) : in-the-loop, intervention possible à chaque cycle de décision ; on-the-loop, intervention à la conception et suivi du fonctionnement ; in-command, maîtrise de l'activité d'ensemble et pouvoir de décider quand et comment utiliser le système. Le premier niveau n'est, dans de nombreux cas, ni possible ni souhaitable.
  • Le droit parle d'autre chose : ni le règlement (UE) 2024/1689 ni le RGPD n'emploient l'expression. Le premier prévoit un « contrôle humain » (art. 14) pour les systèmes à haut risque, applicable au plus tôt le 2 décembre 2027 ; le second (art. 22) donne, dans certains cas, le droit d'obtenir une intervention humaine.
  • En voix : transfert de l'appel vers un conseiller, ou validation avant une action sensible.

Exemple

Dans un agent vocal IA, Twilio ConversationRelay permet de clore la session en transmettant des données de passage de relais (son exemple : l'appelant veut parler à une personne ; fonction relevée le 21/10/2026). Pour les actions, la spécification MCP recommande qu'un humain puisse refuser les appels d'outils.

Pièges et limites

  • Contrôle de façade : le groupe de travail « Article 29 » (WP251 rév. 01) précise que, pour compter au sens de l'article 22 du RGPD, l'intervention humaine doit être significative, pas un geste de pure forme, et confiée à une personne qui a l'autorité et la compétence de changer la décision.
  • Biais d'automatisation : l'article 14, paragraphe 4, prévoit que le système soit fourni de telle manière que les personnes chargées du contrôle aient, dans la mesure où cela est approprié et proportionné, la possibilité d'avoir conscience d'une éventuelle tendance à se fier automatiquement ou excessivement à ses sorties, d'ignorer, de remplacer ou d'inverser une sortie, et d'interrompre le système au moyen d'un bouton d'arrêt ou d'une procédure similaire.
  • Calendrier : l'article 14 vise les systèmes à haut risque, dont l'application est fixée au 2 décembre 2027 (annexe III) ou au 2 août 2028 (annexe I) par le règlement (UE) 2026/1744, en vigueur depuis le 27 juillet 2026. Ce rappel n'est pas un avis juridique ; voir AI Act : calendrier et obligations.

Voir aussi

Sources

Tout le glossaire