Human-in-the-loop : une personne décide aux étapes clés d’un processus, l’agent prépare et propose. Où placer l’humain, et pourquoi ça marche.
L’humain dans la boucle (human-in-the-loop)
L’humain dans la boucle (human-in-the-loop) est le principe selon lequel une personne garde le contrôle de ce que fait un système d’IA, aux moments qui comptent. Le terme s’est imposé avec le machine learning, où des personnes corrigent les résultats d’un modèle pour l’entraîner. Il s’applique désormais aux agents IA, qui agissent avec une réelle autonomie : l’humain ne se contente plus d’entraîner le système, il cadre ce qu’il fait. Dans les process automatisés et agentiques, l’agent recherche, analyse, agit et surtout propose. Aux étapes critiques, une personne valide le résultat, le corrige ou reprend la main, et chaque étape est tracée.
Pourquoi l’humain dans la boucle compte aujourd’hui
La boucle s’est déplacée. En machine learning, l’humain se trouvait dans la boucle d’entraînement, pour améliorer le modèle. Avec des agents qui lisent, rédigent, comparent et agissent, il se trouve désormais dans la boucle de décision, où il encadre ce que fait l’agent. Ce qui décide du passage des agents en production n’est donc pas ce qu’ils savent faire, mais qui répond de ce qu’ils ont fait. Gartner prévoit que plus de 40 % des projets d’IA agentique seront annulés d’ici fin 2027, et cite des contrôles des risques insuffisants parmi les trois causes. Les régulateurs posent la même question : pour les systèmes à haut risque, l’AI Act européen exige qu’une personne puisse comprendre, intervenir et reprendre la main. Les personnes appelées à utiliser ces agents se la posent aussi : lors de notre sommet de septembre, 62 % des dirigeants interrogés voulaient qu’un humain valide chaque action d’un agent. L’humain dans la boucle répond à ces trois attentes, et c’est lui qui permet de confier à un agent un travail qui engage l’entreprise, comme une remise ou un contrat.
Où placer l’humain dans le process
Toutes les étapes n’ont pas besoin d’une personne. À notre avis, trois endroits en ont besoin. Les approbations d’abord : une remise au-dessus du seuil, des clauses contractuelles hors standard, un achat au-delà d’un certain montant. L’agent prépare le dossier, le manager décide. Les exceptions ensuite, là où se cache l’essentiel du vrai travail : un client que personne ne reconnaît, un bon de commande manquant, une demande qui ne correspond à aucune règle. L’agent les signale au lieu de deviner. Enfin, toute action qui engage l’entreprise vis-à-vis de l’extérieur, comme un e-mail à un client, une facture ou la création d’un compte utilisateur. Partout ailleurs, laissez le process avancer. Un manager à qui l’on demande d’approuver trente étapes de routine par jour ne les lit plus dès la cinquième.
L’humain dans la boucle par conception : l’agent propose, l’humain décide, l’historique garde les deux
Les agents savent désormais faire bien plus que rédiger. Ils recherchent les informations d’un compte dans plusieurs systèmes, analysent une marge au regard de deals comparables, comparent un contrat à un playbook, remplissent une fiche à partir de plusieurs sources, créent un document ou une page, et agissent seuls dans des limites fixées. Deux choses n’appartiennent jamais à l’agent : les garde-fous dans lesquels il travaille et le résultat qu’il produit. Les premiers sont fixés par des personnes, le second relève d’une personne.
Prenons un deal quote-to-cash en fin de trimestre. L’agent en a préparé l’essentiel : le devis, l’historique du compte, le contrat standard, le brief pour la finance et le customer success. Deux moments demandent encore une personne. Le commercial demande 28 % de remise : l’agent vérifie la marge, les remises passées et les deals comparables, puis envoie une recommandation au COO, qui tranche tout ce qui se situe entre 20 et 40 % (en dessous, le directeur commercial ; au-dessus, le CEO). Ensuite, le client renvoie le contrat avec sept demandes de modification. L’agent applique les cinq qui respectent le playbook du juridique, et un juriste relit les deux autres, pas tout le contrat.
.png)
Vient ensuite l’étape que la plupart des équipes oublient : l’historique. Six mois plus tard, le CFO demande pourquoi cette remise de 28 % a été accordée. L’historique montre ce que l’agent a recommandé et pourquoi la demande est allée au COO, puis ce que le COO a décidé, et quand. Sur quelques centaines de deals, il montre aussi quelles recommandations sont acceptées à chaque fois. C’est là qu’un agent peut gagner en autonomie.
C’est cela, l’humain dans la boucle par conception : avant même le premier deal, le modèle de process indique quelles étapes reviennent à une personne, au système ou à un agent, et ce que le COO voit quand la demande de remise lui arrive. Le COO passe quelques minutes sur la décision, au lieu d’une heure à reconstituer le dossier.
L’humain dans la boucle et l’AI Act européen
La réglementation nomme désormais le principe. Pour les systèmes d’IA à haut risque, l’AI Act européen fixe deux obligations qui comptent ici : le contrôle humain et la tenue de registres. Le contrôle humain signifie qu’une personne peut comprendre ce que fait le système, intervenir et reprendre la main. La tenue de registres signifie que le système journalise son activité, pour que chacun puisse retracer les décisions après coup. Le cadre de gestion des risques de l’IA du NIST va dans le même sens : la responsabilité suppose des rôles humains définis et une trace de ce que le système a fait. Un process conçu ainsi couvre les deux, puisque les points de décision assurent le contrôle humain et que le journal fournit la trace. Tous les process métier ne relèvent pas de la catégorie à haut risque, et cette page ne constitue pas un conseil juridique. La direction est pourtant claire : un DSI capable de montrer où les personnes décident, et de le prouver par un historique, aborde plus sereinement les auditeurs, les régulateurs et le board. L’intégrer dès le premier jour coûte bien moins cher que de l’ajouter après coup.
De la validation de chaque action à l’autonomie gouvernée
L’humain dans la boucle fonctionne comme un curseur. La littérature sur l’autonomie distingue trois positions : dans la boucle, la personne approuve avant l’action ; sur la boucle, le système agit dans le cadre de règles, sous le contrôle d’une personne qui peut reprendre la main ; hors de la boucle, le système agit seul. La plupart des organisations démarrent du côté prudent, avec une personne qui valide chaque action proposée par l’agent, et elles ont raison : les premières semaines font remonter les cas pour lesquels personne n’avait écrit de règle. Au bout d’un mois ou deux, le journal des approbations parle de lui-même. Un devis de renouvellement standard, approuvé quarante fois sans modification, peut passer sur la boucle. Une revue des modifications de contrat que le juridique corrige encore une fois sur trois reste où elle est, comme toute action qui engage l’entreprise auprès d’un client. Les étapes évoluent une par une, jamais tout le process d’un coup. C’est cela, l’autonomie gouvernée : la plupart des devis passent seuls, quelques-uns arrivent sur le téléphone d’un manager, et personne ne se demande ensuite qui a approuvé quoi.
→ Voir Ofelia pour les équipes commerciales et opérationnelles.
Ofelia et l’humain dans la boucle
Dans toute la suite Ofelia, le principe reste le même : les agents travaillent dans un cadre défini par des personnes, les personnes décident, et chaque action est consignée dans la piste d’audit. La place de l’agent dépend du produit.
Dans Ofelia Agentic, l’assistant Ofelia agit comme un agent à deux endroits. Quand quelqu’un pose une question dans Slack ou Microsoft Teams, Ofelia cherche dans votre documentation validée, répond et guide vers l’étape suivante, sans quitter la conversation. La personne garde la main sur la suite. Quand un responsable de process crée un workflow, Ofelia propose le modèle à partir de la documentation existante : les étapes, les responsables, les seuils. Le responsable du process le relit, le modifie en quelques clics, le teste en environnement de test et le publie. Aucun développeur, aucun ticket IT, et rien ne passe en production sans cette validation.
Une fois publié, le workflow s’exécute dans Ofelia Workflow, de façon entièrement déterministe. Il fixe les étapes, leur ordre, les responsables et les seuils, et aucun agent ne décide de la séquence. Les tâches humaines vont à la bonne personne : la remise hors politique est routée selon le seuil vers le directeur commercial, le COO ou le CEO, et ce routage tient même après la prochaine réorganisation. Les tâches système automatisées mettent à jour la fiche, classent le document et envoient la notification. Certaines étapes reviennent à un agent : préparer le devis, vérifier le crédit et les conditions de paiement au regard de la politique, comparer les modifications de contrat avec le playbook du juridique. C’est là que l’humain dans la boucle compte le plus : le workflow attend qu’une personne valide le résultat de l’agent avant d’avancer. Dans le deal ci-dessus, le juridique lit deux clauses, pas sept. Quand le client signe, rien ne démarre tout seul : l’IT, la finance et le customer success reçoivent chacun une carte dans Slack ou Teams pour ouvrir le ticket de provisioning, envoyer la facture ou caler le kickoff, au moment où ils sont prêts.
Dans Bonita BPM, le même principe s’applique quand le process a besoin de sa propre application. Les tâches humaines et les approbations sont modélisées en BPMN 2.0 et assignées par rôle. L’AI Agent Orchestrator délègue une étape à un agent au sein d’un process qui garde le contrôle : l’agent agit dans le cadre du modèle, le process décide de la suite, et une personne valide là où le modèle le prévoit. Plus de 15 ans à faire tourner des process pour plus de 130 entreprises clientes, des banques et ministères aux assureurs et distributeurs, nous ont appris où placer cette validation.
La vitesse de l’IA, le contrôle humain : sur la remise de 28 %, c’est toujours le COO qui décide, en quelques minutes.
Téléchargez le one-pager Ofelia Agentic (PDF).
Découvrez Ofelia sur vos propres workflows, avec l’humain dans la boucle
Sources
Union européenne, AI Act, article 14 (contrôle humain) et article 12 (tenue de registres). NIST, AI Risk Management Framework 1.0. Gartner, communiqué de presse de juin 2025 : plus de 40 % des projets d’IA agentique seront annulés d’ici fin 2027. Baromètre Ofelia Summit 2026 (indicatif, interne).