Home

/

Resources

/

Glossary

/

L'humain dans la boucle (Human-in-the-loop)

Human-in-the-loop : une personne décide aux étapes clés d’un processus, l’agent prépare et propose. Où placer l’humain, et pourquoi ça marche.

L’humain dans la boucle (human-in-the-loop)‍

L’humain dans la boucle (human-in-the-loop) est le principe selon lequel une personne garde le contrôle de ce que fait un système d’IA, aux moments qui comptent. Le terme s’est imposé avec le machine learning, où des personnes corrigent les résultats d’un modèle pour l’entraîner. Il s’applique désormais aux agents IA, qui agissent avec une réelle autonomie : l’humain ne se contente plus d’entraîner le système, il cadre ce qu’il fait. Dans les process automatisés et agentiques, l’agent recherche, analyse, agit et surtout propose. Aux étapes critiques, une personne valide le résultat, le corrige ou reprend la main, et chaque étape est tracée.

Pourquoi l’humain dans la boucle compte aujourd’hui‍

La boucle s’est déplacée. En machine learning, l’humain se trouvait dans la boucle d’entraînement, pour améliorer le modèle. Avec des agents qui lisent, rédigent, comparent et agissent, il se trouve désormais dans la boucle de décision, où il encadre ce que fait l’agent. Ce qui décide du passage des agents en production n’est donc pas ce qu’ils savent faire, mais qui répond de ce qu’ils ont fait. Gartner prévoit que plus de 40 % des projets d’IA agentique seront annulés d’ici fin 2027, et cite des contrôles des risques insuffisants parmi les trois causes. Les régulateurs posent la même question : pour les systèmes à haut risque, l’AI Act européen exige qu’une personne puisse comprendre, intervenir et reprendre la main. Les personnes appelées à utiliser ces agents se la posent aussi : lors de notre sommet de septembre, 62 % des dirigeants interrogés voulaient qu’un humain valide chaque action d’un agent. L’humain dans la boucle répond à ces trois attentes, et c’est lui qui permet de confier à un agent un travail qui engage l’entreprise, comme une remise ou un contrat.

Où placer l’humain dans le process‍

Toutes les étapes n’ont pas besoin d’une personne. À notre avis, trois endroits en ont besoin. Les approbations d’abord : une remise au-dessus du seuil, des clauses contractuelles hors standard, un achat au-delà d’un certain montant. L’agent prépare le dossier, le manager décide. Les exceptions ensuite, là où se cache l’essentiel du vrai travail : un client que personne ne reconnaît, un bon de commande manquant, une demande qui ne correspond à aucune règle. L’agent les signale au lieu de deviner. Enfin, toute action qui engage l’entreprise vis-à-vis de l’extérieur, comme un e-mail à un client, une facture ou la création d’un compte utilisateur. Partout ailleurs, laissez le process avancer. Un manager à qui l’on demande d’approuver trente étapes de routine par jour ne les lit plus dès la cinquième.

L’humain dans la boucle par conception : l’agent propose, l’humain décide, l’historique garde les deux‍

Les agents savent désormais faire bien plus que rédiger. Ils recherchent les informations d’un compte dans plusieurs systèmes, analysent une marge au regard de deals comparables, comparent un contrat à un playbook, remplissent une fiche à partir de plusieurs sources, créent un document ou une page, et agissent seuls dans des limites fixées. Deux choses n’appartiennent jamais à l’agent : les garde-fous dans lesquels il travaille et le résultat qu’il produit. Les premiers sont fixés par des personnes, le second relève d’une personne.

Prenons un deal quote-to-cash en fin de trimestre. L’agent en a préparé l’essentiel : le devis, l’historique du compte, le contrat standard, le brief pour la finance et le customer success. Deux moments demandent encore une personne. Le commercial demande 28 % de remise : l’agent vérifie la marge, les remises passées et les deals comparables, puis envoie une recommandation au COO, qui tranche tout ce qui se situe entre 20 et 40 % (en dessous, le directeur commercial ; au-dessus, le CEO). Ensuite, le client renvoie le contrat avec sept demandes de modification. L’agent applique les cinq qui respectent le playbook du juridique, et un juriste relit les deux autres, pas tout le contrat.

L’humain dans la boucle dans Slack : une demande de remise envoyée au COO, avec la recommandation de l’agent

Vient ensuite l’étape que la plupart des équipes oublient : l’historique. Six mois plus tard, le CFO demande pourquoi cette remise de 28 % a été accordée. L’historique montre ce que l’agent a recommandé et pourquoi la demande est allée au COO, puis ce que le COO a décidé, et quand. Sur quelques centaines de deals, il montre aussi quelles recommandations sont acceptées à chaque fois. C’est là qu’un agent peut gagner en autonomie.

C’est cela, l’humain dans la boucle par conception : avant même le premier deal, le modèle de process indique quelles étapes reviennent à une personne, au système ou à un agent, et ce que le COO voit quand la demande de remise lui arrive. Le COO passe quelques minutes sur la décision, au lieu d’une heure à reconstituer le dossier.

L’humain dans la boucle et l’AI Act européen‍

La réglementation nomme désormais le principe. Pour les systèmes d’IA à haut risque, l’AI Act européen fixe deux obligations qui comptent ici : le contrôle humain et la tenue de registres. Le contrôle humain signifie qu’une personne peut comprendre ce que fait le système, intervenir et reprendre la main. La tenue de registres signifie que le système journalise son activité, pour que chacun puisse retracer les décisions après coup. Le cadre de gestion des risques de l’IA du NIST va dans le même sens : la responsabilité suppose des rôles humains définis et une trace de ce que le système a fait. Un process conçu ainsi couvre les deux, puisque les points de décision assurent le contrôle humain et que le journal fournit la trace. Tous les process métier ne relèvent pas de la catégorie à haut risque, et cette page ne constitue pas un conseil juridique. La direction est pourtant claire : un DSI capable de montrer où les personnes décident, et de le prouver par un historique, aborde plus sereinement les auditeurs, les régulateurs et le board. L’intégrer dès le premier jour coûte bien moins cher que de l’ajouter après coup.

Source : Union européenne, AI Act, articles 12 et 14. Ceci n’est pas un conseil juridique.
Obligation de l’AI ActCe qu’elle signifieComment l’humain dans la boucle par conception y répond
Contrôle humain (article 14)Une personne peut comprendre ce que fait le système, intervenir et reprendre la mainLes points de décision sont définis dans le modèle de process, avant la première exécution
Tenue de registres (article 12)Le système journalise son activité pour que les décisions puissent être retracées après coupChaque étape, humaine, système ou agent, est enregistrée : qui, quoi, quand et sur quelle base

‍

De la validation de chaque action à l’autonomie gouvernée‍

L’humain dans la boucle fonctionne comme un curseur. La littérature sur l’autonomie distingue trois positions : dans la boucle, la personne approuve avant l’action ; sur la boucle, le système agit dans le cadre de règles, sous le contrôle d’une personne qui peut reprendre la main ; hors de la boucle, le système agit seul. La plupart des organisations démarrent du côté prudent, avec une personne qui valide chaque action proposée par l’agent, et elles ont raison : les premières semaines font remonter les cas pour lesquels personne n’avait écrit de règle. Au bout d’un mois ou deux, le journal des approbations parle de lui-même. Un devis de renouvellement standard, approuvé quarante fois sans modification, peut passer sur la boucle. Une revue des modifications de contrat que le juridique corrige encore une fois sur trois reste où elle est, comme toute action qui engage l’entreprise auprès d’un client. Les étapes évoluent une par une, jamais tout le process d’un coup. C’est cela, l’autonomie gouvernée : la plupart des devis passent seuls, quelques-uns arrivent sur le téléphone d’un manager, et personne ne se demande ensuite qui a approuvé quoi.
‍

Point de départ de la plupart des équipes

Dans la boucle

Une personne approuve avant l’action.

Reste iciLa revue des modifications de contrat, tant que le juridique corrige encore une clause sur trois. Et pour de bon : toute action qui engage l’entreprise, comme une facture, un e-mail à un client ou un nouvel accès.

Sur la boucle

L’agent agit dans le cadre des règles. Une personne supervise et peut reprendre la main à tout moment.

Passe iciUn devis de renouvellement standard, approuvé quarante fois sans modification.

Hors de la boucle

Le système agit seul, sans intervention humaine.

Sa placeLes tâches système automatisées, comme mettre à jour une fiche ou envoyer une notification. Jamais une étape qui engage l’entreprise.

Les étapes évoluent une par une, jamais tout le process d’un coup. Le journal des approbations montre lesquelles sont prêtes.

→ Voir Ofelia pour les équipes commerciales et opérationnelles.

Ofelia et l’humain dans la boucle‍

Dans toute la suite Ofelia, le principe reste le même : les agents travaillent dans un cadre défini par des personnes, les personnes décident, et chaque action est consignée dans la piste d’audit. La place de l’agent dépend du produit.

Dans Ofelia Agentic, l’assistant Ofelia agit comme un agent à deux endroits. Quand quelqu’un pose une question dans Slack ou Microsoft Teams, Ofelia cherche dans votre documentation validée, répond et guide vers l’étape suivante, sans quitter la conversation. La personne garde la main sur la suite. Quand un responsable de process crée un workflow, Ofelia propose le modèle à partir de la documentation existante : les étapes, les responsables, les seuils. Le responsable du process le relit, le modifie en quelques clics, le teste en environnement de test et le publie. Aucun développeur, aucun ticket IT, et rien ne passe en production sans cette validation.

Une fois publié, le workflow s’exécute dans Ofelia Workflow, de façon entièrement déterministe. Il fixe les étapes, leur ordre, les responsables et les seuils, et aucun agent ne décide de la séquence. Les tâches humaines vont à la bonne personne : la remise hors politique est routée selon le seuil vers le directeur commercial, le COO ou le CEO, et ce routage tient même après la prochaine réorganisation. Les tâches système automatisées mettent à jour la fiche, classent le document et envoient la notification. Certaines étapes reviennent à un agent : préparer le devis, vérifier le crédit et les conditions de paiement au regard de la politique, comparer les modifications de contrat avec le playbook du juridique. C’est là que l’humain dans la boucle compte le plus : le workflow attend qu’une personne valide le résultat de l’agent avant d’avancer. Dans le deal ci-dessus, le juridique lit deux clauses, pas sept. Quand le client signe, rien ne démarre tout seul : l’IT, la finance et le customer success reçoivent chacun une carte dans Slack ou Teams pour ouvrir le ticket de provisioning, envoyer la facture ou caler le kickoff, au moment où ils sont prêts.

Dans Bonita BPM, le même principe s’applique quand le process a besoin de sa propre application. Les tâches humaines et les approbations sont modélisées en BPMN 2.0 et assignées par rôle. L’AI Agent Orchestrator délègue une étape à un agent au sein d’un process qui garde le contrôle : l’agent agit dans le cadre du modèle, le process décide de la suite, et une personne valide là où le modèle le prévoit. Plus de 15 ans à faire tourner des process pour plus de 130 entreprises clientes, des banques et ministères aux assureurs et distributeurs, nous ont appris où placer cette validation.

La vitesse de l’IA, le contrôle humain : sur la remise de 28 %, c’est toujours le COO qui décide, en quelques minutes.

Téléchargez le one-pager Ofelia Agentic (PDF).

Découvrez Ofelia sur vos propres workflows, avec l’humain dans la boucle
Obtenir une démo

‍

Sources
Union européenne, AI Act, article 14 (contrôle humain) et article 12 (tenue de registres). NIST, AI Risk Management Framework 1.0. Gartner, communiqué de presse de juin 2025 : plus de 40 % des projets d’IA agentique seront annulés d’ici fin 2027. Baromètre Ofelia Summit 2026 (indicatif, interne).

Temps de lecture : 5 min
Sommaire
Questions fréquentes
‍
What does human-in-the-loop mean?
It means a person sets the limits an AI system works within, decides at the critical points and can step in at any time. The agent researches, analyses, acts and proposes inside those limits, and a person validates the outcome. Every step goes on record. The term is best known from machine learning, where people correct a model’s outputs to train it. It now extends to AI agents, which act with real autonomy. In automated and agentic processes, it applies to execution: the steps that commit the company.
Does the EU AI Act require human-in-the-loop?
The EU AI Act requires human oversight and record-keeping for high-risk AI systems. Human oversight means a person can understand, intervene and override. Human-in-the-loop by design is a practical way to meet that requirement. Whether a given process falls under the high-risk category, and from when, is a legal question for your counsel.
Where should a human stay in the loop in a sales process?
At the points that commit the company. A discount above policy goes to the sales director, the COO or the CEO, by threshold. A contract clause outside Legal’s approved matrix goes to a lawyer. The scope of the offer deserves a human eye too: a CIO of an industrial group notes that a scoping error at the offer stage surfaces 18 to 24 months later. Everything else, an agent can prepare: the quote, the standard clauses, the handoff to Finance and Customer Success.
What is BPMN and why does it matter in BPM?
BPMN, Business Process Model and Notation, is the standard notation for describing processes: tasks, decisions, roles, events and flows. Business and IT read the same diagram, and a BPM platform can execute it directly. A process modelled in BPMN is both the documentation and the application logic.