Human-in-the-loop: una persona decide en los puntos clave de un proceso y el agente prepara y propone. Dónde situar a la persona y por qué funciona.
Human-in-the-loop (humano en el bucle)
El principio de "human-in-the-loop" (humano en el bucle) establece que una persona debe mantener el control sobre las acciones de un sistema de IA en los momentos clave. Este término se popularizó en el aprendizaje automático, donde las personas corrigen los resultados de un modelo para entrenarlo. Ahora, este concepto se extiende a agentes de IA, que actúan con verdadera autonomía: el humano ya no solo entrena al sistema, sino que define su marco de actuación. En los procesos automatizados y agénticos, el agente investiga, analiza, actúa y, sobre todo, propone. En los pasos críticos, una persona valida el resultado, lo anula o toma el control, y cada paso queda registrado.
Por qué el "human-in-the-loop" es importante ahora
El bucle ha cambiado. En el aprendizaje automático, el humano estaba en el bucle de entrenamiento, mejorando el modelo. Con agentes que leen, redactan, comparan y actúan, el humano se sitúa en el bucle de decisión, supervisando lo que hace el agente. La pregunta que determina si los agentes llegan a producción no es qué pueden hacer, sino quién responde por lo que hicieron. Gartner prevé que más del 40% de los proyectos de IA agéntica se cancelarán antes de finales de 2027, y señala los controles de riesgo inadecuados como una de las tres causas principales. Los reguladores plantean la misma cuestión: para los sistemas de alto riesgo, la Ley de IA de la UE exige que una persona pueda comprender, intervenir y anular las acciones. Las personas que utilizarán estos agentes también se lo preguntan: en nuestra cumbre de septiembre, el 62% de los ejecutivos encuestados quería que un humano validara cada acción del agente. El "human-in-the-loop" responde a estas tres preocupaciones y es lo que permite asignar a un agente tareas que comprometen a la empresa, como un descuento o un contrato.
Dónde situar al humano en el proceso
No todos los pasos requieren una persona. En nuestra opinión, hay tres lugares donde sí es necesario. Aprobaciones: un descuento por encima del umbral, términos contractuales no estándar o una compra superior a una cantidad establecida, donde el agente prepara el expediente y el responsable decide. Excepciones, donde se esconde la mayor parte del trabajo real: un cliente desconocido, una orden de compra faltante o una solicitud que no encaja con ninguna regla. El agente las señala en lugar de adivinar. Y cualquier acción que comprometa a la empresa con un tercero, como un correo electrónico a un cliente, una factura o una nueva cuenta de usuario. En todo lo demás, deja que el proceso avance. Un responsable al que se le pide que apruebe treinta pasos rutinarios al día deja de leerlos a partir del quinto.
"Human-in-the-loop" por diseño: el agente propone, el humano decide y el registro conserva ambos
Los agentes ahora pueden hacer mucho más que redactar. Investigan una cuenta en varios sistemas, analizan un margen frente a acuerdos comparables, comparan un contrato con un manual de procedimientos, completan un registro a partir de varias fuentes, crean un documento o una página y actúan por cuenta propia dentro de límites establecidos. Dos cosas nunca pertenecen al agente: las directrices dentro de las cuales opera y el resultado que produce. Las personas establecen lo primero, y una persona es responsable de lo segundo.
Tomemos como ejemplo un acuerdo de cotización a cobro a final de trimestre. El agente ha preparado la mayor parte: la cotización, el historial de la cuenta, el contrato estándar y el resumen para Finanzas y Customer Success. Dos momentos aún requieren una persona. El comercial pide un 28% de descuento, por lo que el agente verifica el margen, los descuentos anteriores y acuerdos comparables, y envía una recomendación al COO, quien tiene autoridad para aprobar entre el 20% y el 40% (por debajo, el director de ventas; por encima, el CEO). Luego, el cliente devuelve el contrato con siete correcciones. El agente aplica las cinco que coinciden con el manual de Legal. Un abogado revisa las otras dos, no todo el contrato.
.png)
Luego viene la parte que la mayoría de los equipos omiten: el registro. Seis meses después, el CFO pregunta por qué se aplicó ese descuento del 28%. El registro muestra lo que recomendó el agente y por qué la solicitud pasó al COO, además de qué decidió el COO y cuándo. En unos cientos de acuerdos, también muestra qué recomendaciones aceptan las personas siempre. Ahí es donde un agente puede ganar más margen de maniobra.
Eso es "human-in-the-loop" por diseño: antes de que se ejecute el primer acuerdo, el modelo de proceso ya indica qué pasos corresponden a una persona, al sistema o a un agente, y qué ve el COO cuando llega el descuento. El COO dedica minutos a la decisión, no una hora a reconstruir el expediente.
"Human-in-the-loop" y la Ley de IA de la UE
La regulación ahora nombra este principio. Para los sistemas de IA de alto riesgo, la Ley de IA de la UE establece dos obligaciones clave: supervisión humana y mantenimiento de registros. La supervisión humana significa que una persona puede entender lo que hace el sistema, intervenir y anularlo. El mantenimiento de registros significa que el sistema registra su actividad para que cualquiera pueda rastrear las decisiones posteriormente. El Marco de Gestión de Riesgos de IA del NIST apunta en la misma dirección: la responsabilidad requiere roles humanos definidos y un registro de lo que hizo el sistema. Un proceso diseñado de esta manera cubre ambos aspectos, ya que los puntos de decisión proporcionan la supervisión y el registro proporciona la trazabilidad. No todos los procesos empresariales entran en la categoría de alto riesgo, y esta página no constituye asesoramiento legal. Aun así, la dirección es clara. Un CIO que pueda demostrar dónde deciden los humanos y probarlo con un registro tiene una conversación más sencilla con auditores, reguladores y la junta directiva. Incorporarlo desde el primer día cuesta mucho menos que añadirlo después.
De la validación de cada acción a la autonomía gobernada
El "human-in-the-loop" funciona como un dial. La literatura sobre autonomía define tres posiciones: "in the loop" (en el bucle), donde la persona aprueba antes de la acción; "on the loop" (sobre el bucle), donde el sistema actúa bajo reglas y una persona supervisa y puede tomar el control; y "out of the loop" (fuera del bucle), donde el sistema actúa solo. La mayoría de las organizaciones comienzan en el extremo cauteloso, con una persona validando cada acción que propone el agente, y hacen bien: las primeras semanas revelan los casos para los que nadie escribió una regla. Después de un mes o dos, el registro de aprobaciones cuenta su propia historia. Una cotización de renovación estándar aprobada cuarenta veces sin cambios está lista para pasar a "on the loop". Una revisión de redlines que Legal todavía corrige una de cada tres veces se queda donde está, al igual que cualquier acción que comprometa a la empresa con un cliente. Los pasos se mueven uno a uno, nunca todo el proceso a la vez. Eso es autonomía gobernada: la mayoría de las cotizaciones se procesan solas, alguna que otra llega al teléfono de un responsable y nadie se pregunta después quién aprobó qué.
→ Ver Ofelia para equipos de operaciones y ventas.
Ofelia y el "human-in-the-loop"
En toda la suite de Ofelia, el principio es el mismo: los agentes trabajan dentro de un marco definido por personas, las personas deciden y cada movimiento queda en la pista de auditoría. Dónde actúa un agente depende del producto.
En Ofelia Agentic, el asistente Ofelia actúa como agente en dos ámbitos. Cuando alguien hace una pregunta en Slack o Microsoft Teams, Ofelia busca en tu documentación aprobada, responde y guía el siguiente paso sin salir de la conversación. La persona mantiene el control de lo que sucede a continuación. Cuando el responsable de un proceso crea un workflow, Ofelia propone el modelo a partir de la documentación existente: los pasos, los responsables y los umbrales. El responsable del proceso lo revisa, lo edita con unos pocos clics, lo prueba en un entorno de pruebas y lo publica. Sin desarrolladores, sin tickets de TI y nada se pone en marcha sin esa validación.
Una vez publicado, el workflow se ejecuta en Ofelia Workflow, y es totalmente determinista. Establece los pasos, su orden, los responsables y los umbrales. Ningún agente decide la secuencia. Las tareas humanas llegan a la persona adecuada: el descuento que supera la política se dirige según el umbral al director de ventas, al COO o al CEO, y el enrutamiento se mantiene tras cualquier reorganización. Las tareas automatizadas del sistema actualizan el registro, archivan el documento y envían la notificación. Algunos pasos se asignan a un agente: preparar la cotización, comprobar el crédito y las condiciones de pago según la política, comparar las modificaciones con el manual de Legal. Ahí es donde el human-in-the-loop importa más: el workflow espera a que una persona valide el resultado del agente antes de continuar. En el caso del acuerdo anterior, Legal lee dos cláusulas, no siete. Cuando el cliente firma, nada comienza por sí solo: TI, Finanzas y Customer Success reciben una tarjeta en Slack o Teams para abrir el ticket de aprovisionamiento, enviar la factura o programar el kickoff, cuando estén listos.
En Bonita BPM, el mismo principio se aplica cuando el proceso requiere su propia aplicación. Las tareas humanas y las aprobaciones se modelan en BPMN 2.0 y se asignan por rol. El orquestador de agentes de IA delega un paso a un agente dentro de un proceso que mantiene el control: el agente actúa dentro del modelo, el proceso decide qué sucede después y una persona valida donde el modelo así lo indica. Más de 15 años ejecutando procesos para más de 130 empresas clientes, de bancos y ministerios a aseguradoras y distribuidores, nos han enseñado dónde debe ir esa validación.
Velocidad de la IA, control humano: en el descuento del 28%, el COO sigue decidiendo, en cuestión de minutos.
Descubre cómo Ofelia orquesta tus workflows, con una persona en el bucle
Fuentes
Unión Europea, Ley de IA, Artículo 14 (supervisión humana) y Artículo 12 (mantenimiento de registros). NIST, Marco de Gestión de Riesgos de IA 1.0. Gartner, comunicado de prensa de junio de 2025, más del 40% de los proyectos de IA agéntica serán cancelados para finales de 2027. Barómetro de la Cumbre Ofelia 2026 (orientativo, interno).