Guía de VA360 Labs · va360labs.com
Agentes de IA con control humano: dónde poner las validaciones
Un agente de IA sin supervisión es un riesgo y un agente con supervisión en todo es un coste. La pregunta útil no es si poner a una persona en el circuito, sino dónde. Esta guía te da cuatro niveles de autonomía, una herramienta para elegir el tuyo y diez controles que usamos en proyectos con clientes.

La respuesta en un minuto
Pon a una persona donde un error sea difícil de deshacer o afecte a un cliente, a dinero o a datos personales, y deja que el agente trabaje solo en lo demás. La autonomía no es un interruptor: son cuatro niveles, y cada tarea de un mismo agente puede estar en uno distinto.
Un buen diseño no hace que la persona rehaga el trabajo: le deja validar un resultado con criterios claros.
Cuatro niveles de autonomía
Casi todas las discusiones sobre «control humano» se resuelven al ponerle nombre al nivel. Estos son los cuatro que usamos al diseñar un agente:
| Nivel | Ejemplo | Dónde está la persona |
|---|---|---|
| 1 · Sugiere | Propone una respuesta a una reclamación | Escribe y envía ella |
| 2 · Prepara y espera | Deja el reembolso preparado con el importe y el motivo | Aprueba antes de que se ejecute |
| 3 · Actúa y avisa | Clasifica y etiqueta tickets, y avisa de lo que no encaja | Revisa a posteriori y puede deshacer |
| 4 · Actúa sola | Extrae datos de documentos de formato fijo | Revisa una muestra y vigila las métricas |
Elige el nivel de tu agente
Responde sobre lo que hace tu agente. La recomendación y los controles asociados se actualizan al momento. Se calcula en tu navegador y no se guarda nada.
Controles que te recomendamos para este caso

Lo que enseñan los proyectos reales
En los proyectos de agentes que hemos entregado, la persona no está en el mismo sitio. Esto es lo que dicen los casos publicados:
| Proyecto | Lo que hace la IA | Dónde interviene una persona |
|---|---|---|
| Avatar TC (The Clueless) | Genera caras, variaciones, modelos y contenido | Cinco puertas de validación por rol (cara, variaciones, LoRA, pack web y contenido), con registro de quién validó y cuándo |
| Agente de soporte (MyTopTour) | Clasifica tickets y consulta reservas en HubSpot y Salesforce | Revisión en cambios, cancelaciones y quejas; los datos personales se enmascaran antes de llegar al modelo |
| Wayla | Responde el correo de soporte de empresas de viajes | Deriva a una persona cuando no hay una respuesta fiable; ningún agente se publica sin simulaciones aprobadas y la firma de una persona |
| LinkedFlow | Ejecuta flujos de prospección y personaliza mensajes | Límites, ventanas horarias, espaciado entre acciones y cortacircuitos; la automatización se detiene sola cuando el prospecto responde |
| Agente de voz (Cabify Empresas) | Llama, responde objeciones, cualifica y agenda | La reunión posterior la sigue haciendo una persona del equipo comercial |
Hay un patrón: la persona aparece en el punto de decisión o de salida, no en el trabajo intermedio. El agente hace lo laborioso y la persona valida lo que importa. Por eso en Avatar TC el tiempo humano baja de unas 14 horas por avatar a unas 3 según nuestra estimación, aunque hay cinco validaciones por medio.
Diez controles antes de publicar
Esta es la lista que repasamos antes de poner un agente delante de clientes. No es exhaustiva, pero cada punto ha evitado un problema real.
Un responsable con nombre
Una persona concreta responde de lo que hace el agente. «El equipo» no es un responsable.
Casos de prueba reales antes de activar
Simula al menos cincuenta casos con datos de verdad, incluidos los difíciles. Publica solo con resultados aprobados y firmados.
Un camino claro hacia una persona
El cliente debe poder hablar con alguien sin pelearse con el agente. Y el agente debe saber cuándo derivar.
Umbral de confianza
Si no hay una respuesta fiable, deriva. Un «no lo sé» es mejor que una invención.
Límites duros
Importe máximo, número de acciones por hora y ventanas horarias. Los límites los impone el sistema, no se piden en el texto de instrucciones.
Datos personales protegidos
Enmascara lo que no necesite el modelo, define cuánto se conserva y quién puede verlo.
Registro de todo
Qué recibió, qué decidió, quién lo aprobó y con qué versión del modelo y de las instrucciones.
Interruptor de parada
Que cualquier persona del equipo pueda detener el agente en un clic, sin pedir permiso a desarrollo.
Prueba de regresión cuando algo cambia
Un cambio de modelo, de instrucciones o de datos puede romper lo que funcionaba. Repite los casos de prueba antes de desplegar.
Revisión periódica
Al principio, revisión semanal de una muestra de conversaciones. Después, mensual: errores, derivaciones y quejas.
Qué dice la normativa
La normativa no te obliga a poner a una persona en todo, pero sí en algunos puntos concretos. Resumimos lo que más nos preguntan:
- Reglamento europeo de IA (UE 2024/1689). Para los sistemas de alto riesgo, el artículo 14 exige que se diseñen para poder ser vigilados eficazmente por personas. Y el artículo 50 obliga a informar a quien interactúa con un sistema de IA, salvo que sea evidente.
- RGPD, artículo 22. Las personas tienen derecho a no ser objeto de una decisión basada únicamente en un tratamiento automatizado que produzca efectos jurídicos o les afecte de modo significativo. Si el agente decide sobre créditos, empleo o reclamaciones, necesitas una persona que intervenga.
Esto no es asesoramiento jurídico. Si tu agente toca decisiones sobre personas, dinero o salud, consulta con tu asesoría legal o con tu delegado de protección de datos antes de publicarlo.
Guía en PDF
Llévate esta guía y aplícala en tu empresa
La versión descargable para leer sin conexión, compartir con tu equipo o llevar a una reunión. La descargas al momento y te la enviamos también al correo.
- Los cuatro niveles de autonomía
- Dónde está la persona en cinco proyectos reales
- Los diez controles antes de publicar
- Qué dicen el Reglamento de IA y el RGPD
- Y tu resultado de la herramienta, que nos llega para prepararte la respuesta.
Sin spam. Si quieres, además te escribimos con un caso real y una plantilla para aplicarla; te das de baja cuando quieras.
Preguntas frecuentes
¿Qué es un agente de IA con control humano?
Es un agente que prepara o ejecuta tareas pero cuyas decisiones de más riesgo pasan por una persona antes de producir efectos: enviar un mensaje a un cliente, mover dinero, cambiar un dato maestro. Se suele llamar human in the loop (persona en el circuito).
¿Dónde tiene que haber siempre una persona?
Donde el error sea difícil de deshacer o afecte a un cliente, a dinero o a datos personales: cambios, cancelaciones, reclamaciones, pagos y comunicaciones nuevas con un cliente. En esos puntos el agente prepara y una persona aprueba.
¿La supervisión humana elimina el ahorro?
No si se diseña bien. En el proyecto de Avatar TC, la plataforma exige cinco validaciones humanas por avatar y aun así reduce el tiempo humano por avatar de unas 14 horas a unas 3 según nuestra estimación. La clave es que la persona valide resultados con criterios claros, no que rehaga el trabajo.
¿Hay que informar al cliente de que habla con una IA?
Es una buena práctica y, según el caso, una obligación. El Reglamento europeo de IA exige informar a las personas cuando interactúan con un sistema de IA, salvo que sea evidente. Recomendamos hacerlo siempre y dejar una vía clara para hablar con una persona.
¿Cada cuánto hay que revisar un agente en producción?
Al principio, a diario o por muestreo semanal de conversaciones; después, con una revisión mensual de errores y escaladas y una prueba de regresión cada vez que cambia el modelo, el prompt o los datos. Un agente que funcionó ayer puede fallar hoy si cambia el modelo que lo sostiene.
Fuentes y transparencia
- Reglamento (UE) 2024/1689 de Inteligencia Artificial, artículos 14 (supervisión humana) y 50 (transparencia)
- VA360 Labs. Caso Avatar TC (The Clueless): cinco puertas de validación humana
- VA360 Labs. Caso MyTopTour: agente de soporte con revisión humana en cambios, cancelaciones y quejas
- Las fotografías de esta guía están generadas con IA y no muestran personas ni empresas reales. Los diagramas y la herramienta son de VA360 Labs.
- Las cifras de nuestros proyectos proceden de los informes de entrega y se explican en cada caso. Los ejemplos con números que no son de un caso se indican como ilustrativos.
¿Hablamos? Escríbeme por WhatsApp