Agentes de IA con control humano: dónde poner las validaciones

Un agente de IA sin supervisión es un riesgo y un agente con supervisión en todo es un coste. La pregunta útil no es si poner a una persona en el circuito, sino dónde. Esta guía te da cuatro niveles de autonomía, una herramienta para elegir el tuyo y diez controles que usamos en proyectos con clientes.

Descargar la guía en PDFProbar la herramienta

Mujer en una oficina luminosa revisando un panel de aprobaciones en una pantalla con la mano sobre el ratón

La respuesta en un minuto

Pon a una persona donde un error sea difícil de deshacer o afecte a un cliente, a dinero o a datos personales, y deja que el agente trabaje solo en lo demás. La autonomía no es un interruptor: son cuatro niveles, y cada tarea de un mismo agente puede estar en uno distinto.

Un buen diseño no hace que la persona rehaga el trabajo: le deja validar un resultado con criterios claros.

Cuatro niveles de autonomía

Casi todas las discusiones sobre «control humano» se resuelven al ponerle nombre al nivel. Estos son los cuatro que usamos al diseñar un agente:

1 · SugiereLa persona hace2 · PreparaLa persona aprueba3 · Actúa y avisaRevisión posterior4 · Actúa solaRevisión por muestreoMás autonomía y más ahorro
A más autonomía, más ahorro y más exposición. El nivel correcto depende de lo que cuesta un error, no de lo bueno que sea el modelo.
Qué significa cada nivel en la práctica
NivelEjemploDónde está la persona
1 · SugierePropone una respuesta a una reclamaciónEscribe y envía ella
2 · Prepara y esperaDeja el reembolso preparado con el importe y el motivoAprueba antes de que se ejecute
3 · Actúa y avisaClasifica y etiqueta tickets, y avisa de lo que no encajaRevisa a posteriori y puede deshacer
4 · Actúa solaExtrae datos de documentos de formato fijoRevisa una muestra y vigila las métricas

Elige el nivel de tu agente

Responde sobre lo que hace tu agente. La recomendación y los controles asociados se actualizan al momento. Se calcula en tu navegador y no se guarda nada.

–

    Controles que te recomendamos para este caso

      Recibir mi resultado por email
      Dos compañeros ante una pantalla, uno señala un resultado y la otra lo revisa con atención
      La validación útil no es un clic automático: es alguien con criterio que sabe qué mirar.

      Lo que enseñan los proyectos reales

      En los proyectos de agentes que hemos entregado, la persona no está en el mismo sitio. Esto es lo que dicen los casos publicados:

      Dónde está la persona en cinco proyectos publicados
      ProyectoLo que hace la IADónde interviene una persona
      Avatar TC (The Clueless)Genera caras, variaciones, modelos y contenidoCinco puertas de validación por rol (cara, variaciones, LoRA, pack web y contenido), con registro de quién validó y cuándo
      Agente de soporte (MyTopTour)Clasifica tickets y consulta reservas en HubSpot y SalesforceRevisión en cambios, cancelaciones y quejas; los datos personales se enmascaran antes de llegar al modelo
      WaylaResponde el correo de soporte de empresas de viajesDeriva a una persona cuando no hay una respuesta fiable; ningún agente se publica sin simulaciones aprobadas y la firma de una persona
      LinkedFlowEjecuta flujos de prospección y personaliza mensajesLímites, ventanas horarias, espaciado entre acciones y cortacircuitos; la automatización se detiene sola cuando el prospecto responde
      Agente de voz (Cabify Empresas)Llama, responde objeciones, cualifica y agendaLa reunión posterior la sigue haciendo una persona del equipo comercial

      Hay un patrón: la persona aparece en el punto de decisión o de salida, no en el trabajo intermedio. El agente hace lo laborioso y la persona valida lo que importa. Por eso en Avatar TC el tiempo humano baja de unas 14 horas por avatar a unas 3 según nuestra estimación, aunque hay cinco validaciones por medio.

      Diez controles antes de publicar

      Esta es la lista que repasamos antes de poner un agente delante de clientes. No es exhaustiva, pero cada punto ha evitado un problema real.

      1. Un responsable con nombre

        Una persona concreta responde de lo que hace el agente. «El equipo» no es un responsable.

      2. Casos de prueba reales antes de activar

        Simula al menos cincuenta casos con datos de verdad, incluidos los difíciles. Publica solo con resultados aprobados y firmados.

      3. Un camino claro hacia una persona

        El cliente debe poder hablar con alguien sin pelearse con el agente. Y el agente debe saber cuándo derivar.

      4. Umbral de confianza

        Si no hay una respuesta fiable, deriva. Un «no lo sé» es mejor que una invención.

      5. Límites duros

        Importe máximo, número de acciones por hora y ventanas horarias. Los límites los impone el sistema, no se piden en el texto de instrucciones.

      6. Datos personales protegidos

        Enmascara lo que no necesite el modelo, define cuánto se conserva y quién puede verlo.

      7. Registro de todo

        Qué recibió, qué decidió, quién lo aprobó y con qué versión del modelo y de las instrucciones.

      8. Interruptor de parada

        Que cualquier persona del equipo pueda detener el agente en un clic, sin pedir permiso a desarrollo.

      9. Prueba de regresión cuando algo cambia

        Un cambio de modelo, de instrucciones o de datos puede romper lo que funcionaba. Repite los casos de prueba antes de desplegar.

      10. Revisión periódica

        Al principio, revisión semanal de una muestra de conversaciones. Después, mensual: errores, derivaciones y quejas.

      Qué dice la normativa

      La normativa no te obliga a poner a una persona en todo, pero sí en algunos puntos concretos. Resumimos lo que más nos preguntan:

      • Reglamento europeo de IA (UE 2024/1689). Para los sistemas de alto riesgo, el artículo 14 exige que se diseñen para poder ser vigilados eficazmente por personas. Y el artículo 50 obliga a informar a quien interactúa con un sistema de IA, salvo que sea evidente.
      • RGPD, artículo 22. Las personas tienen derecho a no ser objeto de una decisión basada únicamente en un tratamiento automatizado que produzca efectos jurídicos o les afecte de modo significativo. Si el agente decide sobre créditos, empleo o reclamaciones, necesitas una persona que intervenga.

      Esto no es asesoramiento jurídico. Si tu agente toca decisiones sobre personas, dinero o salud, consulta con tu asesoría legal o con tu delegado de protección de datos antes de publicarlo.

      Guía en PDF

      Llévate esta guía y aplícala en tu empresa

      La versión descargable para leer sin conexión, compartir con tu equipo o llevar a una reunión. La descargas al momento y te la enviamos también al correo.

      • Los cuatro niveles de autonomía
      • Dónde está la persona en cinco proyectos reales
      • Los diez controles antes de publicar
      • Qué dicen el Reglamento de IA y el RGPD

      Sin spam. Si quieres, además te escribimos con un caso real y una plantilla para aplicarla; te das de baja cuando quieras.

      Responsable: VA360 Labs, S.L. Finalidad: enviarte la guía, atender tu consulta si lo pides y, solo si lo aceptas, enviarte contenidos por correo. Legitimación: tu consentimiento. Destinatarios: no se ceden datos a terceros. Derechos: acceso, rectificación, supresión y oposición escribiendo al responsable. Más información en la política de privacidad.

      Preguntas frecuentes

      ¿Qué es un agente de IA con control humano?

      Es un agente que prepara o ejecuta tareas pero cuyas decisiones de más riesgo pasan por una persona antes de producir efectos: enviar un mensaje a un cliente, mover dinero, cambiar un dato maestro. Se suele llamar human in the loop (persona en el circuito).

      ¿Dónde tiene que haber siempre una persona?

      Donde el error sea difícil de deshacer o afecte a un cliente, a dinero o a datos personales: cambios, cancelaciones, reclamaciones, pagos y comunicaciones nuevas con un cliente. En esos puntos el agente prepara y una persona aprueba.

      ¿La supervisión humana elimina el ahorro?

      No si se diseña bien. En el proyecto de Avatar TC, la plataforma exige cinco validaciones humanas por avatar y aun así reduce el tiempo humano por avatar de unas 14 horas a unas 3 según nuestra estimación. La clave es que la persona valide resultados con criterios claros, no que rehaga el trabajo.

      ¿Hay que informar al cliente de que habla con una IA?

      Es una buena práctica y, según el caso, una obligación. El Reglamento europeo de IA exige informar a las personas cuando interactúan con un sistema de IA, salvo que sea evidente. Recomendamos hacerlo siempre y dejar una vía clara para hablar con una persona.

      ¿Cada cuánto hay que revisar un agente en producción?

      Al principio, a diario o por muestreo semanal de conversaciones; después, con una revisión mensual de errores y escaladas y una prueba de regresión cada vez que cambia el modelo, el prompt o los datos. Un agente que funcionó ayer puede fallar hoy si cambia el modelo que lo sostiene.

      Fuentes y transparencia

      Casos donde lo aplicamos

      Más guías

      ¿Quieres aplicarlo a tu empresa?

      En una primera conversación revisamos tus procesos con este mismo método y te decimos, con números, si compensa y por dónde empezar. Sin compromiso.