Cómo diseñar la revisión humana en un agente de IA para una pyme

Decide qué puede ejecutar un agente, qué debe presentar para aprobación y cómo diseñar una parada útil ante incertidumbre.

Equipo enginerIT· 3 min de lectura

Tres modos de intervenir en el mismo proceso

“Una persona lo revisa” es una frase incompleta. Hay que definir qué ve, cuánto tiempo tiene, qué autoridad conserva y qué pasa cuando no responde. Este diseño transforma la supervisión de una promesa general en pasos observables dentro del proceso.

Clasifica las acciones por impacto y reversibilidad

Haz un inventario de las acciones que el agente podría preparar: resumir, etiquetar, crear una tarea, cambiar un registro, enviar una respuesta o detener una operación. Pregunta qué daño puede causar un error y cuánto cuesta recuperarse. Las decisiones irreversibles o con efecto externo necesitan una barrera más fuerte que un borrador interno.

Define qué significa aprobar

La aprobación debe identificar el cambio propuesto, su destino, la fuente de los datos y las condiciones relevantes. La persona necesita poder editar, rechazar o pedir aclaración. Si solo puede confirmar una salida sin ver de dónde sale, el paso añade fricción pero no permite juzgarla.

Pon reglas explícitas para detenerse

Escribe situaciones que bloquean la ejecución: identidad ambigua, dato vencido, fuentes contradictorias, permiso insuficiente, campo crítico ausente, acción fuera de alcance o fallo al registrar. A cada condición asígnale una cola, responsable y mensaje de estado que evite dar por completado el trabajo.

Asigna autoridad, no solo notificaciones

Determina quién puede aprobar qué tipo de cambio, qué ocurre durante una ausencia y cuándo escalar una tarea sin respuesta. No mandes todas las excepciones a una persona genérica. Si una acción afecta a una decisión comercial u operativa, la aprobación debe corresponder al rol que ya tiene esa autoridad.

Guarda un registro que permita reconstruir

Conserva entrada, datos consultados, propuesta, versión de reglas, aprobador, modificaciones, resultado y errores relevantes. Limita lo que se almacena a lo necesario y define quién puede verlo. Un registro útil responde qué cambió, por qué, con qué permiso y cómo corregirlo.

Ensaya rechazo, timeout y fallo parcial

Prueba qué pasa si la persona rechaza, modifica, no responde o aprueba mientras el sistema de destino está caído. Evita crear dos veces una acción por reintento. La interfaz debe mostrar si el cambio quedó pendiente, se ejecutó o necesita reconciliación.

Revisa los límites al ampliar

Un piloto aprobado no convierte automáticamente todos los casos en seguros. Al incorporar nuevos canales, clientes, sistemas o acciones, revisa permisos, excepciones y autoridad. Compara correcciones y escalados con el equipo y cambia el grado de autonomía solo con una decisión documentada.

No uses una señal de confianza como aprobación

Una puntuación interna puede ayudar a decidir si se muestra una propuesta o se deriva, pero no prueba que la salida sea correcta. Define qué evidencia debe acompañar a cada campo crítico y qué umbral se ha validado con ejemplos. Si no hay calibración útil, usa reglas explícitas y revisión en vez de presentar una cifra como garantía.

Permite pausar y corregir el proceso

El equipo debe poder desactivar una acción, volver al tratamiento manual y encontrar los casos que quedaron a medias. Define quién puede pausar, cómo se avisa a las personas afectadas y cómo se reconcilian cambios ya enviados. Esa recuperación es parte del control humano, igual que aprobar antes de ejecutar.

Empieza por escribir las acciones que se pueden deshacer.

Para cada una, define impacto, responsable, fuente de datos, aprobación, parada y recuperación. Usa esa tabla para decidir si el agente prepara, pide aprobación o puede ejecutar dentro de límites.

Cuéntanos qué necesitas →