Cómo definir cuándo un agente de IA pide aprobación humana

Clasificar la acción por impacto

Anota qué cambia para cliente, dinero, servicio, acceso o información. Una etiqueta administrativa y una cancelación de pedido no tienen la misma consecuencia. Incluye posibilidad de que una acción sea enviada a la persona incorrecta o aplicada a registros relacionados.

Evaluar reversibilidad y velocidad

Un borrador se corrige fácilmente; un correo enviado, pago, baja o corte puede ser difícil de revertir. Si el agente realiza muchos cambios en segundos, la ventana humana de respuesta es pequeña. Esa combinación suele justificar aprobación previa, límites o despliegue gradual.

Medir incertidumbre con señales explicables

Usa campos ausentes, fuentes contradictorias, identidad no confirmada, baja calidad de extracción y herramienta no disponible como causas explícitas. Un porcentaje de confianza del modelo no sustituye la política. Cada condición debe tener un camino concreto de aclaración, revisión o parada.

Dar contexto suficiente a quien aprueba

Muestra solicitud original, fuentes, cambios propuestos, destinatario, efecto, límites y cómo revertir. El botón de aceptar no es útil si la persona no puede inspeccionar el cambio. Evita botones de aprobación genéricos que autorizan operaciones múltiples sin delimitar alcance.

Asignar autoridad y tiempo

Define quién puede aprobar, en qué horario y qué ocurre si no responde. La cola debe escalar por impacto y mostrar plazo, no caducar hacia una acción automática. Una persona sin conocimientos o autoridad no puede servir de control efectivo para una decisión especializada.

Registrar revisión y resultado

Guarda quién revisó, qué versión aprobó, qué corrección hizo y el estado confirmado después. Mide cambios rechazados, aprobaciones rápidas, errores encontrados y tiempo de cola. Si nadie modifica borradores, comprueba si son correctos o si la interfaz presiona a aceptar.

Revisar el nivel con datos reales

Tras un piloto, ajusta fronteras por acción, no elevando autonomía de todo el agente. Una tarea de lectura puede seguir automática mientras cambios de cuenta requieren aprobación. Revalida después de cambios de modelo, permisos, política o proveedor y mantén forma inmediata de pausa.

Fuentes y documentación

• NIST AI RMF — Generative AI Profile — NIST señala que la IA generativa puede requerir distintas configuraciones de supervisión según el riesgo y uso.
• NIST AI RMF — Govern and Map functions — Describe roles, alcance de uso y supervisión como parte de gestión de riesgo.