Qué casos deben bloquear una ampliación de autonomía

Describe el salto de autoridad

Pasar de redactar a enviar no es solo ahorrar un clic. Enumera destinatarios, volumen, recursos y acciones que quedarán al alcance. Distingue permiso técnico de autorización del negocio. Una cuenta que ya puede escribir no significa que la empresa haya aprobado que el agente decida cuándo hacerlo. Conserva la configuración actual para poder restaurar el alcance previo.

Construye un expediente de bloqueos

Incluye acciones fuera de alcance, identidad ambigua, derivaciones perdidas, reintentos con resultado incierto y cambios que nadie sabe reconciliar. Relaciona cada defecto con la nueva acción. Por ejemplo hipotético, un destinatario incorrecto es eliminatorio antes de habilitar envío aunque los borradores anteriores recibieran buenas notas. No uses un promedio de satisfacción para compensarlo.

Exige pruebas del control y de su fallo

Comprueba aprobación rechazada, permiso revocado y ausencia de revisor. Ensaya que la aplicación impida la acción cuando falte una condición, no solo que el modelo diga que se detiene. OWASP señala funcionalidad, permisos y autonomía excesivos como dimensiones diferentes; revisar una no elimina los riesgos de las otras. Comprueba también si la intervención humana realmente puede impedir el efecto antes de que ocurra.

Cierra cada bloqueo sin convertir el silencio en aceptación

Asigna propietario, corrección y ensayo requerido. Una persona con autoridad operativa decide si se mantiene el alcance, se reduce o se prueba una ampliación limitada. Documenta riesgos residuales y señales de pausa. Si falta evidencia para una nueva acción, conserva el modo de preparación mientras la reúnes. Repite los casos asociados tras cambios de modelo, herramienta o política: la autorización obtenida para una configuración no cubre automáticamente todas las siguientes.

Incluye un ensayo del mecanismo de pausa desde una cuenta autorizada distinta de la del desarrollador. Si nadie del equipo operativo puede detener la nueva capacidad cuando el proveedor no responde, existe un bloqueo de mantenimiento aunque las respuestas de prueba sean correctas.

Fuentes y documentación

• OWASP — Excessive Agency — Distingue funcionalidad, permisos y autonomía excesivos.
• NIST — AI RMF Core — Marco voluntario para asignar responsabilidades y gestionar riesgos durante el ciclo de vida.