Cómo definir una lista de herramientas permitidas para un agente
Una lista de herramientas permitidas debe especificar operaciones concretas, condiciones y dueño.
Equipo enginerIT· 2 min de lectura
Una lista de herramientas permitidas debe especificar operaciones concretas, condiciones y dueño. No autorices simplemente «el CRM» o «el correo»: consultar una ficha, modificarla y enviar un mensaje son capacidades diferentes. La aplicación debe rechazar cualquier llamada que no encaje en el catálogo aprobado.
Parte de resultados necesarios
Para cada tarea, describe qué resultado exige una herramienta y qué puede resolverse sin ella. Un resumen de incidencias quizá necesite buscar casos y leer sus campos, pero no cerrar tickets. Anota nombre técnico, sistema, operación, entorno y datos accesibles. Si dos herramientas hacen lo mismo, justifica ambas o elimina la redundante para reducir caminos difíciles de supervisar.
Define el alcance junto al propietario
El dueño del proceso decide para qué se puede usar cada operación; quien administra el sistema concede solo el acceso técnico necesario. Ninguno de esos pasos reemplaza al otro. Establece empresas, registros, campos y límites de volumen cuando correspondan. Evita incluir una herramienta genérica que acepte consultas o comandos arbitrarios si el caso solo requiere una búsqueda acotada.
Publica al modelo lo que puede proponer
Describe las entradas y efectos de cada operación para reducir propuestas equivocadas. La documentación de función ayuda a elegir y formar llamadas, pero el servidor sigue comprobando identidad, alcance y estado. Una herramienta ausente del catálogo del modelo tampoco debe poder ejecutarse por otra ruta sin control. Revisa alias, versiones antiguas y funciones auxiliares que puedan mantener accesos olvidados.
Prueba el catálogo como una política
Solicita una operación inexistente, un registro de otra empresa y una llamada válida fuera del entorno permitido. El ejecutor debe denegarlas con un motivo que permita corregir el caso sin revelar información ajena. Guarda versión del catálogo y responsable de cada alta. Al añadir una herramienta, repite las pruebas relacionadas: una nueva capacidad de exportación puede cambiar el riesgo de consultas antes inocuas. La guía de funciones de OpenAI describe el intercambio entre modelo y aplicación; que el modelo proponga una llamada no constituye autorización para ejecutarla.
Comprobaciones para cerrar la tarea
- ✓ Asignar dueño y entorno a cada operación.
- ✓ Intentar invocar una herramienta fuera del catálogo.
- ✓ Revisar alias y versiones que todavía puedan ejecutarse.
Fuentes y documentación
- OpenAI: llamadas a funciones — La aplicación ejecuta las funciones; el ajuste al esquema no acredita autorización ni corrección comercial.
- OWASP: autorización — La autorización debe aplicarse a las peticiones y a su contexto, con privilegios mínimos.
Aplicarlo en tu empresa
Podemos revisar el entorno y acordar qué actuaciones, validaciones y mantenimiento necesitas.
Conocer el servicio relacionado →