Qué hacer cuando un agente mezcla datos de dos documentos

Delimita el cruce antes de reprocesar

Conserva entrada, documentos disponibles y salida problemática en un circuito con acceso limitado. Identifica qué valores pertenecen a otro expediente y si ya alimentaron una acción. Si se enviaron o registraron datos incorrectos, activa la corrección operativa prevista con el responsable correspondiente. No borres la evidencia al lanzar una nueva extracción ni repitas una escritura para comprobar si ahora sale bien.

Busca el primer vínculo equivocado

Comprueba identificadores de expediente, cliente, documento y fragmento. Revisa si la búsqueda devolvió documentos fuera del ámbito, si se agruparon adjuntos de dos solicitudes o si la respuesta reutilizó contexto de una interacción anterior. Compara los datos devueltos por cada etapa: el modelo puede mezclar material bien recuperado, pero también puede estar recibiendo un lote ya contaminado. La solución depende de dónde comienza el error.

Añade procedencia por campo

Relaciona cada valor importante con documento y localización, conservando la versión. Valida que el documento pertenece al caso antes de admitir el campo. Si una respuesta combina fuentes legítimas, exige una regla explícita para hacerlo; por ejemplo, qué dato se obtiene del pedido y cuál del catálogo. La similitud del nombre comercial no demuestra identidad. Los controles de acceso deben aplicarse también en la recuperación, sin confiar únicamente en instrucciones al modelo.

Repite con documentos deliberadamente parecidos

Prepara un ensayo autorizado con dos clientes de nombre similar, números cercanos y campos intercambiables. Asegura que una cifra correcta pero de otro documento se rechaza. Añade sesiones consecutivas para detectar contexto residual y lotes con adjuntos desordenados. Tras corregir la causa, busca otros resultados que pasaron por el mismo camino. El criterio de cierre debe incluir ausencia de cruces en los casos de prueba y revisión de los expedientes ya afectados.

Fuentes y documentación

• OWASP · Misinformation — Contraste de afirmaciones y límites de confianza en respuestas generadas.
• NIST · AI RMF Core — Marco voluntario para documentar medidas y límites de la evaluación.