Cómo revisar la exactitud de los datos que infiere un agente de IA

Distingue las clases de información

Etiqueta como declarado, extraído, calculado o inferido el dato que genera el flujo. Indica si procede de la persona, un documento o un modelo. Un rótulo visible evita que una hipótesis se copie como atributo confirmado en el siguiente sistema.

Mantén la referencia a la fuente

Relaciona cada campo importante con documento, página, mensaje o registro del que procede y conserva fecha y versión. Si no hay fuente, marca el valor como inferencia sin confirmar. La procedencia ayuda al revisor a contrastar el resultado y corregirlo sin reconstruir toda la conversación.

Representa incertidumbre con estados útiles

Define valores como pendiente de confirmar, conflicto entre fuentes o no disponible. No fuerces cada salida a un campo completo. Si el modelo ofrece una puntuación, comprueba qué significa en esa tarea antes de usarla como probabilidad de exactitud.

Separa lectura de decisión

Una categoría como “cliente prioritario” puede derivarse de señales indirectas y cambiar la atención que recibe una persona. Especifica si el agente solo organiza una cola o si la clasificación afecta precios, servicio o elegibilidad. Eleva a revisión cualquier uso que pueda tener consecuencias para la persona.

Contrasta campos con muestras originales

Toma casos variados y compara valor generado con la fuente, incluyendo formatos degradados, abreviaturas y documentos corregidos. Mide omisiones, confusiones y falsos positivos por campo. Un promedio global puede esconder que un dato concreto falla más que el resto.

Gestiona conflictos sin sobrescribir

Si CRM, documento y mensaje contienen valores distintos, conserva las versiones y crea una tarea para quien puede resolverlas. No elijas automáticamente el dato más reciente sin comprobar su vigencia. Registra quién validó la corrección y cuál fuente se consideró autoritativa.

Impide actualizaciones silenciosas

Durante el piloto, deja inferencias en una vista de revisión o en un campo separado. Antes de actualizar el dato maestro, muestra valor anterior, propuesta, fuente y responsable que aprueba. Conserva una ruta de corrección si la inferencia ya se compartió con otras herramientas.

Revisa sesgos y cambios del sistema

Compara resultados entre tipos de documentos, canales y grupos pertinentes para la tarea. Comprueba de nuevo al cambiar modelo, prompt, catálogo o fuente de recuperación. Un resultado aceptable en una muestra no prueba que todas las entradas se procesen igual.

Actualiza el análisis y el procedimiento

Entrega métricas, usos de inferencias, errores y correcciones a las personas responsables de privacidad y negocio. Si cambia la finalidad o el efecto de la clasificación, solicita una nueva revisión antes de ampliar el uso. Mantén estas decisiones junto a la versión desplegada.

Fuentes y documentación

• AEPD — Inteligencia artificial agéntica desde la perspectiva de protección de datos — Orientación de la Agencia Española de Protección de Datos publicada en febrero de 2026. Es una guía de análisis; la aplicación a cada tratamiento debe revisarla la organización con sus responsables de privacidad.
• AEPD — Innovación y Tecnología: calidad y exactitud de datos en tratamientos con IA — La AEPD publica orientaciones sobre exactitud, idoneidad y calidad de datos en tratamientos de IA; revisar los documentos asociados para aplicarlos al caso.