Cómo decidir qué tareas pueden pasar a un modelo más pequeño

Busca fronteras sencillas de reconocer

Elige tareas acotadas, con entradas conocidas y salidas verificables: extraer determinados campos o clasificar entre etiquetas aprobadas. La dificultad aparente de una frase no basta para decidir. Define condiciones observables como extensión, formato, presencia de datos críticos o necesidad de varias herramientas. Quien mantiene el proceso debe poder explicar por qué una solicitud sigue una ruta.

Prueba las categorías por separado

Compara resultados de la configuración vigente y la candidata sobre las mismas entradas y fuentes. Cuenta campos críticos erróneos, correcciones, derivaciones y llamadas adicionales. AWS recomienda ajustar la selección del modelo a los requisitos reales. No traslades una mejora en clasificación a tareas de negociación o respuesta documental sin probarlas por su cuenta.

Calcula el coste de la segunda oportunidad

Si el modelo pequeño falla o no cumple un requisito, decide si se deriva a una persona o se repite con otra configuración. Incluye ambos consumos y el tiempo adicional en el cálculo. La señal de derivación debe basarse en comprobaciones útiles; una declaración de confianza del modelo no garantiza que haya acertado. Evita enviar automáticamente la misma operación de escritura por dos rutas.

Publica una tabla de enrutamiento

Documenta categoría, entrada admitida, modelo, validación, alternativa y responsable. Empieza por un grupo limitado y observa especialmente solicitudes mal clasificadas. Prueba un caso que parece sencillo pero contiene una excepción crítica. El objetivo es aprobar una frontera de uso con límites medidos; las pruebas generales de regresión siguen siendo necesarias cuando cambie cualquier modelo, pero no sustituyen esta decisión de reparto del trabajo.

Evita fronteras basadas en datos prohibidos

La ruta no debe exigir recopilar información adicional que no necesita la finalidad. Utiliza características operativas disponibles y autorizadas. Si la clasificación de entrada es incierta, conserva esa incertidumbre y aplica la alternativa acordada; no presentes la ruta escogida como prueba de que la tarea era realmente sencilla.

Fuentes y documentación

• AWS: selección de modelos — Orienta la elección de modelos según requisitos de la tarea.