Cherri Code Router
Cherri Code Router es el sistema de enrutamiento inteligente de Auto. Dirige cada solicitud al modelo más adecuado para la tarea, con los modos coste, Equilibrio e Inteligencia.
¿Qué es Cherri Code Router y en qué se diferencia del modo Auto anterior?
Cherri Code Router es el modo Auto renovado. Un clasificador de aprendizaje automático enruta cada solicitud de Auto a un pool de modelos, en lugar de que tengas que elegir uno tú mismo.
En lugar de elegir un modelo específico, seleccionas Auto. El router analiza cada solicitud y la envía al modelo que ofrece resultados comparables a un coste menor para esa tarea.
En comparación con el modo Auto anterior:
- Auto heredado ahora se llama coste en el menú de selección de Auto
- Equilibrio es el modo predeterminado para los usuarios nuevos
- Todos los modos Auto se facturan al precio de lista del modelo al que se enruta la solicitud
Consulta los modelos disponibles para conocer el pool de enrutamiento actual.
¿Cómo decide Cherri Code Router qué modelo usar para mi solicitud?
Un clasificador de aprendizaje automático procesa cada solicitud de agente y la enruta según el tipo y la complejidad de la tarea. Las solicitudes sencillas se dirigen a modelos rápidos y rentables. Las tareas complejas se dirigen a modelos de vanguardia.
El objetivo es elegir el modelo más económico que siga ofreciendo resultados comparables para esa solicitud. El enrutamiento se basa en datos y no se puede configurar para cada solicitud. Puedes orientar los resultados eligiendo un modo de optimización: coste, Equilibrio o Inteligencia.
Si un modelo está bloqueado en tu equipo, el router lo omite y recurre a una alternativa de la lista de permitidos. Bloquear modelos obligatorios puede desactivar el router por completo. Consulta los modelos disponibles para obtener más información.
¿Qué son los modos de optimización coste, Equilibrio e Inteligencia y cómo alterno entre ellos?
Abre el selector de modelos, selecciona Auto y luego elige un modo de optimización:
- coste: Optimiza el gasto de tokens.
- Equilibrio: El modo predeterminado para los usuarios nuevos. Busca resultados sólidos y controla el coste en todo el pool de modelos.
- Inteligencia: Enruta las solicitudes a modelos más capaces. Recomendado para tareas complejas de varios pasos. Ofrece una calidad entre un 20 y un 30 % mayor al seleccionar modelos propios del pool.
Los administradores de equipo pueden limitar los modos que ven los miembros y establecer el modo predeterminado del equipo. Consulta gestionar tu equipo para ver los controles de administrador.
¿Puedo usar Cherri Code Router desde el SDK?
Sí. En el SDK de TypeScript y el SDK de Python, Router usa el ID de modelo auto-smart y el parámetro optimize_for se establece en cost, balanced o intelligence. Primero, llama a Cherri Code.models.list() para confirmar que Router está disponible para el equipo asociado a la clave de API.