Rutinariamente envío el 80% aburrido al modelo barato. Tú también deberías hacerlo.
Claude Haiku 5.5, aproximadamente un 75% más barato que su predecesor, cambió la forma en que gasto dinero en IA, y no de la forma que se podría pensar.
Claude Haiku 5.5, aproximadamente un 75% más barato que su predecesor, cambió la forma en que gasto dinero en IA, y no de la forma que se podría pensar.
La mayoría de mis llamadas son de gran volumen y de bajo riesgo: etiquetado, resumen, enrutamiento, pasos rápidos de subagente. Estos no necesitan el modelo más grande, y pagar mucho dinero por ellos es lo que hace que la factura se infle.
Entonces hago ruta. El modelo barato y rápido maneja el 80% que es mecánico, y saco el modelo pesado sólo para las decisiones donde la calidad realmente se nota. El resultado es el mismo para el usuario final y cuesta una fracción.
El esfuerzo de pensamiento ajustable de Anthropic y los pequeños modelos de enrutamiento de OpenAI apuntan en la misma dirección: el futuro no es un modelo gigante, es una flota con un despachador.
Deje de pagar precios emblemáticos por el trabajo que hace bien un modelo pequeño y rápido. El despachador es la verdadera mejora.
