Eu rotineiramente envio os 80% chatos para o modelo barato. Você também deveria.
Claude Haiku 5.5, cerca de 75% mais barato que seu antecessor, mudou a forma como gasto dinheiro em IA, e não da maneira que você imagina.
Claude Haiku 5.5, cerca de 75% mais barato que seu antecessor, mudou a forma como gasto dinheiro em IA, e não da maneira que você imagina.
A maioria das minhas chamadas são de alto volume e baixo risco: marcação, resumo, roteamento, etapas rápidas de subagentes. Eles não precisam do modelo maior, e pagar caro por eles é como uma nota aumenta.
Então eu roteio. O modelo barato e rápido lida com 80% que é mecânico, e eu trago o modelo pesado apenas para os julgamentos onde a qualidade realmente aparece. O resultado é lido da mesma forma para o usuário final e custa uma fração.
O esforço de pensamento ajustável da Anthropic e os pequenos modelos de roteamento da OpenAI apontam na mesma direção: o futuro não é um modelo gigante, é uma frota com um despachante.
Pare de pagar preços emblemáticos pelo trabalho que um modelo pequeno e rápido funciona bem. O despachante é a verdadeira atualização.
