10 セントの Haiku 5.5 により、通話の 80 パーセントを安価なモデルに転送することができました

Claude Haiku 5.5 のコストは 100 万出力トークンあたり約 10 セントで、この 1 つの数字が私の構築方法を変えました。私が行う電話のほとんどは、分類、要約、ルーティングなど、量が多くリスクも低いものです。彼らには旗艦は必要ない。

それが一番簡単だったので、私はすべてを大きなモデルに送っていました。その後、請求書が届き、「最も簡単」が密かに最も高価であることがわかりました。 Haiku は退屈な部分の 80% を部分的に実行しますが、品質の低下にはほとんど気づきません。

難しい、微妙な、または一か八かの 20 パーセントは、依然として高価なモデルに割り当てられます。これが洞察の全体です。モデルを自分の習慣ではなく、賭け金に合わせてください。

まだコストに基づいてルーティングを行っていない場合は、コストについて考えないという特権に対して過剰な支払いをしていることになります。価格ページが示すよりも、安価なモデルでも十分に優れていることがよくあります。