私が実際に頼っている最安モデル
トークンあたり 10 分の 1 セントの Haiku 5.5 は、単にお金を節約しただけではありません。それにより、私が自動化するのに苦労する仕事が変わりました。
以前は、フロンティア価格の価値があると思われるタスクについては、モデル呼び出しを予約していました。入力 100 万件あたり 0.10 ドルで、Haiku 5.5 ではそのしきい値が削除されました。現在、使い捨て分類、スパムトリアージ、「重複しているのはどれか」チェックはすべて、コストが丸め誤差であるため、モデル呼び出しを取得します。
貯金よりも行動の変化の方が重要でした。推論がほぼ無料になると、推論をため込むのをやめ、「電話をかける価値がない」という理由でスキップしていた小さな自動化が存在し始めます。本当の時間はそこにあります。
この教訓は「安ければいい」というものではありません。 It's that price changes the shape of what you build. At this rate, a whole class of tiny agents becomes worth running, and the frontier model gets reserved for the moments that earn it.
