我通常将无聊的 80% 发送给廉价型号。你也应该这样做。
Claude Haiku 5.5 的价格比其前身便宜约 75%,这改变了我在人工智能上花钱的方式,而不是像你想象的那样。
Claude Haiku 5.5 的价格比其前身便宜约 75%,这改变了我在人工智能上花钱的方式,而不是像你想象的那样。
我的大多数呼叫都是大容量和低风险的:标记、总结、路由、快速子代理步骤。这些并不需要最大的型号,而为它们支付高价是导致账单膨胀的原因。
所以我路由。便宜、快速的模型可以处理 80% 的机械部分,而我只在实际显示质量的判断时才使用重型模型。最终用户读取的结果是相同的,并且成本只是一小部分。
Anthropic 的可调整思维工作和 OpenAI 的微型路由模型都指向同一方向:未来不是一个巨大的模型,而是一支配有调度员的车队。
停止为快速小型型号的出色工作支付旗舰价格。调度程序是真正的升级。
