10센트의 Haiku 5.5 덕분에 내 통화의 80%가 저렴한 모델로 연결되었습니다.

Claude Haiku 5.5의 비용은 백만 출력 토큰당 약 10센트이며, 그 단 하나의 숫자가 제가 구축하는 방식을 바꾸었습니다. 내가 거는 대부분의 통화는 분류, 요약, 라우팅 등 볼륨이 크고 위험이 낮은 통화입니다. 기함은 필요하지 않습니다.

저는 빅모델이 제일 쉽기 때문에 모든 걸 다 보내곤 했어요. 그러다가 청구서가 도착했고 '가장 쉬운' 것이 조용히 가장 비싼 것임을 알게 되었습니다. Haiku는 지루한 80% 작업을 잠시 수행하지만 품질 저하를 거의 느끼지 못합니다.

까다롭거나, 미묘하거나, 위험이 큰 20%는 여전히 값비싼 모델에 적용됩니다. 이것이 전체적인 통찰입니다. 습관이 아니라 이해관계에 맞게 모델을 연결하세요.

아직 비용으로 라우팅하지 않는다면, 그것에 대해 생각하지 않는 특권에 대해 초과 지불하고 있는 것입니다. 저렴한 모델은 가격 페이지에서 암시하는 것보다 훨씬 더 자주 좋습니다.