저는 일상적으로 지루한 80%를 저렴한 모델로 보냅니다. 당신도 그래야 합니다.
이전 제품보다 약 75% 저렴한 Claude Haiku 5.5는 여러분이 생각하는 방식이 아니라 AI에 돈을 쓰는 방식을 바꾸었습니다.
이전 제품보다 약 75% 저렴한 Claude Haiku 5.5는 여러분이 생각하는 방식이 아니라 AI에 돈을 쓰는 방식을 바꾸었습니다.
내 통화의 대부분은 태그 지정, 요약, 라우팅, 빠른 하위 에이전트 단계 등 볼륨이 크고 위험이 낮은 통화입니다. 그것들은 가장 큰 모델이 필요하지 않으며, 그것들을 위해 최고 달러를 지불하는 것은 청구서가 부풀어 오르는 방식입니다.
그래서 경로를 지정합니다. 저렴하고 빠른 모델은 기계적인 부분의 80%를 처리하고, 무거운 모델은 품질이 실제로 나타나는 판단을 위해서만 꺼냅니다. 결과는 최종 사용자에게 동일하게 읽혀지며 비용은 아주 적습니다.
Anthropic의 조정 가능한 사고 노력과 OpenAI의 작은 라우팅 모델은 같은 방향을 가리킵니다. 미래는 하나의 거대한 모델이 아니라 파견자가 있는 함대입니다.
빠른 소형 모델이 잘 수행하는 작업에 대해 주력 가격을 지불하지 마십시오. 디스패처는 진정한 업그레이드입니다.
