플래그십 모델에 대한 비용 지불을 중단하고 저렴한 모델을 유지한 이유
탑 모델은 나에게 한때 깊은 인상을 남겼다. 싼 사람은 하루에 40번 일을 합니다. 나는 내가 어떤 청구서를 떨어뜨렸는지 알고 있습니다.
책임감을 느꼈기 때문에 1년 동안 가장 유능한 계획에 비용을 지불했습니다. 그런 다음 실제로 요청한 내용을 살펴보았습니다. 이 문장을 다시 작성하고, 이 스레드를 요약하고, 이 티켓을 분류했습니다. 그중 어느 것도 살아있는 가장 똑똑한 모델이 필요하지 않았습니다.
전환점은 내 프롬프트의 스프레드시트였습니다. 아마도 20명 중 1명은 어려운 추론 작업이었을 것입니다. 나머지 19개는 속도와 볼륨이었습니다. 저렴한 모델은 이미 충분히 뛰어나서 눈 깜짝할 사이에 돌아옵니다.
그래서 저는 일상적인 작업을 저가형 계층으로 옮기고 까다로운 아키텍처 호출, 촘촘한 법률 문단, 반격하는 버그 등 진정으로 어려운 부분에 대해서만 플래그십을 유지했습니다. 내 청구서가 구독료 대부분만큼 줄어들었고 대기 시간도 줄었습니다.
품질이 중요한 부분에서 떨어질 것이라는 두려움이 있었습니다. 그렇지 않았습니다. 어떤 작업이 어려웠는지 솔직하게 밝혔기 때문입니다. 실수는 초보자 질문에 대해 최고 가격을 지불하는 것이었습니다.
프롬프트가 대부분 일상적이라면 경주용 자동차를 빌려 커피를 가져오는 것입니다. 통근을 다운그레이드하고, 힘든 일을 업그레이드하세요.
자주 묻는 질문:
Q: 저렴한 모델은 어려운 작업에서 실수를 하지 않나요?
A: 네, 그렇기 때문에 어려운 작업은 유능한 모델에 남아 있습니다. 습관이 아닌 어려움에 따라 경로를 지정하십시오.
Q: 어떤 프롬프트가 '일상'인지 어떻게 알 수 있나요?
A: 일주일 동안 기록해 보세요. 패턴은 이틀 안에 분명해집니다.
Q: 플래그십은 그만한 가치가 있나요?
A: 틀리면 비용이 많이 드는 몇 가지 작업의 경우입니다. 나머지 95%에게는 해당되지 않습니다.