작은 모델이 내 작업 흐름을 이겼습니다

프론티어 모델이 헤드라인을 장식했지만, 작고 저렴하며 빠른 모델이 조용히 내 일상 업무를 대신했습니다. 요약, 추출, 분류만 하면 되는데 비용은 10분의 1 수준이다.

2026년 9월 가격 전쟁이 이를 명백히 드러냈습니다. OpenAI의 GPT-6 Luna(백만 토큰당 10센트) 및 DeepSeek 및 GLM의 유사한 예산 계층은 저렴한 모델이 이제 대부분의 대량 작업에 충분하며 절감 효과가 대량으로 실현된다는 것을 의미합니다.

나는 진정으로 필요한 몇 가지 작업, 어려운 추론, 까다로운 코드를 위해 값비싼 프론티어 모델을 예약하고 작은 모델이 수백 개의 작은 작업을 처리하도록 합니다. 분할은 중요한 품질을 저하시키지 않고 비용을 절감했습니다.

교훈은 '싼 것이 최고'가 아니다. '모델을 업무에 맞추는 것'입니다. 요약본에 대해 최전선 가격을 지불하는 것은 상처에 붕대를 감아주기 위해 외과의사를 고용하는 것과 같습니다.

AI 비용이 높으면 실제로 큰 모델이 필요한 것이 무엇인지 감사하십시오. 아마도 대부분은 그렇지 않다는 것을 알게 될 것입니다. 그리고 작은 모델은 내내 기다리고 있었습니다.