10월의 조용한 이야기: 방금 결정한 작은 모델들
Perplexity, Cloudflare, Microsoft 및 AWS는 모두 의사 결정 모델을 제공했습니다. 가장 좋은 방법은 저렴하고 현지적이며 지루합니다.
모두가 대형 챗봇을 보는 동안 다른 카테고리가 출시되었습니다. 즉, 문단이 아닌 선택 항목을 반환하는 의사결정 모델입니다.
Perplexity의 pplx-decider-v1-27b는 무료 출력으로 입력 토큰 백만 개당 약 4센트로 실행됩니다. Cloudflare의 Clef와 AWS의 Strands Decider는 자체 호스팅할 수 있는 유사한 작업을 수행합니다.
요점은 영리함이 아닙니다. 지루한 통화에는 비용과 대기 시간이 필요합니다. 이 티켓을 라우팅하고, 이 입력을 분류하고, 이 작업을 선택하세요.
빌더에게 이것은 다른 주력 제품보다 더 유용한 릴리스입니다. 4센트짜리 결정은 백만 달러짜리 에세이를 만드는 데 드는 2달러짜리 에세이보다 낫습니다.
이보다 더 많은 것을 기대하십시오. AI의 상품 계층은 빠르게 저렴해지고 있으며, 여기에서 제품이 만들어집니다.
