의사결정 모델 골드 러시: 이번 달에 모두가 작은 모델을 출시한 이유

10월 초에 이상한 일이 일어났습니다. 더 큰 채팅 모델 대신 연구소에서는 사용자의 상태와 입력된 질문을 받아 한 번에 선택 사항, 점수 또는 확률을 반환하는 작은 '의사 결정' 모델을 제공했습니다.

OpenAI는 10월 6일 Decisions API에 GPT-6 Luna를 추가하여 출력 요금 없이 입력 토큰 백만 개당 0.10달러로 Responses API보다 약 10배 빠른 답변을 약속했습니다. Cloudflare는 Clef, Perplexity(pplx-decider 포함 $0.04 $0.04, Microsoft Decision-1 포함 $0.042, Liquid AI(d1 모델 포함))가 소비자 GPU에서 8밀리초 내에 응답합니다.

매력은 간단합니다. 제품에 포함된 대부분의 'AI' 호출은 위장된 분류입니다. 이메일이 스팸인지 또는 사용자가 어느 계층에 속하는지 결정하기 위해 추론 모델이 필요하지 않습니다. 20억 개의 매개변수 모델은 단 몇 푼의 비용으로 이를 수행합니다.

AWS는 오픈 소스 Strands Decider 2B까지 제공하므로 자체 하드웨어에서 모든 것을 실행할 수 있습니다. 여기의 상품 물결은 현실이며 주력 경쟁보다 빠르게 움직이고 있습니다.

여전히 개척 모델에게 하루에 수천 번씩 예-아니요 전화를 하도록 요청하고 있다면 이번 달 릴리스는 직접 세금 환급입니다.