決定モデルのゴールドラッシュ: なぜ誰もが小型モデルを今月出荷したのか

10月初旬に奇妙な出来事が起こりました。研究所は、より大きなチャット モデルの代わりに、ユーザーの状態と入力された質問を受け取り、1 回のパスで選択肢、スコア、または確率を返す小さな「意思決定」モデルを出荷しました。

OpenAI は 10 月 6 日に GPT-6 Luna を Decisions API の背後に置き、出力料金なしで 100 万入力トークンあたり 0.10 ドルで、Responses API よりも約 10 倍高速な回答を約束しました。 CloudflareがClef、pplx-deciderのPerplexityが0.04ドル、MicrosoftのDecision-1が0.042ドル、Liquid AIがコンシューマー向けGPUで8ミリ秒で応答するd1モデルと続いた。

魅力は単純です。製品内のほとんどの「AI」呼び出しは、偽装された分類です。電子メールがスパムであるかどうか、またはユーザーがどの層に属するかを判断するための推論モデルは必要ありません。 20 億パラメータのモデルは、わずか 1 セントでそれを実現します。

AWS は Strands Decider 2B もオープンソース化しているため、すべてを独自のハードウェアで実行できます。ここでの商品の波は本物であり、主力レースよりも速く進んでいます。

まだフロンティアモデルに1日に何千回も「はい」か「いいえ」の意思決定を促すのであれば、今月のリリースは直接の税金の還付となります。