Die stille Geschichte des Oktobers: Kleine Models, die einfach entscheiden
Perplexity, Cloudflare, Microsoft und AWS haben alle Entscheidungsmodelle geliefert. Günstig, lokal und im besten Sinne langweilig.
Während alle die großen Chatbots beobachteten, wurde eine andere Kategorie eingeführt: Entscheidungsmodelle, die eine Auswahl und keinen Absatz zurückgeben.
Der pplx-decider-v1-27b von Perplexity läuft bei etwa vier Cent pro Million Input-Tokens mit kostenloser Ausgabe. Clef von Cloudflare und Strands Decider von AWS erledigen ähnliche Aufgaben, die Sie selbst hosten können.
Es geht nicht um Klugheit. Es sind Kosten und Latenz für die langweiligen Anrufe: Leiten Sie dieses Ticket weiter, klassifizieren Sie diese Eingabe, wählen Sie diese Aktion aus.
Für Bauherren ist dies die nützlichere Version als ein anderes Flaggschiff. Eine Vier-Cent-Entscheidung übertrifft einen Zwei-Dollar-Aufsatz, wenn Sie davon eine Million machen.
Erwarten Sie mehr davon. Die Massenware der KI wird immer günstiger, und dort werden Produkte hergestellt.
Aktualisiert am 28. Oktober 2026: Die folgende Kategorie ist seitdem nur gewachsen – jede große Plattform bietet jetzt eine an.
Häufig gestellte Fragen:
F: Was können Entscheidungsmodelle leisten?
A: Die langweiligen Anrufe: Dieses Ticket weiterleiten, diese Eingabe klassifizieren, diese Aktion auswählen. Sie geben eine Auswahl zurück, keinen Absatz.
F: Wie viel kosten sie?
A: Perplexitys pplx-decider-v1-27b kostet bei freier Ausgabe etwa vier Cent pro Million Eingabe-Tokens; Clef von Cloudflare und Strands Decider von AWS sind ähnlich und selbsthostbar.
F: Warum sind sie ein größeres Angebot als andere Flaggschiffe?
A: Eine Vier-Cent-Entscheidung übertrifft einen Zwei-Dollar-Aufsatz, wenn Sie davon eine Million machen. Auf der Rohstoffschicht werden Produkte hergestellt.