Ich schicke routinemäßig die langweiligen 80 % an das billige Modell. Das sollten Sie auch.
Claude Haiku 5.5 ist etwa 75 % günstiger als sein Vorgänger und hat die Art und Weise, wie ich Geld für KI ausgebe, verändert, und zwar nicht auf die Art und Weise, wie man denken würde.
Claude Haiku 5.5 ist etwa 75 % günstiger als sein Vorgänger und hat die Art und Weise, wie ich Geld für KI ausgebe, verändert, und zwar nicht auf die Art und Weise, wie man denken würde.
Bei den meisten meiner Anrufe handelt es sich um ein hohes Volumen und geringe Einsätze: Markieren, Zusammenfassen, Weiterleiten, schnelle Schritte durch Subagenten. Dafür braucht es nicht das größte Modell, und wenn man dafür den höchsten Preis zahlt, steigt die Rechnung in die Höhe.
Also route ich. Das billige, schnelle Modell bewältigt die 80 % mechanischen Aufgaben, und das schwere Modell nehme ich nur für Beurteilungen heraus, bei denen sich die Qualität tatsächlich zeigt. Das Ergebnis sieht für den Endbenutzer gleich aus und kostet nur einen Bruchteil.
Der anpassbare Denkansatz von Anthropic und die winzigen Routing-Modelle von OpenAI weisen in die gleiche Richtung: Die Zukunft ist kein riesiges Modell, sondern eine Flotte mit einem Dispatcher.
Hören Sie auf, Spitzenpreise für die Arbeit zu zahlen, die ein schnelles kleines Modell gut leistet. Der Dispatcher ist das eigentliche Upgrade.
