Haiku 5.5 bei Ten Cents brachte mich dazu, 80 Prozent meiner Anrufe an das Billigmodell weiterzuleiten

Claude Haiku 5.5 kostet etwa zehn Cent pro Million ausgegebener Token, und diese einzelne Zahl hat meine Art zu bauen verändert. Bei den meisten Anrufen, die ich führe, handelt es sich um hohe Volumina und geringe Einsätze: Klassifizierung, Zusammenfassung, Weiterleitung. Sie brauchen das Flaggschiff nicht.

Früher habe ich alles an das große Modell geschickt, weil es am einfachsten war. Dann kam die Rechnung und ich erfuhr, dass „am einfachsten“ in aller Stille das teuerste war. Haiku schafft die langweiligen 80 Prozent für einen Bruchteil und ich merke den Qualitätsabfall kaum.

Die 20 Prozent, die hart, nuanciert oder anspruchsvoll sind, gehen immer noch an das teure Modell. Das ist die ganze Erkenntnis: Passen Sie das Modell an die Einsätze an, nicht an Ihre Gewohnheiten.

Wenn Sie Ihr Routing noch nicht nach Kosten durchführen, zahlen Sie zu viel für das Privileg, nicht darüber nachdenken zu müssen. Das günstige Modell ist viel häufiger gut genug, als die Preisseite vermuten lässt.