Haiku 5.5 ist so günstig, dass ich aufgehört habe, Token zu horten
Mit zehn Cent pro Million Eingabe veränderte Claudes kleines Modell die Art und Weise, wie ich meine Arbeit weiterleite.
Anthropic veröffentlichte Claude Haiku 5.5 am 7. Oktober zu etwa 75 % geringeren Kosten als sein Vorgänger – etwa 0,10 US-Dollar Ein- und 0,50 US-Dollar Ausgabe pro Million Token. Diese Zahl hat meine Architektur stillschweigend verändert.
Früher habe ich jede Unteraufgabe in einem großen Modell zusammengefasst, um den Aufwand zu vermeiden, der mit der Weiterleitung verbunden ist. Jetzt sende ich Klassifizierung, Routing und kurze Zusammenfassungen an Haiku und behalte das teure Modell für die wenigen Schritte, die einer Beurteilung bedürfen.
Die Ersparnis ist nicht nur die Rechnung. Es liegt daran, dass ich das kleine Modell ständig und bei jeder Nachricht ausführen kann, ohne mit der Wimper zu zucken. Das große Modell wurde zu einem Leckerbissen, nicht zum Standard.
Wenn Sie etwas Agentisches entwickeln, ist der Preis pro Anruf wichtiger als der Spitzenwert. Haiku 5.5 ist das Argument dafür, bei der Entwicklung auf billiges Routing zu setzen.