Haiku 5.5 est si bon marché que j'ai arrêté d'accumuler des jetons
À dix cents par million d'entrées, le petit modèle de Claude a changé ma façon d'acheminer le travail.
Anthropic a publié Claude Haiku 5.5 le 7 octobre à un coût environ 75 % inférieur à celui de son prédécesseur – environ 0,10 $ d'entrée et 0,50 $ de sortie par million de jetons. Ce numéro a tranquillement changé mon architecture.
Avant, je regroupais chaque sous-tâche sur un seul grand modèle pour éviter les frais généraux liés à la réflexion sur le routage. Maintenant, j'envoie la classification, le routage et les brefs résumés à Haiku et je conserve le modèle coûteux pour les quelques étapes qui nécessitent du jugement.
L'économie ne se limite pas à la facture. C'est que je peux faire tourner le petit modèle en permanence, sur chaque message, sans broncher. Le grand modèle est devenu un régal et non un modèle par défaut.
Si vous créez quelque chose d'agentique, le prix par appel compte plus que le score maximal. Haiku 5.5 est l’argument en faveur d’une conception autour d’un routage bon marché.