J'envoie régulièrement les 80 % ennuyeux au modèle bon marché. Vous devriez aussi.

Claude Haiku 5.5, à environ 75 % moins cher que son prédécesseur, a changé la façon dont je dépense de l'argent en IA, et pas de la manière qu'on pourrait le penser.

La plupart de mes appels sont à volume élevé et à faibles enjeux : marquage, synthèse, routage, étapes rapides pour les sous-agents. Ceux-ci n’ont pas besoin du plus gros modèle, et payer le prix fort pour eux est la façon dont une facture gonfle.

Alors je route. Le modèle bon marché et rapide gère les 80 % qui sont mécaniques, et je sors le modèle lourd uniquement pour les jugements où la qualité se voit réellement. Le résultat est identique pour l'utilisateur final et coûte une fraction.

L'effort de réflexion adaptable d'Anthropic et les minuscules modèles de routage d'OpenAI vont dans le même sens : l'avenir n'est pas un modèle géant, c'est une flotte avec un répartiteur.

Arrêtez de payer des prix phares pour le travail qu'un petit modèle rapide fait très bien. Le répartiteur est la véritable mise à niveau.