La guerre des prix à 2 $/10 $ a discrètement changé le modèle que je recherchais
Quelque chose d’étrange s’est produit début octobre et la plupart des gens l’ont remarqué : trois des plus grands laboratoires d’IA ont atterri à peu près au même prix. GPT-6.1 Sol d'OpenAI, Claude Sonnet 5.5 d'Anthropic et Gemini 4 Argon de Google ont tous réglé environ 2 $ par million de jetons d'entrée et 10 $ par sortie, à environ neuf jours d'intervalle. Haiku 5.5 était environ 90 % moins cher que le modèle qu'il a remplacé, et GPT-6 Sol a chuté d'environ la moitié. La guerre des prix est réelle et elle change ma façon de travailler.
Pendant la majeure partie de cette année, j’ai traité le modèle premium comme modèle par défaut, car l’écart en valait la peine. L’écart s’est réduit à presque rien sur le prix tandis que l’écart de qualité est resté. Ainsi, mon habitude de toujours rechercher l’option la plus chère n’a plus de sens, sauf pour les tâches spécifiques où un modèle est clairement meilleur.
Les chiffres derrière cela sont concrets. Gemini 4 Argon rapporte un taux d'hallucinations de 15 % sur un benchmark contre 51 % pour GPT-6 Astra, c'est pourquoi je le souligne sur un travail approfondi et volumineux. La famille 5,5 de Claude affiche les scores de codage agent les plus élevés publiés, c'est pourquoi mon code y va. Le Haiku bon marché gère le marquage et le résumé sur lesquels je gaspillais un produit phare.
Ce que j’ai arrêté de faire, c’est de payer des prix phares pour des travaux mécaniques. Un itinéraire qui envoie les 80 % ennuyeux vers un petit modèle rapide et réserve le modèle lourd aux décisions de jugement lit la même chose à l'utilisateur final et coûte une fraction. Les répartiteurs des laboratoires expédient les marchandises de la même manière.
La leçon n'est pas si bon marché, c'est mieux. C’est que la différence de prix justifiait un défaut, et maintenant ce n’est plus le cas. Choisissez le modèle adapté, car la facture ne fait plus le choix à votre place.