Tout le monde poursuit un contexte d'un million de jetons. La plupart des travaux n’en ont pas besoin.

GPT-6.1 Sol fournit désormais un contexte d'un million de jetons, et la guerre des chiffres est lancée. Je suis ici pour dire que la plupart de mon travail n'en a pas besoin, et que le poursuivre peut aggraver les résultats.

Un contexte plus large signifie plus de erreurs, plus de frais à payer et plus d'endroits où le modèle perd le fil qui vous intéresse réellement. La taille n’est pas la même chose que la pertinence.

Pour les travaux comportant de longs documents, bien sûr, donnez-moi la fenêtre. Pour la question de tous les jours, une invite précise et bien ciblée bat à chaque fois une lance à incendie de contexte.

Faites correspondre le contexte au travail. Le contexte le plus important est une flexibilité, pas une fonctionnalité, et le traiter comme tel produit des réponses longues, coûteuses et curieusement moins utiles.