Jeder jagt einen Millionen-Token-Kontext. Die meisten Arbeiten brauchen es nicht.
GPT-6.1 Sol liefert jetzt einen Millionen-Token-Kontext und der Zahlenkrieg ist im Gange. Ich möchte hiermit sagen, dass die meisten meiner Arbeiten dies nicht benötigen und dass die Verfolgung die Ergebnisse verschlechtern kann.
Ein größerer Kontext bedeutet, dass mehr Fehler gemacht werden können, dass mehr bezahlt werden muss und dass das Modell an mehr Orten den Faden verlieren kann, der Ihnen eigentlich am Herzen liegt. Größe ist nicht dasselbe wie Relevanz.
Geben Sie mir für die Aufträge mit langen Dokumenten natürlich das Fenster. Bei alltäglichen Fragen ist eine knappe, gut abgegrenzte Eingabeaufforderung jedes Mal besser als jede Menge Kontext.
Passen Sie den Kontext an die Stelle an. Der größte Kontext ist ein Flex, kein Feature, und wenn man ihn so behandelt, erhält man Antworten, die langwierig, teuer und seltsamerweise weniger nützlich sind.