誰もが 100 万トークンのコンテキストを追いかけています。ほとんどの作業では必要ありません。

GPT-6.1 Sol には 100 万トークンのコンテキストが同梱されており、数の戦いが始まっています。私がここで言いたいのは、私の仕事のほとんどにはそれが必要ではなく、それを追いかけることは結果を悪化させる可能性があるということです。

コンテキストが大きくなると、より多くの間違いが発生し、より多くの代償を払うことになり、モデルが実際に関心のあるスレッドを失う可能性が高くなります。サイズと関連性は同じではありません。

長い文書の仕事については、もちろん私に任せてください。日常的な質問については、毎回、厳密で範囲を絞ったプロンプトが、コンテキストの消防ホースを打ち破ります。

コンテキストをジョブに合わせます。最大のコンテキストは機能ではなくフレックスであり、それを機能のように扱うと、長くて高価で、奇妙なほど役に立たない答えが生成されます。