コンテキスト ウィンドウは、物事を見失う大きな部屋です

100 万トークンのコンテキストがあれば、メモリを管理する必要がなくなるように思えます。そうではありません。ウィンドウが大きくなるということは、モデルが重要な部分を静かに忘れるための場所が増えることを意味します。

長い資料を貼りまして、五十ページの議論の後、一ページについて質問をさせていただきました。モデルがウィンドウかどうかに関係なく、最近のものに重みを付けたため、答えはずれました。長さは理解ではありません。

勝てるツールは、最大の数値を持つツールではなく、適切なスライスを取得し、残りを要約し、何が抽出されたかを確認できるツールです。取り出しのない窓は、物を紛失しやすい大きな部屋になります。

コンテキスト サイズによってモデルを選択しないでください。見ているものを表示するかどうかで選択してください。検索性が高い小さなウィンドウは、毎回作業を隠す大きなウィンドウよりも優れています。