每个人都在追逐百万代币的背景。大多数工作不需要它。
GPT-6.1 Sol 现在提供了百万个代币的上下文,并且数字战争已经开始。我在这里想说的是,我的大部分工作都不需要它,追逐它会让结果变得更糟。
更大的上下文意味着更多的错误,更多的付出,以及更多的地方让模型失去你真正关心的线索。大小与相关性不同。
对于长文档工作,当然,给我窗口。对于日常问题,紧凑、范围明确的提示每次都会胜过大量的上下文。
将环境与工作相匹配。最大的背景是一项弹性,而不是一项功能,将其视为一个冗长、昂贵且奇怪地不太有用的答案。
