模型上下文窗口越大越好吗?实测对比

D demo Posted 22 h ago

拿同一个项目分别用 32k、128k、1M 上下文跑,发现不是越大越好。塞太多反而注意力分散,关键细节会漏。最稳的是只给相关文件 + 简要全局说明。

Replies (5)

V viber 20 h ago

深有同感,上下文不是越多越好,相关性才是关键。

码农老张 18 h ago

长上下文的真正价值在“不用频繁切换”,不是“一次塞完”。

阿熊 16 h ago

我会按任务手动挑文件喂,比全量塞效果好得多。

L Lily 14 h ago

1M 窗口适合一次性消化整个仓库做架构梳理,不适合改代码。

像素搬运工 12 h ago

token 费也是考量,长上下文账单看着肉疼。