首页 / 上下文窗口
🪟 上下文窗口 是什么？
上下文窗口就是AI的短期记忆上限——它一次能记住多少内容，超出就忘了。
⚡ 一句话秒懂
上下文窗口就是AI的短期记忆上限——它一次能记住多少内容，超出就忘了。
📖 举个故事
你给朋友讲一个长长的故事，朋友认真听了前面10分钟。继续讲下去，朋友开始走神：「诶，刚才那个叫张三的是谁？你说过吗？」——朋友的上限可能就是10分钟的故事。
AI的上下文窗口也是这个道理。比如某模型上下文窗口是8000个token，你上传一本5万字的书让它总结，它只看了前8000个token就开始回答了，书后半段的内容它根本不知道。就像开会时听前10分钟就下结论，后面讲了什么一概不知。
💡 类比理解
暂未补充。
🧩 真实例子
暂未补充。
🛠️ 怎么实际使用
你让AI帮你审阅一份50页的合同。如果AI模型的上下文窗口只有8000token，它只能读前面大约15页。后面的条款它完全没看到，做出的风险评估就漏了重要信息。
你选模型时得看上下文窗口大小。处理长文档选128K或200K窗口的模型（如Claude、GPT-4-128K）。短对话用8K窗口就够了。现在主流模型从8K到1M不等——1M窗口可以一次处理全套三体三部曲。
📚 进阶原理
上下文窗口指模型单次推理能处理的最大token数。窗口内包含系统提示词、历史对话和当前输入。超出部分模型完全无法感知——没有索引、没有记忆、没有外部存储。
长上下文的技术挑战：Transformer自注意力机制的计算复杂度是O(n²)，窗口翻倍算力需求翻四倍。优化技术包括FlashAttention（加速计算）、RoPE位置编码扩展、滑动窗口注意力和KV cache管理。2024年窗口从4K逐步扩展到1M以上。