首页 / 上下文(Context)

📖 上下文(Context) 是什么?

AI 的上下文就像它的工作台,摊开的材料越多,它越能连贯干活。

核心概念

⚡ 一句话秒懂

AI 的上下文就像它的工作台,摊开的材料越多,它越能连贯干活。

📖 举个故事

老周在客服后台跟 AI 助手聊了一个小时,从退换货聊到发票。突然他问:“那我刚才说的订单号是多少?”AI 答不上来。老周很恼火,客服主管解释:“它每次对话能记住的内容有限,聊太久了,最早那几句就被‘挤’出去了。”老周这才明白,原来 AI 不是记性差,是“桌子”就这么大,放不下的东西只能先收起来。

💡 类比理解

暂未补充。

🧩 真实例子

暂未补充。

🛠️ 怎么实际使用

开发 Agent 时,把聊天历史、工具返回结果、系统提示拼在一起,共同占用上下文窗口。窗口快满时,用摘要压缩旧对话(如把 20 轮对话压成一段要点),或做向量检索只取相关片段,保证关键信息不丢、响应不超限。

📚 进阶原理

上下文窗口是模型能同时处理的 token 上限(如 128K),超出部分会被截断或报错。Agent 框架常用滑动窗口、摘要化(summarization)和 RAG 检索控制上下文占用。注意“lost in the middle”现象:长上下文中模型对中段信息注意力衰减,关键指令应放在开头和结尾。

继续学习相关术语