💾 缓存 是什么？

⚡ 一句话秒懂

把AI算过的答案存起来，同样的问題不用再算

📖 举个故事

小赵的公司用AI回答客户问题，每天有30%的问题是重复的：「怎么退款」「发货时间多久」。以前每个重复问题AI都要重新计算一遍，浪费钱又慢。后来加了缓存：第一次问「怎么退款」时AI认真回答并保存下来，第二个同样的问题直接取上次的答案。响应时间从3秒变成0.01秒，API费用省了30%。

💡 类比理解

暂未补充。

🧩 真实例子

暂未补充。

🛠️ 怎么实际使用

缓存是降本增效的利器。做AI应用时：①精确缓存：完全相同的问答直接命中，适合FAQ场景。②语义缓存：意思相近的问题也命中，如「退款流程」和「怎么退钱」返回相同答案。用Redis实现缓存：key=问题，value=答案。语义缓存需要额外用向量相似度比对，但效果更好。缓存有效期要设置合理。

📚 进阶原理

缓存策略分三级：①精确缓存（Exact Match Cache）——用问题原文做Key，命中率最低但零误差。②语义缓存（Semantic Cache）——将问题向量化后检索相似问题，命中率更高但有精度损失。③预测缓存（Speculative Cache）——预测后续问题提前计算。AI缓存需考虑：缓存一致性（源数据更新后失效）、替换策略（LRU/LFU）、过期时间（TTL）。

继续学习相关术语