首页 / 幻觉
😵 幻觉 是什么？
幻觉就是AI在胡说八道——它会用非常自信的语气告诉你一件根本没发生过的事。
⚡ 一句话秒懂
幻觉就是AI在胡说八道——它会用非常自信的语气告诉你一件根本没发生过的事。
📖 举个故事
你问班里出了名的「故事大王」小李：「听说北方冬天会下糖？」小李一本正经地说：「对！哈尔滨每年12月会从天上降落白糖，当地人叫甜雪。这是因为冷空气和糖厂的蒸汽相遇形成的自然奇观。」
你听得一愣一愣的。小李不是故意骗人，他只是太爱编故事了，而且讲得特别像真的。AI的幻觉也一样——它不是恶意的，只是它被训练来「生成合理的内容」，而不是「生成真实的内容」。它不知道什么时候该说「我不知道」。所以它会自信地编造。
💡 类比理解
暂未补充。
🧩 真实例子
暂未补充。
🛠️ 怎么实际使用
你用AI查一个法律条款：「2024年新出台的数据安全法说了什么？」AI回答：「根据第37条规定，企业必须为每个数据主体缴纳数据保护费。」
你去找了原文，发现根本没有第37条，也没有数据保护费。AI把多项法律条文揉在一起创造了一个新条款。这就是幻觉。所以用AI查事实信息时，一定要去核实原始出处——AI是优秀的起草者，但不是可靠的事实核查员。
📚 进阶原理
幻觉指模型生成看似合理但实际错误的内容。根源：LLM本质是下一个token预测器，训练目标不是事实准确性而是语言连贯性。常见类型：事实性错误（编造数据）、逻辑矛盾（前后不一致）、忠实度缺失（偏离用户意图）。
缓解方法：检索增强生成（RAG，让AI先查资料再回答）、约束解码（限制输出范围）、温度调低（减少创造性）。但即使最好的模型也无法完全消除幻觉。使用时需区分创意场景（可接受幻觉）和事实场景（需严格验证）。