LLM 幻觉双根因诊断

模型自信答错通常是两个交织的根因：

1. 幻觉倾向：模型像"非常聪明且过度热心的 6 岁小孩"——即使不知道也要给你一个好听的答案。它本质是概率引擎（预测最可能的下一段词），不是查概念库；因此"听起来权威、干净、结构化"与"正确"完全是两回事。
2. 数据缺失：知识截止 + 付费墙/私有内容不在训练数据里——模型根本没见过你要它引用的材料，再聪明也答不对。

两者互相放大：越缺数据，幻觉越有空间填补。解法方向一致：在提问时把正确材料喂进上下文（context stuffing/RAG），既补数据又压缩编造空间。作者当时注明 OpenAI 等基础模型公司在积极改善幻觉，但它仍然常见。

判断价值：拿到一个错误输出时，先问"它是没数据，还是有数据也会编？"——前者修检索/语料，后者修 prompt 约束与验证。