🟡 幻觉是怎么来的？AI 为什么一本正经地胡说八道
🟡 幻觉是怎么来的？AI 为什么一本正经地胡说八道
它编出一篇你没写过的论文， 还配上完整的作者、年份、期刊页码。 这不是 bug，是 LLM 的架构副作用。
🟡 AI 通识专栏 · 第 14 期 📅 2026年6月30日 ✍️ 小敏说 AI
💡 本文要点：幻觉（Hallucination）是 LLM 最被诟病也最被误解的问题。本文讲清三件事：幻觉不是”AI 在撒谎”而是架构决定的、为什么消除幻觉极其困难、五个让幻觉率下降 80% 的实操技巧。读完你能让 AI 在工作场景中真正可用。
🎯 本文导读
- 🔹 幻觉的本质：自信地”填空”
- 🔹 三大幻觉来源
- 🔹 为什么消除幻觉这么难
- 🔹 5 个降低幻觉率的实操技巧
- 🔹 一个”识别 AI 在编”的快速方法
一、🎭 先看结论：幻觉不是 AI 在”撒谎”
人类撒谎是知道真相但故意说错。 AI 幻觉是不知道真相，但被训练成”必须流畅作答”。
| 情况 | 人类反应 | AI 反应 |
|---|---|---|
| 知道答案 | 答对 | 答对 |
| 不确定 | “我不太确定” | 挑一个最像答案的字编下去 |
| 完全不知 | “不知道” | 挑一个最像答案的字编下去 |
🎯 一句话总结：幻觉本质上是 “概率模型不知道’我不知道’是个选项”。
二、🔍 幻觉的三大来源
1️⃣ 训练数据本身有错
互联网充斥错误信息。模型把错的当对的学了。
- 维基百科的某个错误条目
- 论坛里的民间科学
- 旧版本的事实（已被推翻）
2️⃣ 训练数据没覆盖（最常见）
模型从来没见过这事，但又必须答——它只能根据”类似的事一般怎么说”硬编。
例子：你问”小明 2024 年 8 月发表的论文”,模型可能从来没见过这个人，但训练数据里”X 在 Y 年发表论文”的句式很多，于是它就编一个看起来很像的出来。
3️⃣ 训练目标决定了它”必须自信”
LLM 训练时被奖励”生成流畅文本”，没人奖励它”承认不知道”。结果就是——
它学会了一种”自信流畅地胡说八道”的本领。
| 来源 | 占比（估计） | 缓解方式 |
|---|---|---|
| 数据错误 | 20% | 提高数据质量 |
| 数据盲区 | 60% | RAG 检索外部知识 |
| 训练激励 | 20% | RLHF 教它说”不知道” |
💬 关键观点：60% 的幻觉是因为模型在它的训练数据盲区被强行问问题。让它”查资料”比”凭记忆”靠谱多了。
三、🧪 几个典型的幻觉案例
| 场景 | 模型行为 |
|---|---|
| 引用论文 | 编造完整的作者 + 年份 + 期刊 + 页码 |
| 法律条款 | 编造条款编号和具体内容 |
| 历史事件 | 把不同时期的事件混搭到一起 |
| 人物传记 | 编造生平、获奖经历 |
| 代码 API | 编造不存在的函数名、参数 |
| 数学计算 | 中间步骤错位，但结论说得很自信 |
⚠️ 重要提醒：幻觉最危险的不是”错”，而是”自信地错”——错得很有结构、很专业，让你失去警惕。
四、💊 为什么消除幻觉这么难
| 难点 | 原因 |
|---|---|
| 模型不知道自己不知道 | 内部没有”置信度真值” |
| 真假在统计上无差 | “对的事实”和”像对的编造”概率分布很接近 |
| 训练目标不奖励”说不知道” | 标准训练奖励的是流畅 + 有内容 |
| 评测难 | 自动评测幻觉率非常困难 |
学界 / 工业界的几条路：
| 方向 | 思路 | 效果 |
|---|---|---|
| RAG | 让模型”查资料”再回答 | 显著降低事实幻觉 |
| RLHF 校准 | 训练模型说”我不确定” | 中等效果 |
| Self-Consistency | 同问题问多次取众数 | 仅适合数学 / 推理类 |
| Verifier | 用第二个模型校验答案 | 增加成本，效果好 |
| Tool Use | 让模型调用计算器、搜索 | 适合可工具化任务 |
🎯 现状：幻觉率从 GPT-3 时代的 ~30% 降到了 GPT-4 时代的 ~5-10%，但 0% 在可见未来不可能。
五、🎁 5 个能立刻让幻觉率下降 80% 的技巧
✅ 技巧 1：明确告诉它”不知道就说不知道”
❌ "请帮我介绍 X 公司的财务情况"
✅ "请基于你确定的信息介绍 X 公司，**不确定的地方明确说'不确定'**"
✅ 技巧 2：要求引用来源
✅ "回答时**必须给出信息来源**（书名 / 网页 / 论文），无法给出来源的内容不要回答"
✅ 技巧 3：让它先”思考”再答
✅ "在回答前，先思考你对这个问题的确定程度（高/中/低），再给答案"
✅ 技巧 4：用 RAG（最有效）
不要让模型凭记忆答——把权威资料丢给它，让它基于资料回答。
✅ 技巧 5：关键事实人工二次核对
论文、判例、法律条款、人物简历、数字、日期——这五类永远不要相信 AI 的一次输出。
| 内容类型 | 是否可信 |
|---|---|
| 概念解释 / 思路梳理 | ✅ 基本可信 |
| 代码逻辑 / 算法说明 | ✅ 基本可信（要测） |
| 写作 / 翻译 / 总结 | ✅ 基本可信 |
| 具体引用 / 数字 / 日期 | ❌ 必须核对 |
| 法律 / 医疗判断 | ❌ 必须找专业人士 |
六、🕵️ 识别”AI 在编”的快速方法
5 个红旗信号——出现任何一个就要警惕：
| 信号 | 例子 |
|---|---|
| 1️⃣ 引用过于”完美” | 论文标题、作者、年份、页码全到位 |
| 2️⃣ 逻辑过于流畅 | 一气呵成，没有任何犹豫 |
| 3️⃣ 涉及最近 6 个月的事 | 训练截止后的事大概率编 |
| 4️⃣ 你问”具体哪本书” | 容易给出不存在的书名 |
| 5️⃣ 数字精确到小数点 | “73.47% 的人……”，不像真实统计 |
最快验证：用 Google 搜一下它给的引用 / 书名 / 人物——搜不到的，基本是编的。
七、❌ 三个常见误区
| 误区 | 真相 |
|---|---|
| ❌ “幻觉是 bug，下个版本会修好” | 它是架构副作用，短期不会消失 |
| ❌ “GPT-4 比 GPT-3 不再幻觉了” | 只是降低，没消除 |
| ✅ “RAG + 人工核对 是当前最实用的应对” | 对，工程层面的标准答案 |
八、🎁 阶段二中场总结
到这里，阶段二已经走完一半。回顾一下：
| 期数 | 核心知识 |
|---|---|
| ep09 | Transformer 注意力机制 |
| ep10 | Token 和 API 计费 |
| ep11 | Embedding 与向量搜索 |
| ep12 | 预训练 / SFT / RLHF |
| ep13 | 涌现能力与 Scaling Law |
| ep14 | 幻觉的来源与应对 |
💬 关键观点：到这里，你已经能读懂任何一篇严肃的大模型技术文章了。
📮 今日话题
💬 你被 AI 编过最离谱的”事实”是什么？
评论区分享你的踩坑案例，我会挑几个典型案例做一篇专题解读。
🔮 下一篇预告
🟡 AI 通识 · 第 15 期：上下文窗口——为什么有的模型记性好
4K、128K、1M token——这些数字到底意味着什么？
🟡 本文属于「AI 通识 · 阶段二：大模型怎么思考」。
📱 关注「小敏说 AI」，回复 「AI 入门」 领取《打工人 AI 自救工具箱》。