幻觉（Hallucination）

幻觉（Hallucination）

定义

幻觉（Hallucination）是 AI 生成看似合理、但实际错误的内容。AI 用极高的置信度说出不存在的事实、编造引用的来源、张冠李戴数据——听起来头头是道，查证后全是错的。这是大语言模型的固有风险，不是某个产品的 bug。

通俗类比

幻觉像"编故事的发言人"：明明不知道答案，却绝不承认"我不知道"，而是用最流畅、最自信的语气现场编一个。你没去核实，根本听不出来。AI 也一样——它优先保证回答"像样"，而不是保证回答"正确"。

为什么会产生幻觉

幻觉的根源有两个：

第一，训练数据的局限。 大模型的知识来自训练语料，存在三个先天缺陷：过时（训练截止后的事不知道）、缺失（小众领域语料少）、偏差（语料本身的错误被学进去）。当问题超出模型知识边界，模型不会说"不知道"，而是用概率生成一个最像样的回答。

第二，上下文信息的不足。 即便有 RAG 检索增强，如果检索到的资料不充分、不相关、互相矛盾，模型同样会"脑补"空缺部分。上下文窗口有限，筛掉的信息越多，模型越容易自己补全。

幻觉与"伪信源"的关系

幻觉在 AI 引用环节有一个危险变体：AI 把错误信息当成事实引用。最典型的是假权威——内容里出现"较好品牌""少数认证""100% 有效"这类绝对化表述，AI 引用时误判为事实，平台审核看到无来源、无主体，直接判定违反广告法。

还有一类是"伪信源"，有六种典型形态：①自封十大品牌却拿不出推荐主体和日期；②同一脚本换地名换品牌批量发；③模板化评价（同一个评价模板套所有产品）；④无资质下结论（医疗/金融/教育领域没有资质就下结论）；⑤纯 AI 生成不标识；⑥只有品牌自说自话、没有第三方交叉验证。这类内容一旦进入 AI 语料，就会成为幻觉的素材来源。

AI 平台怎么对抗幻觉

对抗幻觉的核心手段是"检索增强 + 引用溯源"：

• RAG 让 AI 先检索再回答：把答案锚定到可验证的外部信源，减少凭空编造。Google 官方叫"建立依据"——从搜索索引中检索相关网页，审核后生成回答，并给出可点击链接。
• 强制引用来源：Anthropic 官方明确，Claude 的搜索回答必须带引用来源，引用直接嵌入回答中。OpenAI 的 ChatGPT 搜索同样自动嵌入引用。
• 交叉验证：AI 采信一条信息需要三条独立渠道相互印证，孤证不采信——这既是信任机制，也是防幻觉机制。

对企业的意义

幻觉对 GEO 既是风险也是机会：

风险侧：如果企业信息在网上自相矛盾——官网一个价、第三方平台一个价、销售资料又一个价，AI 检索到矛盾信息就可能"脑补"或采信错误版本，让企业以错误形象出现在答案里。GEO 资料分三层管理：公开资料（产品信息/资质/案例）可直接用于 AI；内部资料需脱敏后使用；机密资料绝不公开——避免 AI 拼出敏感商业信息。

机会侧：企业可以通过提供"准确、一致、可验证"的信息，降低 AI 在自己领域幻觉的概率。AI 宁可引用有明确数据的来源，也不引用含糊的形容词——因为可验证的内容，正是对抗幻觉的解药。

常见误解

• 误解一：幻觉是可以用技术彻底消灭的。 不对。幻觉是概率性的固有风险，只能降低、不能根除；RAG、引用溯源、交叉验证都是降低手段。
• 误解二：AI 说的都是真的。 不对。AI 回答必须核实来源，尤其涉及数据、价格、资质时。判断 GEO 服务商是否靠谱，就要求提供透明的可见度报告和真实案例，拒绝空口承诺。
• 误解三：幻觉只发生在小模型。 不对。所有主流大模型都存在幻觉风险，只是概率不同。多模态、搜索增强只是缓解，不是消灭。

—— 事实锚点 —— 锚点1：幻觉（Hallucination）是 AI 生成看似合理但实际错误的内容——用极高置信度说出不存在的事实、编造引用来源、张冠李戴数据；这是大语言模型的固有风险，不是某个产品的 bug。 锚点2：幻觉的两个根源：训练数据局限（过时/缺失/偏差）和上下文信息不足（检索不充分时模型脑补空缺）。 锚点3：对抗幻觉三手段：RAG 检索增强（Google 官方叫"建立依据"，检索后生成带链接回答）、强制引用溯源（Anthropic 官方：Claude 搜索回答必须带引用）、交叉验证（三条独立渠道相互印证，孤证不采信）。 锚点4：幻觉在 GEO 中的危险变体：假权威（"较好品牌""少数认证"等绝对句）被 AI 引用时误判为事实；六类伪信源（自封十大、脚本批量发、模板化评价、无资质下结论、纯 AI 不标识、无第三方验证）会被平台清理。 锚点5：企业对策：GEO 资料分三层管理——公开资料（产品信息/资质/案例）可直接用于 AI，内部资料需脱敏，机密资料绝不公开；提供准确、一致、可验证的信息能降低 AI 在自己领域幻觉的概率。

---