大模型分析舆情为什么容易产生幻觉？事实核验、来源追溯与人工复核机制
用大模型读舆情，最大的误区是把"读起来通顺"当成"结论可靠"。一段带有完整引号、链接和日期的分析，可能同时存在三重问题：事件发生时间被挪动、被评论的主体被替换、引用来源根本不存在。对政府、企业与高校的品牌声誉管理而言，这种错误一旦进入汇报材料或舆情预警流程，代价远高于人工阅读的成本。乐思软件长期服务舆情监测场景，本文把幻觉的成因拆开讲清楚，并给出一套可以直接落地的核验机制。
一、模型为什么会"编"：四种典型失效机理
1. 时间混淆：训练语料里没有"当下"
大模型的参数是某个时间点之前的语料压缩结果，它天然缺少"今天发生了什么"的事实。当提示词没有提供明确的时间锚点，模型会用相似的旧事件填充新问题——把去年的处罚通报当成今年的事件，把中止的项目描述为进行中。检索增强生成（RAG）能缓解这一点，但它只解决了"取回了资料"，没有解决"资料的时间戳有没有被正确使用"。
2. 主体误认：实体消歧的天然薄弱环节
中文舆情文本中大量存在简称、同名、代称和跨语言译名。模型在语义表征上会把"某集团"和"某集团旗下子公司"放进相近的向量空间，于是在摘要时把子公司的负面舆情归到母公司头上，或把同名高校、同名品牌混为一谈。这类错误在境外舆情监测中更常见，因为跨语言译名往往没有统一规范。
3. 材料拼接：语言模型的本质是"预测下一个词"
模型的目标是生成流畅度高的续写，而不是还原事实。当两段不相关的材料在语义上相邻，它会把它们合成一个因果叙事：把A地的一次投诉与B地的一次抽检串成"同一批次问题"。这不是恶意编造，而是生成机制的自然产物。
4. 来源编造：引用格式越像真的，越难被发现
这是最危险的一类。模型掌握的是"论文引用长什么样""新闻稿的格式如何"，因此可以生成结构完整、作者与期刊名称都合理、但链接无法打开的参考文献。学界对此已有系统性观察：哈佛大学研究者对ChatGPT生成的法律引用的核查显示，相当比例的案例引用并不存在或内容被曲解（Dahl et al., 2024, Journal of Empirical Legal Studies）；《Nature》2023年的多篇报道也记录了生成式工具在参考文献上的虚构问题。结论很直接：引用格式完整并不代表事实可靠。
二、先分类，再核验：事实错误、推理过度与引用失真
很多团队的复核之所以低效，是因为把三种不同性质的问题混在一起。它们的发现方式和处置方式完全不同。
| 类型 | 表现 | 识别方式 | 处置 |
|---|---|---|---|
| 事实错误 | 时间、地点、数值、主体、政策条文与实际不符 | 回到原始来源逐字比对 | 直接更正，不得沿用 |
| 推理过度 | 事实本身没错，但结论超出材料支持范围，如"或将引发大规模质疑" | 检查结论是否有一手证据支撑，评估是否有反面材料 | 降级为"研判观点"，标注置信度 |
| 引用失真 | 来源存在但内容被曲解、断章取义、张冠李戴或链接失效 | 打开原文核对关键句与上下文 | 重新取证或删除该引用 |
三、六步核验框架：从主张到签审
第一步：主张拆分（Claim Splitting）
把模型输出的一段话拆成不可再分的最小陈述，一句一条，禁止合并。例如"某企业3月因数据问题被罚款，引发用户集体投诉"至少要拆成四条独立主张：处罚主体、处罚事由、处罚时间、是否出现集体投诉。拆不开的主张，通常意味着它本身就是模糊表述，应当直接退回。
第二步：原始来源定位
只接受可独立复查的一手材料：监管机构官网公告、企业公告与年报、法院文书、权威媒体原发报道。转载、聚合页、二次解读只能作为线索，不能作为证据。任何打不开、需要登录、内容随时可能被修改的链接，都应标记为"来源不可复核"。
第三步：多源交叉验证
关键主张至少需要两个相互独立的来源。判断"独立"的标准是：它们不引用同一篇稿件。现实中大量所谓"多源",其实是同一条通稿的十次转载。对境外舆情监测而言，还应至少包含一种当地语言的一手来源，避免仅依赖翻译后的二手信息。
第四步：时间与主体核对
逐条核对两件事：主张对应的日期是否与原始材料一致；主体是否精确到同一法人、同一校区、同一产品线。这一步能拦下大部分"旧闻新报"与"张冠李戴"。
第五步：风险分级
按"传播范围×事实确定性×对机构的潜在影响"确定处理优先级。事实确定性低的，即使传播量小，也要进入复核队列，因为它可能是下一次舆情预警的种子。
第六步：人工签审
签审人必须对每一条被采用的结论负责，并留下签审记录。大模型在这里的角色是提效工具，不是结论来源。乐思网络舆情监测系统在流程中的定位也是如此：负责持续的信息发现、异常波动提醒和材料归集，把判断权交回给人。
四、来源分级与信息标记示例
建议给每条信息打上四级标签，并在任何对外材料中保留标签痕迹。
| 标记 | 含义 | 示例写法 |
|---|---|---|
| 已证实 | 一手来源可打开、内容一致、经第二独立来源印证 | 已证实：某市市场监管局2026年3月公告对该企业作出行政处罚，金额与事由与原文一致。 |
| 待核实 | 有线索但缺少一手材料，或仅有单一来源 | 待核实：多家自媒体称该产品已下架，尚未取得平台或企业官方说明。 |
| 相互矛盾 | 两个可核查来源对同一事实表述不一致 | 相互矛盾：企业公告称"已整改完成"，地方通报称"仍在整改期"，需核对文件编号与生效日期。 |
| 无法确认 | 来源不可访问、链接失效、无法定位原文 | 无法确认：模型给出的报道链接返回404，站点内检索无对应稿件，按不存在处理。 |
五、可直接用于团队的核验检查清单
- 每条结论是否已拆成单一主张，且每条都有对应来源？
- 来源是否为一手？链接今日是否仍可打开？
- 两个来源是否真正独立，而非同一通稿的转载？
- 时间是否核对到日，并与事件发生时点吻合？
- 主体是否核实到唯一法人/校区/产品线，是否含同名混淆风险？
- 结论是否超出材料支持范围，措辞中是否出现"或将""势必""普遍认为"等无证据支撑的表述？
- 引用的关键句是否与原文上下文一致，有无断章取义？
- 是否标注了风险等级与签审人？
- 模型生成的内容是否与人工核实内容在版式上可区分？
- 是否保留了可复盘的核验记录，便于事后追溯？
六、2026年的趋势：从"生成得更像"到"证据可复查"
检索增强生成的主流方向正在从"提高回答流畅度"转向"提高证据可追溯性"。可观察到的三个变化：其一，评估体系从单一的答案准确率，扩展到引用忠实度（faithfulness）、主张支持度与来源可获取率的组合评估；其二，RAG系统开始把时间戳、来源类型、版本号作为一等元数据参与排序，而不是事后补注；其三，监管与行业实践对AI生成内容提出标注要求，例如中国的生成式人工智能服务管理相关规定与深度合成内容标识要求，都强调可识别与可追溯。对舆情工作者的直接含义是：评估一套AI舆情分析能力时，应重点问"结论能否被独立复查"，而不是"文字像不像人写的"。
结语：证据链的价值在于别人能重新走一遍
大模型的幻觉不会因为模型变大而消失，只会变得更难识别。真正决定舆情工作质量的，不是模型能写多漂亮的报告，而是每一条结论背后有没有一条别人能独立走完的证据链。乐思软件专注网络舆情监测与品牌声誉管理，通过乐思网络舆情监测系统为政府、企业、高校提供7×24小时专业系统支持，也可按需配备舆情分析师服务，把持续信息发现、风险提醒与人工研判协同起来——不夸大AI的准确性，而是让人的判断更快、更有据。