大模型分析輿情爲什麼容易產生幻覺？事實覈驗、來源追溯與人工複覈機制
用大模型讀輿情，最大的誤區是把"讀起來通順"當成"結論可靠"。一段帶有完整引號、鏈接和日期的分析，可能同時存在三重問題：事件發生時間被挪動、被評論的主體被替換、引用來源根本不存在。對政府、企業與高校的品牌聲譽管理而言，這種錯誤一旦進入彙報材料或輿情預警流程，代價遠高於人工閱讀的成本。樂思軟件長期服務輿情監測場景，本文把幻覺的成因拆開講清楚，並給出一套可以直接落地的核驗機制。
一、模型爲什麼會"編"：四種典型失效機理
1. 時間混淆：訓練語料裏沒有"當下"
大模型的參數是某個時間點之前的語料壓縮結果，它天然缺少"今天發生了什麼"的事實。當提示詞沒有提供明確的時間錨點，模型會用相似的舊事件填充新問題——把去年的處罰通報當成今年的事件，把中止的項目描述爲進行中。檢索增強生成（RAG）能緩解這一點，但它只解決了"取回了資料"，沒有解決"資料的時間戳有沒有被正確使用"。
2. 主體誤認：實體消歧的天然薄弱環節
中文輿情文本中大量存在簡稱、同名、代稱和跨語言譯名。模型在語義表徵上會把"某集團"和"某集團旗下子公司"放進相近的向量空間，於是在摘要時把子公司的負面輿情歸到母公司頭上，或把同名高校、同名品牌混爲一談。這類錯誤在境外輿情監測中更常見，因爲跨語言譯名往往沒有統一規範。
3. 材料拼接：語言模型的本質是"預測下一個詞"
模型的目標是生成流暢度高的續寫，而不是還原事實。當兩段不相關的材料在語義上相鄰，它會把它們合成一個因果敘事：把A地的一次投訴與B地的一次抽檢串成"同一批次問題"。這不是惡意編造，而是生成機制的自然產物。
4. 來源編造：引用格式越像真的，越難被發現
這是最危險的一類。模型掌握的是"論文引用長什麼樣""新聞稿的格式如何"，因此可以生成結構完整、作者與期刊名稱都合理、但鏈接無法打開的參考文獻。學界對此已有系統性觀察：哈佛大學研究者對ChatGPT生成的法律引用的核查顯示，相當比例的案例引用並不存在或內容被曲解（Dahl et al., 2024, Journal of Empirical Legal Studies）；《Nature》2023年的多篇報道也記錄了生成式工具在參考文獻上的虛構問題。結論很直接：引用格式完整並不代表事實可靠。
二、先分類，再覈驗：事實錯誤、推理過度與引用失真
很多團隊的複覈之所以低效，是因爲把三種不同性質的問題混在一起。它們的發現方式和處置方式完全不同。
| 類型 | 表現 | 識別方式 | 處置 |
|---|---|---|---|
| 事實錯誤 | 時間、地點、數值、主體、政策條文與實際不符 | 回到原始來源逐字比對 | 直接更正，不得沿用 |
| 推理過度 | 事實本身沒錯，但結論超出材料支持範圍，如"或將引發大規模質疑" | 檢查結論是否有一手證據支撐，評估是否有反面材料 | 降級爲"研判觀點"，標註置信度 |
| 引用失真 | 來源存在但內容被曲解、斷章取義、張冠李戴或鏈接失效 | 打開原文覈對關鍵句與上下文 | 重新取證或刪除該引用 |
三、六步覈驗框架：從主張到籤審
第一步：主張拆分（Claim Splitting）
把模型輸出的一段話拆成不可再分的最小陳述，一句一條，禁止合併。例如"某企業3月因數據問題被罰款，引發用戶集體投訴"至少要拆成四條獨立主張：處罰主體、處罰事由、處罰時間、是否出現集體投訴。拆不開的主張，通常意味着它本身就是模糊表述，應當直接退回。
第二步：原始來源定位
只接受可獨立複查的一手材料：監管機構官網公告、企業公告與年報、法院文書、權威媒體原發報道。轉載、聚合頁、二次解讀只能作爲線索，不能作爲證據。任何打不開、需要登錄、內容隨時可能被修改的鏈接，都應標記爲"來源不可複覈"。
第三步：多源交叉驗證
關鍵主張至少需要兩個相互獨立的來源。判斷"獨立"的標準是：它們不引用同一篇稿件。現實中大量所謂"多源",其實是同一條通稿的十次轉載。對境外輿情監測而言，還應至少包含一種當地語言的一手來源，避免僅依賴翻譯後的二手信息。
第四步：時間與主體覈對
逐條覈對兩件事：主張對應的日期是否與原始材料一致；主體是否精確到同一法人、同一校區、同一產品線。這一步能攔下大部分"舊聞新報"與"張冠李戴"。
第五步：風險分級
按"傳播範圍×事實確定性×對機構的潛在影響"確定處理優先級。事實確定性低的，即使傳播量小，也要進入複覈隊列，因爲它可能是下一次輿情預警的種子。
第六步：人工籤審
籤審人必須對每一條被採用的結論負責，並留下籤審記錄。大模型在這裏的角色是提效工具，不是結論來源。樂思網絡輿情監測系統在流程中的定位也是如此：負責持續的信息發現、異常波動提醒和材料歸集，把判斷權交回給人。
四、來源分級與信息標記示例
建議給每條信息打上四級標籤，並在任何對外材料中保留標籤痕跡。
| 標記 | 含義 | 示例寫法 |
|---|---|---|
| 已證實 | 一手來源可打開、內容一致、經第二獨立來源印證 | 已證實：某市市場監管局2026年3月公告對該企業作出行政處罰，金額與事由與原文一致。 |
| 待覈實 | 有線索但缺少一手材料，或僅有單一來源 | 待覈實：多家自媒體稱該產品已下架，尚未取得平臺或企業官方說明。 |
| 相互矛盾 | 兩個可覈查來源對同一事實表述不一致 | 相互矛盾：企業公告稱"已整改完成"，地方通報稱"仍在整改期"，需覈對文件編號與生效日期。 |
| 無法確認 | 來源不可訪問、鏈接失效、無法定位原文 | 無法確認：模型給出的報道鏈接返回404，站點內檢索無對應稿件，按不存在處理。 |
五、可直接用於團隊的核驗檢查清單
- 每條結論是否已拆成單一主張，且每條都有對應來源？
- 來源是否爲一手？鏈接今日是否仍可打開？
- 兩個來源是否真正獨立，而非同一通稿的轉載？
- 時間是否覈對到日，並與事件發生時點吻合？
- 主體是否覈實到唯一法人/校區/產品線，是否含同名混淆風險？
- 結論是否超出材料支持範圍，措辭中是否出現"或將""勢必""普遍認爲"等無證據支撐的表述？
- 引用的關鍵句是否與原文上下文一致，有無斷章取義？
- 是否標註了風險等級與籤審人？
- 模型生成的內容是否與人工覈實內容在版式上可區分？
- 是否保留了可覆盤的核驗記錄，便於事後追溯？
六、2026年的趨勢：從"生成得更像"到"證據可複查"
檢索增強生成的主流方向正在從"提高回答流暢度"轉向"提高證據可追溯性"。可觀察到的三個變化：其一，評估體系從單一的答案準確率，擴展到引用忠實度（faithfulness）、主張支持度與來源可獲取率的組合評估；其二，RAG系統開始把時間戳、來源類型、版本號作爲一等元數據參與排序，而不是事後補註；其三，監管與行業實踐對AI生成內容提出標註要求，例如中國的生成式人工智能服務管理相關規定與深度合成內容標識要求，都強調可識別與可追溯。對輿情工作者的直接含義是：評估一套AI輿情分析能力時，應重點問"結論能否被獨立複查"，而不是"文字像不像人寫的"。
結語：證據鏈的價值在於別人能重新走一遍
大模型的幻覺不會因爲模型變大而消失，只會變得更難識別。真正決定輿情工作質量的，不是模型能寫多漂亮的報告，而是每一條結論背後有沒有一條別人能獨立走完的證據鏈。樂思軟件專注網絡輿情監測與品牌聲譽管理，通過樂思網絡輿情監測系統爲政府、企業、高校提供7×24小時專業系統支持，也可按需配備輿情分析師服務，把持續信息發現、風險提醒與人工研判協同起來——不誇大AI的準確性，而是讓人的判斷更快、更有據。