AI 幻覺管理實戰：BA/PM 點樣驗證 AI 輸出嘅 5 步工作流
2026-08-04 · BA × AI 實戰 · Eric Cheung
前言：AI 會一本正經咁作嘢
你有冇試過叫 AI 幫手做嘢，佢好流暢咁答咗一大段 — 數字有板有眼、引用有齊作者年份 — 但你一查，發現嗰本書根本唔存在？呢個就係「幻覺」（Hallucination）：模型以極高信心輸出錯誤內容，聽落越合理，越危險。
對 BA/PM 嚟講，幻覺特別致命 — 因為我哋嘅工作就係「將事實變成文件、決定同需求」。一份帶假數字嘅報告、一條引用錯法規嘅需求、一個建基於幻覺嘅 decision，後果可以好大。2026 年 AI 已經全面進入企業日常，幻覺管理唔再係學術話題，而係生產風險。
快速結論（TL;DR）
- 幻覺唔係 bug，係大語言模型嘅結構特性——模型係預測下一個字而唔係查證事實，所以會以同樣信心講真話同作嘢。
- 先按風險分級再決定驗證深度：數字、法規、人名、客戶資料呢啲高風險內容，一定要人腦核實。
- 5 步驗證工作流係要求引用、三角驗證、數字覆算、對抗性追問、留底標記，高風險內容行足 5 步。
- 將驗證變成團隊習慣——統一 template、AI 出錯 log、獎勵發現錯誤——令「人人都驗證」變成現實。
幻覺係咩？點解會發生？
首先要明白：幻覺唔係 bug，係大語言模型嘅結構特性。模型嘅工作係「預測最有可能嘅下一個字」，唔係「查證事實」— 所以佢會以同樣嘅信心講真話同作嘢。
- 統計性生成：模型按概率砌字，流暢度同正確性完全冇關係
- 訓練數據缺口：訓練資料冇覆蓋嘅領域，模型會「填窿」填到似層層
- 上下文壓力：你嘅 prompt 一旦帶咗假設（例如「根據 2026 年新例」），模型好容易「配合」你
- 引用錯覺：模型擅長生成格式完美嘅假來源 — 假作者、假期刊、假 ISBN
對 BA/PM 嚟講，最危險嘅唔係明顯嘅廢話，而係「聽落好合理」嘅錯誤：假數字、假引用、假法規。呢啲錯誤會直接流入你嘅文件同決定，而且好難察覺。
風險分級：邊啲輸出唔可以盲信
唔係所有 AI 輸出都要同等程度嘅驗證 — 咁做太慢。先分級，再按級別決定驗證深度：
- 高風險（一定要人腦核實）：數字、價格、法規/合規、人名職位、客戶資料、deadline — 呢啲會直接變成決定或者文件事實
- 中風險（抽樣核實）：會議紀錄初稿、電郵草稿、summary — 大方向啱就得，細節抽查
- 低風險（放心用）：brainstorm 點子、框架建議、文字潤飾、程式碼骨架 — 錯咗成本低
分級原則好簡單：越係「會變成事實記錄或者決定依據」嘅輸出，越要驗證。
5 步驗證工作流
- 要求引用來源：叫 AI 每個事實性陳述附出處，迫佢「承認唔知」
- 三角驗證：用至少兩個獨立來源 cross-check 關鍵事實
- 數字覆算：將計算拆開，自己覆算一次
- 對抗性追問：用相反立場質疑個答案，睇佢會唔會自圓其說
- 留底同標記：標明邊啲係 AI 生成、邊啲經人核實，留 audit trail
呢 5 步唔係次次都要行晒 — 按風險分級決定行到第幾步：高風險內容行足 5 步，中風險行 1-3 步，低風險睇心情。
實戰拆解：每一步點做
Step 1 — 要求引用來源
最有效嘅一招：喺 prompt 入面明確要求每個事實性陳述附來源，並容許模型「承認唔知」。好多模型喺明確授權之下，會講「我唔確定」而唔係硬作。
請回答以下問題。規則：
1. 每個事實性陳述必須附來源（書名/網站/年份）
2. 如果唔確定，直接寫「唔確定」，唔准估
3. 如果搵唔到來源，寫「未能確認來源」
4. 嚴禁生成唔存在嘅引用（假作者、假期刊、假 ISBN）
問題：[你的問題]Step 2 — 三角驗證
對外部事實（法規、市場數據、產品規格），用至少兩個獨立來源 cross-check：官方網站、政府/監管機構、可信新聞。對內部事實（專案狀態、數字、歷史決定），對返系統、原始文件同當事人 — 呢個正正就係 BA 做 requirements cross-validation 嘅老本行。
Step 3 — 數字覆算
AI 連簡單加數都會錯，特別係長數字同百分比。叫佢將計算步驟完整寫出嚟，然後你自己喺試算表覆算一次：
請計算以下 ROI，並逐步展示算式：
1. 每一步寫明公式同代入嘅數字
2. 最後用另一種方法驗證個答案（例如反向計算）
3. 如果數字來源唔確定，標明「假設」
數據：[貼上數據]Step 4 — 對抗性追問
同一條問題，用相反立場問多次：「呢個答案有咩可能係錯？」「有冇相反證據？」「你對呢個答案有幾大信心（0-100%）？」— 如果模型答唔出支持自己嘅證據，或者信心突然暴跌，噉就要打個大問號。
Step 5 — 留底同標記
喺文件/筆記系統入面標記來源同驗證狀態：邊段係 AI 生成、邊段經人核實、核實人係邊個、幾時核實。喺企業環境（特別係 audit 敏感嘅行業），呢個 audit trail 唔單止係好習慣，隨時係合規要求。
按輸出類型嘅驗證清單
- 數字/統計：要求原始出處 + 自己覆算
- 引用/文獻：去 Google Scholar / 出版社網站查 ISBN、DOI、作者
- 法規/條款：一定要對返官方原文，唔可以用二手轉述
- 程式碼：實際跑一次，再諗 edge case
- 翻譯/潤飾：低風險，但要對返原文意思冇走樣
- 會議紀錄/需求文件：對返錄音同訪談筆記（可以配合 AI 會議紀錄工作流一齊用）
將驗證變成團隊習慣
個人做足 5 步係好，但企業要嘅係「人人都驗證」。幾招實務做法：
- 寫入 AI 使用指引：明文規定邊啲輸出一定要人腦核實（可以延伸企業 AI 落地篇嘅 governance 框架）
- 用統一 template：AI 輸出附「來源 + 信心 + 驗證狀態」三欄，冇填滿當未完成
- 建立 AI 出錯 log：記錄每次發現嘅幻覺，統計邊類輸出最易錯，集中火力驗證
- 獎勵發現錯誤：喺團隊建立「搵到 AI 錯 = 有貢獻」嘅文化，等人肯報告而唔係怕瘀
總結：AI 負責快，人負責啱
AI 幻覺管理嘅目標唔係「唔好信 AI」，而係「有系統咁信 AI」。5 步工作流一次過睇：要求引用 → 三角驗證 → 數字覆算 → 對抗性追問 → 留底標記。按風險分級決定深度，高風險行足、低風險快放。
記住條底線：AI 負責快，人負責啱。喺 AI 時代，BA/PM 嘅核心價值唔係「打字快」，而係「判斷準」— 驗證能力就係你嘅護城河。
想了解企業點樣系統性管理 AI 風險？睇返企業 AI 落地指南；想知 AI 點解會「一本正經作嘢」嘅技術根源？RAG 深度解構有講；用緊 AI 寫會議紀錄？呢篇教你點樣喺 minutes 度做準確性把關。