AI 幻覺是什麼：為什麼大模型會一本正經地編出答案

AI 的錯誤不一定寫得混亂，反而可能語氣肯定、格式完整，令閱讀者很容易放下戒心。Google Machine Learning Glossary 把「幻覺」定義為：看似合理、實際上卻不正確，並且聲稱是在陳述現實世界的輸出。換成人話，就是大模型可以「言之有物」地編出一個答案，卻沒有足夠事實支持。

這代表單純語句生硬或答非所問，不一定屬於幻覺。關鍵是輸出以可信的口吻作出事實主張，而內容實際錯誤。

幻覺是解碼層的機率問題

生成式 AI 與一般查證工具的基本分別，在於它不是先找出答案、核對現實，再把已確認的內容寫出來。《香港生成式人工智能技術及應用指引》指出，生成式人工智能透過機率建模，從訓練資料學習統計特徵，並在給定前文後逐步生成內容。

到了解碼階段，模型實際做的事，是按目前前文及訓練資料所呈現的分布，選擇「下一段最像合理答案」的內容。這裡的「像合理」是統計上的合適，不是對現實世界的查證。模型負責延續出一段合乎語境、閱讀起來順暢的文字；文字是否屬實，則不是生成過程中的必要判斷條件。

因此，當問題涉及訓練資料稀薄、資料互相矛盾，或者問題本身沒有答案時，模型仍可能組合已有的統計特徵，產生流暢而具說服力的內容。這正是幻覺常出現的位置：答案外表完整，機制卻只是「甚麼文字在目前上下文下最值得接續」。

這也解釋了為甚麼答案寫得詳細、語氣有信心，甚至前後一致，都不能證明它是真的。流暢度回答的是「像不像答案」，不是「是否等於事實」。

怎樣判斷有沒有幻覺

判斷幻覺，最後仍要把輸出與現實世界的事實對照。模型自身的語氣、篇幅和專業感覺，不是真確證據；一段話愈沒有保留愈多，也不代表它愈可靠。

對香港機構內的使用者而言，重要問題不只是「這段文字是否順眼」，而是系統有沒有提供足夠的驗證與監督。模型未經測試驗證、輸出未經人為覆核、系統限制未被清楚交代時，機構不應僅因答案表達完整，便把它當成已核實的結論。特別在錯誤內容可能影響實際用途的高風險場景，更需要依靠制度，而不是要求每位最終使用者自行分辨模型是否在「編答案」。

香港文件如何要求治理幻覺

《香港生成式人工智能技術及應用指引》提出的治理原則，包括讓應用者了解生成式 AI 的技術局限與不確定性、設立人為監督與覆核機制、保持公平與客觀，以及確保輸出內容真實可信。這些要求正好針對幻覺的機制：承認模型是機率生成系統，不把流暢輸出誤當成事實查證。

私隱專員公署發布的《人工智能模範框架》新聞稿，進一步要求機構在推展 AI 項目時：

• 進行風險評估：作為安排監督、驗證及其他治理工作的基礎。
• 訂有人為監督：由人參與監督和覆核模型輸出，而不是完全自動接受結果。
• 進行測試驗證：確保系統的可靠性、穩健性與公平性。
• 維持透明度與可解釋性：讓機構及相關人員理解系統限制與不確定性。
• 在系統運作期間持續監察：不是完成一次評估便停止觀察，而是繼續監察實際運作。
• 備有事故應變計劃並與持份者溝通：當系統出現問題時，機構已有處理及交代安排。

私隱專員公署的《人工智能：模範框架》正文再把這些要求寫入框架各章，作為機構問責的依據。對採用生成式 AI 的香港機構，實際工作應是把風險評估、測試驗證、人為監督、持續監察與透明度連成一條完整流程，而不是把「模型通常不會出錯」當成預設。