← 返回 Blog

為甚麼 AI 會一本正經地胡說:幻覺的原理,與六個防法

為甚麼 AI 會一本正經地胡說:幻覺的原理,與六個防法

你讓 AI 幫忙查香港《僱傭條例》關於年假的規定。它回答得極有條理:第幾條、條文內容、連生效年份都有。你依著條號翻查原文——查無此條。

再試一次,它道歉,然後給出另一個條號。同樣查無此條。

它不是在說謊。說謊需要先知道真相再隱瞞,而它根本不知道自己在編。這個現象叫幻覺(hallucination),是大模型與生俱來的性格。想用好 AI,第一課不是學提示詞,而是搞清楚它什麼時候可信、什麼時候會胡說。

它不是在查資料,是在接下一個字

大模型的工作原理,一句話講完:讀入你的問題,然後一個字一個字地預測「下一個最合理的字」。它的目標由頭到尾只有一個——把句子接得通順、合理、像人話。

留意,是「合理」,不是「真實」。

它像一位讀過極多書、但從不帶書出門的講者:你問什麼,他都憑記憶與語感即席回答。大部分時候,他讀過的書足夠多,答得又快又準;但遇到記憶模糊的地方,他不會停下來,而是憑語感把空白補完——補得流暢自然,語氣與講真話時一模一樣。

香港人應該熟悉這個場景:問一位老街坊「那間茶餐廳在哪裡」,他多半不會說「不記得」,而是很有把握地告訴你「洗衣街轉角」——因為在他的經驗裡,茶餐廳開在轉角,合理。他不是騙你,他是用「合理」代替了「記得」。

幻覺就是這回事:模型用合理填補了真實的空缺,而它自己分不出兩者。

還有一個要命的細節:訓練過程長期獎勵「給出答案」多於「承認不知道」。近年的模型在主動說「不確定」方面有明顯改善,但這個傾向沒有根治——你逼得越緊,它越傾向編一個給你。

六類問題最高危

幻覺不是隨機出現的,它有明確的高發區。以下六類問題,AI 給的答案一律先當「待查證」:

高危類型例子
具體數字與日期價格、統計數字、事件日期
條文與引文法例條號、書的頁碼、名人語錄
連結與出處它給的 URL 可以整條編出來
本地與小眾資訊某間店的營業時間、政府程序細節
近期事件模型有訓練截止日,之後的事它一概不知
被逼必須作答的問題「你一定要給我一個答案」

規律一句話講完:越具體、越冷門、越新,越容易中招。反過來,講原理、寫文案、整理你提供的資料,它極少出事。

六個防法

一、要求附來源,並且真的去查

請列出每一點的來源。沒有把握的,直接標明「未能確認」。

注意:要求來源,不等於來源是真的——它連來源都能編。這一招真正的作用是縮小查證範圍:它自己標了「未能確認」的部分,通常正是幻覺高發處。

二、把「可以不知道」寫進問題

不確定就直說「不知道」,不要猜。答「不知道」不會被扣分。

簡單一句,效果立竿見影。等於告訴那位即席演講的講者:今天允許留空,不必硬撐。

三、高危資訊換一個模式問

多數 AI 產品都有聯網搜尋功能。涉及近期事件、價格、時效資訊,先開聯網再問——讓它去查,而不是讓它背。未開聯網時,它對「今天」一無所知。

四、餵原文,不考記憶

要它分析《僱傭條例》,就把條例原文貼給它再問。AI 讀你提供的資料,可靠程度遠高於憑訓練記憶作答——前者是開卷考試,後者是即席演講。合約、報告、條款,一律先餵原文。

五、多模型交叉驗證

同一條重要問題,分別問兩個不同公司的模型。兩者答案一致,多半可信;答案有出入,就是明確的查證訊號。兩位互不相識的講者,在同一處講錯同一個細節,機率低得多。

六、反向拷問

得到答案之後,追加一句:

你剛才的回答裡,哪一句最有可能出錯?為什麼?

模型審視自己的輸出時,經常能標出信心最弱的部分——那正是你該優先查證的地方。

三個常見誤區

1. 以為它會上網。 未開聯網功能時,它全憑訓練記憶作答,對近期發生的一切一無所知。

2. 以為語氣肯定等於答案正確。 幻覺的語氣與正確答案一模一樣——「一本正經」正是幻覺的本體特徵,不是可信的訊號。

3. 以為追問能問出真相。 你一質疑,它經常改口——但改口可能只是遷就你,不代表新答案更正確。判準永遠是原文與出處,不是它的態度。

懂它的性格,就是懂分寸

幻覺不是等待修復的故障,是「預測下一個字」這種技術的天性。指望它消失不現實;摸清它的脾氣之後,你自然知道什麼事可以放心交給它、什麼答案要先過一道查證。用 AI 用得好的人,與其說懂技術,不如說懂分寸。

下次它一本正經地給你一個條號,你可以微笑,然後打開原文。

*本文資料截至發稿日(2026 年 7 月 20 日),僅供一般參考,不構成任何建議;第三方產品之功能、價格與政策,以其官方最新公布為準;Essevin 服務詳情以官網與 console 實際顯示為準。