目錄
先搞懂：AI 幻覺到底是什麼
在《生成式 AI 是什麼？》與《RAG 是什麼？》這兩篇裡，我們一再點名同一個讓使用者頭痛的老問題——幻覺（Hallucinations）。相信你也碰過：向 AI 拋出一個問題，它條理分明、語氣篤定地回答，等你去查證才發現，那段內容根本是它自己編出來的。
講得精確一點，AI 幻覺指的是模型產出了看似合理、口氣自信，實際上卻與事實不符甚至純屬虛構的內容。它可能替你捏造一條不存在的法規、掰出一段名人從沒說過的話，或幫某篇論文安上一位查無此人的作者。
要抓住幻覺的本質，不妨把大型語言模型想成一位「從不說不知道的萬事通」。這位萬事通博覽群書、反應飛快，卻有個致命習慣：不管被問什麼，他都認定「先開口回答」遠比「承認不會」來得重要。於是當腦中沒有現成答案時，他就順著語感，把一個聽起來最通順、最像回事的說法端出來。
白話舉例：就像考試遇到不會的題目，有人寧願硬掰一個看起來很專業的答案，也不肯留白。AI 的預設個性，正好就是那個絕不留白的考生。
要特別強調的是，幻覺並非 AI「存心說謊」，它沒有欺騙的意圖，純粹是運作機制下的自然產物。想真正理解這一點，得先回頭看看 LLM 究竟是怎麼生成文字的。
追根究柢：幻覺是怎麼冒出來的
正如《大語言模型（LLM）是什麼？》所說，LLM 本質上是一台龐大的統計預測機器，它的工作不是「查證事實」，而是持續預測下一個最合理的詞。
把這個前提想通，幻覺的來由就一目了然了：
- 生成的本質是機率，而非查證： LLM 挑的是「機率上最通順」的字，不是「事實上最正確」的字。一旦通順與正確兜不攏，它會傾向選前者。
- 知識有保存期限： 模型的知識定格在訓練資料截止的那一刻。問到之後才發生的事，它手上沒有資料，卻仍會硬湊一個答案（這點 RAG 能補救，詳見《RAG 是什麼？》）。
- 訓練資料本身帶雜訊： 網路上的資料本就良莠不齊，錯誤與偏見會被一併吸收進去。
- 習慣迎合提問者： 為了「有幫助地回應」，AI 容易順著問題預設的立場走。舉例來說，你要它「說明這條不存在的法規」，它很可能就真的替你「補完」了一條。
小提醒：幻覺無法百分之百根除，它是機率式生成的副產品。我們能做的是大幅壓低發生率，而不是奢望它永不出錯。
對症下藥：降低幻覺的三層防線
在 AI Agent 的企業應用中，EgentHub 通常不會押寶單一手段，而是層層設防。以下由淺入深，介紹三道防線。
第一層：把問題問清楚（提示詞）
如同《提示詞（Prompt）是什麼？》提到的原則——垃圾進，垃圾出。很多幻覺其實是被模糊的問法逼出來的。只要在提示詞裡明確要求：
- 「不知道就說不知道，不要猜測」
- 「僅根據我提供的資料回答」
這等於替那位萬事通立下規矩：這場考試可以留白，硬掰反而扣分。這種內容邊界（Scope Constraints）的設定，能有效壓縮它自行腦補的餘地。
第二層：給它一本課本（RAG）
提示詞能治標，更根本的辦法是讓 AI 的回答有事實可依，也就是《RAG 是什麼？》介紹過的檢索增強生成：先讓 AI 從權威知識庫撈出相關資料，再根據撈到的內容作答。
回到萬事通的比喻，與其要 AI 憑記憶硬答，不如直接遞給他一本查得到答案的參考書，並要求他照著書上寫的講。當回答被錨定在真實資料上，硬掰的空間自然就縮小了。
第三層：讓人類守在關鍵點（HITL）
就算做足前兩層，AI 仍有出錯的可能。因此在高風險場景中，人類參與流程（Human-in-the-Loop, HITL）依舊是主力防線：在關鍵決策或高風險操作拍板前先引入人工審核，用人機協作的方式，避開「全盤相信 AI」帶來的風險。
結語：AI 是協作者，不是決策者
AI 講得再流暢，它的產出終究是機率的結果，而不是查證後的定論。這也是為什麼我們在這個系列裡反覆提醒：AI 是強大的協作者，而非最終決策者。
把幻覺壓下來，是一個 AI Agent 能被企業信任、放心託付任務的前提。作為台灣企業級的 AI Agent 管理平台，EgentHub 圍繞幻覺這道難題做了大量設計：除了以 MCP 串接企業內部系統，還提供向量、全文查找與表格查詢三種知識庫來強化 RAG 的準確度，並透過 Prompt Designer 協助員工寫出邊界清楚的提示詞，再搭配完整的權限管理，讓每一支 AI Agent 的回答都能建立在事實之上，真正在企業內部落地。