你有沒有被 AI 一本正經地騙過？
問它一個數字，它給得有模有樣，小數點都有。
一查，根本不存在。
問它一條法規，它連條號都引給你。
翻開法典，查無此條。
先講結論：它不是在騙你。
它是在補完。
幻覺是什麼？白話講
一台接龍機器
先給定義。
AI 幻覺，就是 AI 用最像真的方式，講出不存在的東西。
為什麼會這樣？因為通用 AI 的本質，是一台「接龍機器」。
你給它前半句，它算出「最像會出現」的後半句。
注意那個詞：最像。
它的任務從頭到尾是「講得像」，不是「講得對」。
大多數時候，最像的答案剛好就是對的答案——所以它顯得很聰明。
但當它不知道的時候，它不會停下來。它會繼續接龍，接出一個語氣無比肯定的錯誤。
國外有個出名的案子：律師讓 AI 幫忙寫訴狀，AI 引了好幾個判例，格式漂亮、案號齊全。
上了法庭才發現——那些判例，全是編的。
律師被法官制裁。AI 呢？AI 沒事，它只是完成了接龍。
為什麼它不說「我不知道」？
一個特別怕被罵的新員工
因為它是被「訓練來給答案」的。
你可以把它想成一個特別怕被罵的新員工：
你問什麼，他都答。答不出來的時候，他寧可掰一個，也不敢說「我不知道」。
差別在於，人類新員工掰的時候會心虛、會結巴，你看得出來；
AI 掰的時候，語氣跟它講對的時候一模一樣。
反方這時候會說：「新版的模型不是進步很多了嗎？」
有，幻覺明顯變少了。但兩件事要看清楚：
一，變少不等於歸零——而生意上很多場景，錯一次就夠了。
二，模型越流暢，錯的時候反而越難被發現。
進步讓答案更可信，
也讓錯誤更像真的。
幻覺對生意的真實風險在哪
四個傷錢的場景
科普講完，講生意。
幻覺真正傷錢的地方，不是它答錯冷知識，是這四個場景：
報價——它給客戶一個你根本做不到的價格。
法規——它引一條不存在的規定，你照著做。
數字——它生出一個「像數字的字」，進了你的簡報。
客服——它替你亂承諾，客戶截圖存證。
反方會問：「這樣企業還敢用嗎？」
敢用。但要像用新員工一樣用它：
敢用，不敢信。
新員工上工第一個月，你會讓他直接對客戶報價嗎？不會。你會讓他做，然後你驗收。
AI 一樣。風險從來不在 AI 會錯——在你沒驗收就讓它出手。
關住亂講話的三道閘
餵資料・立規矩・人管例外
講具體的。三道閘，一道比一道重要。
第一道：餵它你的資料。
空著腦的 AI 只能拿網路上的平均答案硬撐——這正是幻覺的溫床。裝了你的知識庫，答案有出處，掰的空間就小了。（怎麼裝腦，卷二講透了。）
第二道：立規矩。
我們自己給 AI 立的第一條規矩就是：不知道，就說不知道。再加一條：講得出來源才准講。這兩句話寫進去，亂講話少一大半。
第三道：人管例外。
離錢近的輸出——報價、承諾、對外文件——一律過人眼再出手。
但這裡有一條真話：
哪些輸出必須過人眼、哪些可以放行，這條線每家公司畫的位置都不一樣。
畫太緊，AI 等於白請；畫太鬆，出一次事就把全公司對 AI 的信任賠光。
這條線怎麼畫，取決於你的行業錯一次的代價——這是經驗活，不是設定值。
常見問題 FAQ
給判斷，不給客套
問AI 幻覺可以完全消除嗎？
不能。這是接龍機制的天性，關不掉，只能關小。好消息是：對生意來說，「小到出不了事」就夠了——靠的就是那三道閘，不是等一個完美的模型。
問哪個模型幻覺最少？該換嗎？
排行榜每個月都在換，追不完。真正的變數不是哪家模型，是它有沒有被餵你的資料、有沒有被立規矩——空腦的最強模型，照樣一本正經亂講。
問AI 給的數字能直接用嗎？
凡是可查證的，都要查。它給你的不是數字，是「長得像數字的字」——來源查得到，才升級成數字。
問怎麼測試自己的 AI 會不會亂講？
兩招。一，問它你已經知道答案的問題，看它對不對；二，問它不可能知道的問題（你公司內部的細節），看它敢不敢說「我不知道」。第二招不過關的 AI，別讓它碰對外的事。
不知為不知
替它裝上智慧的起點
回到孔子那句話。
知之為知之，不知為不知，是知也——
知道自己不知道，是智慧的起點。
AI 沒有這個起點。
所以你得替它裝上：
給它腦、立它規、守它門。
裝上之後，它就從一個講話最好聽的騙子，變成你公司裡最勤勞的員工。
所有商業，都值得用 AI 再重做一遍。
至於怎麼給 AI 裝一顆你公司的腦——卷二〈智能體是什麼〉講透了；為什麼別急著追工具、先沉澱自己的資料——卷三〈AI 工具學不完〉寫給你。
卷六・終
← 回 AI 生意經目錄