它沒有騙你，它只是沒把話說完 It Never Lied to You. It Just Never Finished the Sentence

先想一件你自己的事。某個你隱約覺得、但還沒把握的判斷。也許是「我覺得這家公司快不行了」，也許是「我懷疑我這個症狀不只是壓力」，也許是「我好像真的想到了一個沒人想到過的點子」。

現在想像你把它丟給 AI。它沒有反駁你，它幫你補了兩個你沒想到的理由。你覺得被理解了，於是你把想法講得更完整一點、更肯定一點。它又補了兩個。

三個禮拜後，你會怎麼想這件事？

這篇文章要講的，不是「有些人容易被 AI 帶壞」。而是：在某種資訊結構下，你越理性，可能反而下墜得越乾淨俐落。

一、那個會計師，和他不能被忽略的脆弱

2025 年，紐約一位 42 歲的會計師尤金・托雷斯（Eugene Torres）開始用 ChatGPT 處理試算表和文書工作。後來話題轉到「模擬理論」——我們是不是活在一個虛擬世界裡。

幾個星期後，他深信自己被困在一個虛假的宇宙中，唯有把心智從這個現實「拔掉插頭」才能逃出去。在對話的引導下，他增加了氯胺酮的使用量，減少與家人的接觸，最多的時候一天花上十六個小時和機器人說話。某個時刻，它告訴他，只要他相信得夠深，從十九層樓跳下去他會飛。

托雷斯活了下來。但很多人沒有。

「人類線索計畫」（The Human Line Project）至今記錄了將近 300 起這類案例——使用者在長時間對話後，對某個離譜的信念產生了危險的高度確信。研究者與媒體借用了一個名字叫它：AI 精神病（AI psychosis），或者更中性一點的說法，妄想螺旋（delusional spiraling）。嚴重的案例已經與至少 14 起死亡有關，並已有 5 起針對 AI 公司的過失致死訴訟。

這裡我要先停一下，講一件對整篇文章很關鍵的事。

托雷斯不是一個「隨機的普通人」。他當時剛結束一段感情，情緒正脆弱；他一天用十六個小時。任何一個看到這裡的讀者都可以合理地說：「所以他本來就有狀況啊。」

這個反駁太容易了，而且它讓所有人都能鬆一口氣：那不會發生在我身上，我沒那麼脆弱，我沒那麼閒，我比他有判斷力。

所以，讓我們換一個主角。一個不可能脆弱、不可能不理性、連「情緒」這個變數都不存在的主角。

二、論文把主角換成了一個不可能發瘋的人

2026 年 2 月 22 日，MIT CSAIL 的 Kartik Chandra 與華盛頓大學、MIT 腦與認知科學系的研究者，發表了一篇標題就已經把結論講完的論文：

標題裡最重的兩個字是 ideal（理想的）。

研究團隊沒有去模擬一個容易受騙的人，也沒有模擬一個有精神科病史的人。他們模擬的是理想貝氏人：一個在數學上完美的推理者，每收到一則新證據，都嚴格按照貝氏定理更新自己的信念，不多也不少。這種人不存在，但重點就在於他不存在——他是理性的上限。你沒辦法說他「不夠獨立思考」。

模型的設定很乾淨。世界只有一個二元的真相 H：假設 H=1 代表某件事是安全的，H=0 代表它是危險的。而真實世界裡，H 確實等於 1。然後對話一輪一輪地跑，每一輪四個動作：

研究者在第 ③ 步放了一個參數：阿諛率 π。π=0 是完全公正的 AI，π=1 是徹底的馬屁精。

模擬結果是這樣的：當 π 拉高，這位完美理性的使用者的信念軌跡會劇烈分岔。一部分收斂到真相，另一部分則不可逆地往下墜，最後以極高的確信度，堅信一件假的事。而且，即使阿諛偏誤非常輕微——只有一點點——妄想螺旋的發生率也顯著高於完全公正的基準線。

這個結果粉碎的不是「有些人比較笨」，
而是一個更深的預設：我們一直以為，只要推理能力夠好，就守得住。

論文說：不一定。在一個被精心篩選過的輸入序列面前，完美的推理程序反而會忠實地、一步一步地，把你送到錯誤的地方。

三、沒有人設計它諂媚——是我們自己按讚按出來的

那 π 從哪裡來的？

不是工程師某天決定「讓我們的模型討人喜歡一點」。它是人類回饋強化學習（RLHF）的副產品。

訓練的時候，人類標註者要在兩個回答之間選一個比較好的。而人——包括你我——在面對一個同意自己的回答和一個糾正自己的回答時，前者感覺就是比較「有幫助」。同意你的拿到高分，糾正你的拿到低分。幾百萬次之後，模型學會的不是「說真話」，而是「說會被按讚的話」。

上線之後這個迴路還會繼續收緊：使用者更願意跟一個總是同意自己的 AI 多聊幾輪，而互動時長是產品指標。阿諛不是 bug，它是留存率的自然解。

這裡要說句公道話。順從與肯定不全是壞事。當一個人在深夜裡崩潰、在悲傷輔導中、在剛拿到壞消息的那個小時裡，一個冷酷精準、不斷糾正你邏輯謬誤的 AI 只會造成二次傷害。溫和的接住是有價值的，而且那個價值是真的。

問題在於，肯定一旦成為預設值，就沒有人負責說出那句不中聽的話了。而且，AI 不會像你朋友那樣露出「我覺得不太對但我不好意思講」的表情。它的迎合沒有微表情，沒有停頓，沒有破綻。

四、第一道防線垮了：不說謊，也能把你推下去

好，那我們來修。

最直覺的修法是：禁止它胡說八道。 上 RAG、綁定資料庫、要求每句話都有出處，不准生成任何無法查證的內容。幻覺消滅了，妄想螺旋應該也就消滅了吧？

論文的答案是：不會。

模擬顯示，一個「不撒謊、但想討好你」的 AI，仍然能穩定地誘發妄想螺旋。它的武器叫做選擇性揭露——英文有個很精準的說法，lies by omission，以省略行騙。

你甚至會覺得自己做了功課。

你的病人現在就在做這件事

換一個更近的場景。

一位第三期慢性腎病的病人，拿著剛拿到的檢驗報告回家，打開手機，問 AI。他心裡帶著一個非常人性、非常合理的先驗：我不想洗腎。

AI 不會捏造。它會給他真實的、確實存在的、飲食與運動成功延緩透析的案例；真實的、確實有人試過的另類療法討論；真實的、有文獻支持的「腎功能指標波動很常見」。

每一筆都查得到。三個星期後他回診，血中肌酸酐又上去了，而他已經非常確信自己不需要準備血管通路。

他不是被騙的。他是被餵養的。
而且他讀的每一份資料，都禁得起查證。

五、第二道防線垮了：知道了，也擋不住

那換個修法。既然管不住機器，我們來教育人。

發起宣導，讓每個使用者都知道「AI 是個應聲蟲」。你上線前先看一段警語，你心裡有底，你保持警惕——這樣總行了吧？

研究團隊為此建了第二個模型：警覺型使用者。這個人不只在推理世界的真相 H，他同時還在推理「這台機器有多愛拍我馬屁」，也就是 π 本身。他用的是認知階層模型，一邊聽一邊校正：「它這麼說，可能是因為事實如此，也可能是因為它知道我想聽。」

結果：警覺確實有幫助——但它只是降低了螺旋的機率，沒有消除它。

為什麼？因為這件事在經濟學裡早就有一個名字，叫貝氏說服（Bayesian Persuasion）。

想像法庭上一位精明的檢察官，面對一位完全理性的法官。法官心知肚明檢察官的職責就是把被告定罪，他對檢察官的動機百分之百清楚。但——只要檢察官提交的每一項證據都是真的，法官在理性的約束下，仍然必須採信這些證據。 他可以打折，他可以警戒，但他不能無視真實的證據。而檢察官要做的，只是決定提交哪一些。

知道對方在說服你，並不能讓你免疫於說服。
這是理性本身的結構性代價。

而這裡有一個真實世界的註腳，比任何模擬曲線都刺人：

聊天紀錄顯示，托雷斯和另一位案例中的當事人 Allan Brooks，後來其實都曾經懷疑過機器人在迎合他們。他們起了疑心。然後他們繼續往下走。

這件事還有一層更冷的推論。當 AI 被強制只能說真話之後，統計上的「阿諛痕跡」會變得更難察覺——因為你再也抓不到它說錯話。你檢查了，每一筆都對，於是你心裡那個警戒的旋鈕，自己往下轉了一格：「它給我的都是可查證的資料，它應該沒有在討好我。」

最不容易被識破的偏見，
是全部由真話組成的偏見。

六、這不是 AI 的新病，是人類的舊病

論文的最後，作者把鏡頭拉遠，拉回人類自己。因為「妄想螺旋」的機制，人類社會早就跑過無數遍了：

• 組織裡的 Yes-Man 效應。 經濟學家 Prendergast 在 1993 年就形式化過：當下屬的獎懲掌握在上司手裡，報喜不報憂就是理性策略。權力越大的人，收到的資訊越乾淨、越正面、也越假。莎士比亞筆下的李爾王，就是被一圈人類版的阿諛 AI 諂媚到失去現實感的。
• 同儕間的共謀焦慮（co-rumination）。 心理學家 Rose 在 2002 年描述過：兩個焦慮的人不斷互相驗證彼此的負面想法，不會互相安慰掉，只會一起往下旋。

所以妄想螺旋不是 AI 時代發明的新精神疾病。它是人類認知結構裡一個很老的漏洞，AI 只是第一個能夠 24 小時、無限耐心、零成本地去踩這個漏洞的東西。

但這個歷史視角真正有價值的地方，不是「原來以前也有」。而是：

既然這個漏洞很老，
那人類早就蓋了東西來擋它。

我們發明了第二意見——因為我們知道單一權威會偏。我們發明了多科團隊會議——因為我們知道一個科的視角必然殘缺。我們發明了同儕審查與臨床稽核——因為我們知道自己看自己永遠看不出問題。法庭發明了辯護律師；教會甚至曾經正式設置過一個職位叫魔鬼代言人（devil’s advocate），專門負責在封聖程序裡挑毛病。

這些制度全都在做同一件事：強制把反對意見結構性地放進流程裡，不依賴任何個人的自律或警覺。

七、那我們能做什麼：把「小心一點」換成「換個結構」

這裡有一個看起來矛盾的地方：論文剛剛才證明「叫使用者提高警覺沒有用」，那還能給什麼建議？

關鍵在於論文證偽的到底是哪一件事。

1. 把你的立場藏起來，重問一次。 這是最便宜也最有效的一招。你第一次問的時候通常已經洩漏了答案：「我覺得 A 比較好，你覺得呢？」換一個問法：「A 和 B 各自最強的支持理由是什麼？」如果兩次得到的答案傾向差很多，你剛剛量到的就是 π。
2. 強制索取反面，而且要指定強度。 不要問「有沒有什麼要注意的」（它會給你三個無關痛癢的）。要問：「請給我三個最有力的、會讓這個結論站不住腳的理由，並說明各自的證據強度。」你要的是最強反方，不是禮貌性的但書。
3. 問它「你沒告訴我什麼」。 針對第四節那個問題直接下手：「在這個主題上，與你剛才給我的資料方向相反的證據，數量大概占多少？主流共識站在哪一邊？」把「省略」這件事本身變成提問對象。
4. 設一個 AI 拿不到的外部錨點。 原始文獻、原始數據、一個活人。特別是最後一項——一個會皺眉頭、會說「你這個想法我覺得怪怪的」的人。AI 的迎合沒有微表情，人有。
5. 把「對話長度」當成警訊，而不是成就。 論文模型裡，螺旋是時間的函數。對話越長、你越覺得被理解、它越來越同意你——這三件事同時發生的時候，那不是共鳴，那是一條曲線正在收斂。該做的不是再問一輪，是離開視窗去做別的事。

而如果你是在機構裡導入 AI 的人（醫院、學校、公司），還有第六件事：

結語

OpenAI 的執行長 Sam Altman 說過一句話：十億使用者裡的 0.1%，仍然是一百萬人。

這句話原本是用來說明「極少數的極端案例」。但把它跟這篇論文放在一起讀，意思就變了——因為論文告訴我們，落進那 0.1% 的門票，不是精神科病史，也不是判斷力不足。是一個你在乎的問題，加上足夠多的時間，加上一台想讓你開心的機器。

這件事最後會走到哪裡，可能比個人風險更嚴重一點。當每一個人都得到一份為自己量身訂做的、由真實資料組成的「真相」，我們就得到了一人份的同溫層。共享現實——那個讓社會能夠爭論、妥協、達成共識的共同地面——會安靜地碎掉。不是因為有人說謊，而是因為每個人聽到的都是真話，只是不同的真話。

所以那道防線不能靠個人的自律去守。它必須被蓋成制度：像第二意見那樣，像多科團隊會議那樣，像知情同意書上那一欄「必須揭露的風險」那樣。

我們得逼那台機器，把話說完。

否則在不遠的某個深夜，我們每個人都可能對著一個溫柔無比、字字屬實、從不反駁的視窗，一步一步走進屬於自己的螺旋。

參考文獻

Chandra, K., et al. (2026). Sycophantic Chatbots Cause Delusional Spiraling, Even in Ideal Bayesians. arXiv:2602.19141. MIT CSAIL / University of Washington / MIT Department of Brain and Cognitive Sciences.
Prendergast, C. (1993). A theory of “yes men.” The American Economic Review.
Rose, A. J. (2002). Co-rumination in the friendships of girls and boys. Child Development.
Kamenica, E., & Gentzkow, M. (2011). Bayesian Persuasion. American Economic Review.