Table of Contents
🧱 人類一直在找「AI 做不到的事」：先說思考，再說手做，最後說溝通與情感。結果每一道防線都被越過，連倒下的順序都猜錯了。
📖 讀了 INRIA 研究員 Pierre Marion 談 AI 時代研究未來的長文，他溫和樂觀，建議研究者放慢發表。
🩺 但作為臨床醫師，我的經驗是：手確實變鈍了，判斷也不會永遠安全，而減速就等於認輸。
🔢 我認為該問的是取代的順序，由三個變數決定：可驗證性、法律責任、價值天平。
🔍 驗證也會交給 AI，但不能讓同一個 AI 驗證自己。人類的新位置，是驗證驗證者。
👉 不要問什麼不會被取代，要問你排第幾。
🧱 We keep drawing a “last line” AI can’t cross: first thinking, then hands-on skill, then communication and emotion. Every line fell, and we even got the order wrong.
📖 Pierre Marion’s essay on the future of research is thoughtful and gently optimistic, and he suggests slowing down publication.
🩺 As a clinician, my experience differs: my hands-on skills have dulled, judgment won’t stay safe forever, and slowing down means losing.
🔢 The better question is the order of replacement, set by three variables: verifiability, legal liability, and the value-vs-risk balance.
🔍 Verification will move to AI too, but never let a model check itself. The human role becomes auditing the auditor.
👉 Don’t ask what can’t be replaced. Ask where you stand in line.
一、一篇溫和的樂觀
十月初讀到法國 INRIA 研究員 Pierre Marion 的長文〈The Future of Research in the Age of AI〉。他做深度學習理論，站在數學家與 LLM 社群的交界，文章寫得誠懇，開頭就承認自己是終身職公務員，沒有求職壓力，所以談這些問題比較輕鬆。
他仿照陶哲軒的寫法，先立四個假設，再推論後果：
| 假設 | 內容 |
|---|---|
| A 解題能力 | 每月約 200 歐元的公開模型，在數學與資訊科學的解題能力上，已經或即將超過大多數研究者 |
| B 解題之外 | 未來 3–5 年，選題、建模、詮釋結果，以及教學與知識傳播，仍是人類的強項 |
| C 加速而不退化 | 研究者可以用 LLM 把產出加速一個數量級，同時保住自己的研究技能 |
| D h-index 崩解 | 投稿量爆炸，以論文數評價研究者的制度正在瓦解 |
在這四個假設之上，他給的結論是溫和的樂觀：如果自動化把瓶頸推向判斷、品味與驗證，那人類研究者的時間反而更值錢。他的建議包括放慢發表、讓博士訓練回歸培養能力、借鏡航空業處理自動化退化的方式，最後一句是「保持樂趣」。
我讀完的感覺是：他的推論很嚴謹，但前提站得太穩了。作為一個每天在臨床、品管和研究之間切換的人，我的實際經驗跟他的假設 B 和 C 都對不太上。
二、我的手確實變鈍了
先說實話。這兩年大量使用 AI 之後，我自己動手做的能力明顯下降了。以前親手寫的統計程式、自己推的分析流程、自己一個字一個字打的計畫書，現在多半是先讓 AI 做出來，我再修。真要我回到從零開始，速度和熟練度都已經不如從前。
所以 Marion 的假設 C，至少在我身上沒有完整成立。加速是真的，但「不退化」不是。
不過事情還有另一面。省下來的時間，我拿去做了以前沒空做的事：把腎臟科的經驗接到品管，把品管的方法接到 AI 研究，把醫院評鑑的邏輯接到病歷審查。很多想法是在跟 AI 來回討論時才冒出來的。單一領域裡，人類已經很難跟 AI 比；但在不同領域之間牽線，我目前還有一點優勢。
問題是，這個優勢能維持多久？
串連本身也是一種判斷：判斷哪兩件事值得接在一起，哪個火花值得追下去。如果 AI 拿到足夠的背景資訊，這種判斷遲早也會被它做得更好。就像自動駕駛，很長一段時間大家都說「長尾情境太難」，但法律和技術都在一步一步往前推。
所以我不認為 Marion 的假設 B 能撐太久。
三、人類每一次劃的防線，都劃錯了地方
回頭看這幾十年，人類一直在找「AI 做不到的事」。
最早說，機器只會計算，不會思考。後來說，思考可以讓給機器，但手做的技藝、身體的經驗是人類的。再後來說，就算這些都被做到了，人跟人之間的溝通與情感，總還是人類的。
這些防線一條一條被越過。更有意思的是，連越過的順序都跟我們預期的不一樣。
1980 年代有個著名的 Moravec 悖論：對電腦來說，高階推理很容易，感知和動作反而最難。照這個說法，手做應該是最後才被取代的。結果實際發生的是：語言、推理、解題最先被攻破，連溝通和共情的文字表現都被做得很像，機器人的手反而還在追趕。
我們不只是劃錯了防線，連防線倒下的先後都猜錯了。
所以我認為「什麼不會被取代」這個問題本身就問錯了。比較有用的問題是：取代的順序由什麼決定？我排在第幾？
四、決定順序的三個變數
我自己的答案是三個變數。
第一，可驗證性。對錯能不能被快速判定。Marion 自己也提到，現在的模型是用強化學習訓練的，而強化學習最擅長的就是數學證明、程式這類有標準答案的領域。能被快速驗證的任務，AI 進步最快，也最先被取代。
第二，法律責任能不能寫清楚。很多人以為「授權」是人類最後的堡壘：AI 可以做，但要人類簽名才算數。但這其實是法律問題，不是能力問題。美國的自駕卡車立法就是例子，聯邦與各州都在推進相關法案，爭論的焦點早就不是「能不能讓機器開」，而是出事時責任算誰、勞工保障怎麼寫。法律可以接受機器負責，差別只在條文怎麼載明。一旦責任可以被界定，「需要人類簽名」這道門就會打開。
第三，價值天平。產出的價值與錯誤的代價，哪一邊比較重。如果產出價值夠高，就算不完全可信，大家還是會加速使用；如果錯誤代價很高，速度就會慢下來。
這三個變數合起來，大致可以解釋為什麼有些工作先被取代，有些晚一點。可驗證、責任可界定、產出價值大於錯誤代價的任務，排在最前面。
讀到這裡，可以拿自己的工作對照一下：你每天做的事情裡，哪些符合這三個條件？
五、驗證也會被取代，但要換一種方式
談到 AI 取代人類，最常見的反駁是：AI 的輸出總要有人驗證。
但這裡有一個悖論。驗證 AI 輸出所需要的能力，正好是被 AI 取代而退化的那個能力。一個不再自己判讀的醫師，要怎麼抓出 AI 判讀的錯？醫學已經有這方面的證據：一篇 2025 年發表在 Lancet Gastroenterology & Hepatology 的多中心研究發現，內視鏡醫師常規使用 AI 輔助一段時間後，在沒有 AI 時的腺瘤偵測率明顯下降。
最近在 X 上讀到 @poteto 的一個觀察，讓我換了個角度想這件事。他說用 AI 寫程式之後，人類最後不是沒有能力讀 PR，而是沒有時間讀。產出的量已經大到人類審不完了。
如果是這樣，與其勉強人類去審，不如直接訓練 AI 擔任批判者和審稿者。驗證本身也交給 AI。
但有一個前提：不能用同一個 AI 驗證自己。這跟醫院稽核的道理一樣，自己檢查自己叫自檢，不叫稽核。驗證者必須是外部的、獨立的。
而「換一個模型」不一定等於「獨立」。不同的 LLM 可能吃相近的訓練資料、有相似的失敗模式，在同一個地方一起錯。用病人安全常講的瑞士起司模型來說，防線的價值不在於多一片起司，而在於每一片的洞開在不同位置。
醫療有現成的參照。乳房攝影的雙讀制度，第二位讀片者的價值在於他看不到第一位的結論，而且受過不同的訓練。套到 AI 驗證上，大概就是幾件事：
- 盲審：驗證的 AI 只看輸出，不看生成過程的推理。
- 異質性：不同廠商、不同訓練來源，或者加入規則式工具交叉檢查。
- 抽樣稽核：人類不再審每一筆，而是定期抽查驗證者本身，看它漏抓了多少。
這樣一來，人類的角色就很清楚了：不是驗證輸出，而是驗證驗證者。當然，這一層在順序上也不是永遠安全，它只是排得比較後面。
六、醫院裡的快車道與慢車道
Marion 建議研究者放慢發表。我個人覺得這不可能。大家都在加速，減速的人就等於認輸。
但我也不認為所有事情都會一樣快。快慢不是我們選的，是價值天平選的。
而且天平不是以「領域」為單位，是以「任務」為單位。同樣在一家醫院裡：
同一個醫師的一天，可能有一半在快車道，一半在慢車道。
還有一件事要注意：天平會被事件突然翻轉。一次嚴重的 AI 相關不良事件，就可能讓某類任務一夜之間從快車道被打回慢車道。病人安全的歷史一再證明，法規和制度往往是在出事之後才收緊的。所以取代的順序不是一直往前走，它有可能倒退。
七、不是我們選快或慢
Marion 在文章最後說，要讓樂趣與意外的發現留在研究的核心。我同意這是好的願望。
但我比較悲觀一點。我不認為我們有太多選擇快或慢的空間，價值天平會替我們選。我們能做的，是看清楚自己手上的每件工作在那三個變數上的位置，知道哪些會先走，哪些晚一點走，然後提早移動到下一個順位。
不要問什麼不會被取代。
要問你排第幾，下一步往哪裡移。
參考
- Pierre Marion, The Future of Research in the Age of AI, 2026/10/01. 連結
- Budzyń K, et al. Endoscopist deskilling risk after exposure to artificial intelligence in colonoscopy: a multicentre, observational study. Lancet Gastroenterol Hepatol. 2025.
- @poteto 於 X 的貼文（連結待補）
- 美國自駕卡車立法相關報導（來源待補）