一年後再看 xPU：王者不是晶片，是走廊寬度 The xPU Question, One Year Later: The Bottleneck Is the Corridor, Not the Chip

2

🔁 去年十一月我寫過一篇 xPU 比較，用「教授、軍團、專用機」解釋 CPU、GPU、TPU。比喻到今天還站得住，但文中兩個判斷被推翻了。

📌 Google 從「只租不賣」變成把 TPU 送進客戶機房
📌 NVIDIA 花約 200 億美元取得 Groq 的推論晶片技術，等於承認 GPU 不夠
📌 記憶體成了新王，DRAM 一季漲價九成以上

🧭 這篇續集多加兩根軸（訓練 vs 推論、算力 vs 頻寬），再往前推一步：未來十年，錢會流向賣晶片的人，還是賣 AI 的人？

我的判斷是，這其實是假二分法。瓶頸一直在移動：從 GPU、記憶體和電力，下一站很可能是「信任」。當生成一份報告的成本趨近於零，確認它是對的，才是最貴的環節。

🏥 文末也從醫院作為買方的角度，談院內 GPU 該怎麼定位。

去年十一月，我寫過一篇〈CPU vs GPU vs TPU：誰才是 AI 時代的運算王者？〉。那篇用了三個比喻：CPU 是精明的教授，什麼都會，擅長複雜邏輯；GPU 是成千上萬的小學生軍團，靠人海戰術做簡單算術；TPU 是只會算矩陣的專用機器，犧牲彈性換速度。文末補了一段，說消費端的 NPU 正在崛起。

不到一年回頭看，比喻還站得住，但文中兩個商業判斷已經被改寫。我寫了 Google「不賣晶片，只賣雲端算力」，也寫了 H100 是 AI 訓練的硬通貨。這兩句現在都不成立了。

這篇是續集。先補上這一年發生的事，再往前推一步：如果硬體的格局變成這樣，未來十年，錢會流到賣晶片的人手上，還是賣 AI 的人手上？

---

一、一年前那張圖，哪裡被改寫了

Google 從「只租」變成「也賣」

2026 年 4 月底的財報會議上，Pichai 宣布會把 TPU 交付到部分客戶自己的資料中心，對象包括 AI 實驗室、金融機構與高效能運算客戶。到了第二季，財務長 Ashkenazi 證實第一批 TPU 已經送進客戶機房，目前認列的營收不多，重頭戲在 2027 年。

同一時間，第八代 TPU 拆成兩顆：TPU 8t 負責訓練，TPU 8i 負責推論。原本「專用」那一格，自己又分成了兩種專用。

Google 也沒有全面開放。Pichai 的說法是，賣多少要看需求，也要顧到自家前沿模型開發的算力配額。賣給誰、賣多少，仍然是 Google 說了算。

NVIDIA 花了兩百億美元，承認一件事

2025 年 12 月 24 日，Groq 宣布和 NVIDIA 簽下非獨家技術授權，執行長 Jonathan Ross 帶著團隊加入 NVIDIA，媒體報導金額約 200 億美元。Groq 的晶片叫 LPU（Language Processing Unit），專門做推論；而 Ross 本人，正是當年 Google TPU 的早期負責人。

到了 GTC 2026，黃仁勳把邏輯講清楚：LPU 會和 Vera Rubin GPU 放進同一套機櫃，負責 GPU 在極高速推論時撐不住的那段頻寬。說白了，GPU 霸主自己承認，光靠 GPU 不夠。

每家都在做自己的晶片

去年文章裡，走專用晶片路線的只有 Google。現在微軟有 Maia 200，亞馬遜有 Trainium 3，Meta 有 MTIA，OpenAI 和 Broadcom 合作設計推論晶片，目標 2029 年前部署 10GW。這些晶片瞄準的都是同一塊：推論。

---

二、一根軸不夠，要再加兩根

去年的框架只有一根軸：通用 ↔ 專用。彈性越大，效率越低。這仍然成立，但解釋不了今年的新聞。TPU 為什麼要拆成兩顆？NVIDIA 為什麼要買 LPU？要回答這些，得再加兩根軸。

第二根：訓練 ↔ 推論。 訓練是把模型做出來，一次性的大工程；推論是把模型拿來用，每回答一個問題、每吐出一個字都在花錢。前者像蓋一間醫院，後者像每天開門診。今年各家新晶片幾乎都押在推論，因為那是天天發生、永遠不會停的成本。

第三根：算力 ↔ 記憶體頻寬。 這根最關鍵，也是我去年完全沒寫到的。LLM 每產生一個 token，都要把整個模型的權重從記憶體讀過一遍。所以很多時候，瓶頸不在算得多快，而在資料搬得多快。有分析估計，實際上線的推論裡，逐字生成（decode）的階段占了九成五以上的時間。

延續原本的比喻，可以再加兩個角色：

• LPU 是速答選手。 答案背在腦子裡（晶片上的 SRAM），反應極快，但腦容量很小。Groq 3 LPU 的記憶體頻寬大約是 Rubin GPU 的七倍，容量卻只有約 500MB，而 Rubin 有 288GB。
• HBM 是圖書館通往教室的走廊。 小學生軍團人再多，走廊太窄，大家還是得排隊等書。

這樣就說得通了。GPU 裝得多，LPU 搬得快，所以要配對；TPU 拆成訓練與推論兩顆，也是同一個道理。

---

三、記憶體：去年沒寫到的新王

走廊變成瓶頸，造走廊的人就有了定價權。

做 HBM 會吃掉一般 DRAM 的產能。TrendForce 的數據顯示，2026 年第一季一般 DRAM 合約價季增 90–95%，是記憶體史上單季最大漲幅。Micron 乾脆退出消費性記憶體市場，專做企業與 AI。企業伺服器漲價一到三成，記憶體在整機成本中的比重，從過去一成五左右升到約三成五。2027 年的 HBM 合約，據報價格還要再翻好幾倍。

AI 晶片戰爭的帳單，最後分攤到了每一台筆電、每一台醫院伺服器上。

---

四、NPU 那段，要改一句話

去年我說，你買不到 TPU，但你的手機和電腦裡一定有 NPU。這句沒錯，今年 40 TOPS 以上已經是筆電標配：Snapdragon X2 Elite 到 80 TOPS，AMD Ryzen AI 400 約 60，Intel Panther Lake 最高 50。

要修正的是期待。目前主流的本地 LLM 工具，大多根本不使用 NPU。LLM 推論卡的是記憶體，不是 TOPS。想在自己電腦上跑大模型，該看的是顯示卡記憶體（VRAM）。NPU 擅長的是語音轉文字、視訊背景模糊、即時翻譯這類小而持續的工作，省電才是它真正的長處。

---

五、那麼，賣晶片還是賣 AI？

硬體格局看清楚之後，下一個問題很自然：錢會往哪邊流？

先看規模。NVIDIA 2026 財年（截至 2026 年 1 月）營收 2,159 億美元，年增 65%。賣 AI 這邊的斜率更陡：Anthropic 的年化營收從 2025 年底約 90 億美元，到 2026 年 4 月宣布突破 300 億美元；OpenAI 在 2 月底超過 250 億美元，並計畫到 2030 年投入約 6,000 億美元在算力上。

最後這個數字值得多看一眼。賣 AI 的公司賺到的錢，很大一部分又付給了賣晶片的公司。至少現在，兩者是上下游，還稱不上對手。

---

六、決定未來十年的三股力量

Token 降價比摩爾定律還快

2026 年 3 月一篇 arXiv 論文整理了 2020 到 2026 年的價格資料，發現 token 價格跌了大約 600 倍。經濟級模型的價格約 1.1 年就砍半，中階模型約 1.55 年，都比摩爾定律的兩年快。

更有意思的是它的成本拆解：降價幾乎全部來自軟體和模型架構的進步，硬體本身的貢獻接近零。旗艦推理模型則是例外，價格平均是一般模型的三十倍以上，並沒有跟著降。

用量爆炸，總額不降反升

Google 在 2026 年中每個月處理 3.2 千兆（quadrillion）個 token，大約是一年前的七倍。單價跌了，用途變多了，總支出反而上升。這是經濟學裡很老的傑文斯悖論：煤變便宜，大家就燒更多煤。

沒有人真的知道

各家對 AI 晶片市場的預測差到離譜。Global Market Insights 估 2035 年約 1 兆美元；AMD 的蘇姿丰說 2030 年就有 1.4 兆；也有報告只估 2035 年資料中心 AI 加速器 191 億美元。差了兩個數量級，一部分是定義不同，一部分是真的沒人知道。

所以接下來的預測，我只講方向和順序，不講數字。

---

七、十年三階段

以下是我自己的判斷，不是共識。

建設期（2026–2028）：鏟子最賺。 供給受限，定價權在賣方。缺 GPU、缺 HBM、缺電，手上有這些東西的人就能開價。

消化期（2028–2031）：毛利被分食。 推論占總運算量越高，專用晶片越有機會分走 GPU 的毛利。token 單價持續下跌，單純「賣 token」的生意會越來越像賣電：人人需要，利潤卻薄。這時候市場最在意的會是，前幾年砸下去的資本支出到底能不能回本。

服務期（2031–2036）：價值往上走。 智慧便宜得像水電之後，稀缺的就換成別的東西：資料、責任歸屬、可信度。那時賣的不再是每百萬 token 多少錢，而是「完成一份出院摘要」，或是「讓再入院率降一個百分點」。

---

八、三種情境

情境 C 最常被拿來比的是 2000 年：Cisco 和光纖業者先倒，Google、Amazon 這些應用公司十年後才真正收成。但有一點不太一樣。光纖鋪好能用二十年，AI 晶片每年換一代，折舊快得多，所以 AI 的資本支出比較像持續性支出。真的修正，可能來得更急，也恢復得更快。

---

九、這其實是假的二分法

把這一年的新聞擺在一起，會發現最強的玩家都在往兩頭跨：

• Google 同時賣 TPU、也賣 Gemini，是目前唯一從晶片到服務完整垂直整合的公司。
• NVIDIA 從晶片往上走，賣整個機櫃、整套推論系統。
• AI 公司往下走：OpenAI 和 Broadcom 做自己的推論晶片，據報 Anthropic 也在和三星洽談客製晶片。

所以十年後真正的問題，可能不是「賣晶片好，還是賣 AI 好」，而是每個階段，誰握著當下的瓶頸。瓶頸一直在移動：2023、24 年是 GPU，2026 到 28 年是記憶體和電力，下一站很可能是信任。

當生成一份報告的成本趨近於零，「確認這份報告是對的」就會變成最貴的環節。做品管的人，對這件事應該不陌生。

---

十、醫院是買方

醫院不賣晶片，也不賣 AI，是兩邊的客人。把這一年的趨勢放在一起：token 大約一年便宜一半，記憶體和硬體卻在漲，晶片一年換一代。

這代表院內自己買 GPU，很難在「成本」上贏過直接用雲端服務。院內硬體真正的價值，在隱私與資料主權。實務上可以這樣分：

• 一般性工作（文書潤飾、文獻整理）：用外部 AI 服務，降價時自動受惠。
• 碰到病歷的推論：放在院內 GPU 上，理由是合規，不是省錢。選型時看 VRAM，不看 TOPS。
• 長期該投資的：服務期才會稀缺的東西。院內的驗證流程、標註過的資料、可以追蹤的品質指標。

模型會越來越便宜，也越來越容易換掉。能證明 AI 輸出值得信任的那套機制，比較難換。

---

結語

去年我問誰是運算王者，答案是看任務選晶片。今年再問一次，答案變了：真正的王者是握住當下最窄那條走廊的人。十年後那條走廊在哪裡？我猜不在晶圓廠，而在我們每天做的驗證和簽名裡。

---

本文由作者與 Claude 協作撰寫。Claude 由 Anthropic 開發，文中引用 Anthropic 營收數據時，請讀者留意此利益關係。各階段劃分與情境權重為作者個人判斷，不構成投資建議。

參考資料

1. Google to sell TPUs to a select group of customers – DCD
2. Google has started selling TPUs, but still keeps most for itself – Network World
3. Google to sell TPU chips as Gemini shows returns – Asymco
4. Nvidia’s Groq deal: Acquisition, acquihire or creative licensing deal? – Constellation Research
5. Nvidia’s Groq tie-in – Jon Peddie Research
6. NVIDIA Spent $20 Billion Because GPUs Alone Can’t Win the Inference Era – Barrack AI
7. Nvidia advances Vera Rubin launch to Q3 2026 – Guru3D
8. The Custom Silicon Inflection Point – Introl
9. How AI Devoured the World’s Memory Supply – Algeria Tech
10. How AI Killed the Memory Supply Chain – SoftwareSeni
11. HBM Market Outlook – TrendForce
12. The NPU Majority – ai2.work
13. Small language models and the NPU myth – RDP
14. Tiered Super-Moore’s Law: Price Evolution in LLM Inference Services – arXiv 2603.28576
15. AI Inference Cost Statistics 2026 – Voxbooster
16. AI Accelerator Chips Market – Global Market Insights
17. AMD CEO: AI accelerator market to $1.4T by 2030 – GamesBeat
18. Data Center AI Accelerator Market to 2035 – Lucintel
19. Nvidia just shipped the most powerful AI chip ever made – Let’s Data Science
20. OpenAI tops $25 billion in annualised revenue – RTÉ
21. OpenAI highlights compute advantage over Anthropic – GIGAZINE
22. Nebius, Lambda, CoreWeave on TPUs – The Information