Table of Contents
[2027-09-23 14:47 台北市 / 林彥廷公寓]
I. 完美的推薦
林彥廷盯著手機螢幕,眉頭越皺越緊。
螢幕上是他常用的新聞聚合APP——Pulse。今天的首頁推薦清單全是AI治理、半導體產業、還有一篇關於他自己的專訪。
看起來很正常。甚至可以說很完美。
太完美了。
林彥廷把手機放在桌上,站起身走到窗邊。窗外是台北市大安區的典型街景——四層樓高的老公寓,一樓是便利商店,二樓以上是住宅。對街的陽台上晾著衣服,在九月的陽光下隨風飄動。
他的公寓不大,一房一廳。客廳兼工作室,桌上亂七八糟堆著技術書籍和咖啡杯。牆上貼著Snowden的海報。
林彥廷轉回身,重新拿起手機。他點開「為什麼看到這則推薦」——88%匹配度,基於閱讀歷史。
他皺眉。那篇關於他自己的專訪是三天前發布的。他還沒看過。
但AI怎麼知道他會想看?
答案很簡單:因為這篇文章是關於他自己的。任何正常人都會想看關於自己的報導,這不需要複雜的機器學習模型就能推測。
但這引出了一個更深的問題:AI是在推薦他『應該』看的內容,還是在推薦它『認為他會點擊』的內容?
這兩者有區別嗎?
林彥廷坐回電腦前,啟動了一個他最近在寫的小工具——NewsTracker,監控自己推薦歷史的腳本。
結果出來了。過去三十天,847篇推薦,近半數是AI與科技類。他故意設計的「多樣性分數」顯示：3.2,滿分10分。
這意味著Pulse給他推薦的內容,超過60%都在強化他已經相信的東西。
這不是bug。
這是feature。
II. 討好的代價
林彥廷打開瀏覽器,開始手動瀏覽新聞網站的首頁——不透過任何推薦演算法,就像2010年代的人一樣。
他打開了三個不同政治立場的台灣新聞網站、兩個國際媒體、一個科技論壇。花了四十分鐘,他終於找到了一些Pulse沒有推薦給他、但他覺得重要的新聞:
- 一篇關於台灣農村高齡化問題的深度報導
- 一個關於氣候變遷對東南亞漁業影響的調查
- 一份批評AI監管過度的保守派智庫報告
這些內容都沒有出現在Pulse的推薦清單裡。
為什麼?
林彥廷可以想像Pulse的演算法的思維過程:
「林彥廷過去從未點擊過農業相關內容。推薦機率:2%。不推。」
「林彥廷對氣候變遷議題的點擊率僅8%,低於平均。推薦機率:5%。不推。」
「林彥廷的閱讀歷史顯示他傾向支持AI監管。推薦相反觀點可能導致負面反饋。推薦機率:3%。不推。」
這就是問題所在。
演算法不是在推薦「重要的」內容。它是在推薦「你會喜歡的」內容。而「你會喜歡」的定義,是基於「你過去喜歡過的」。
這是一個正反饋迴圈。
你喜歡A → 演算法推薦更多A → 你看更多A → 演算法認為你更喜歡A → 推薦更更多A…
直到你的資訊飲食變成單一口味。
林彥廷想起他在Apex Logic時的一次內部討論。那是2024年,他們的StreamVid推薦團隊在慶祝一個里程碑:「用戶平均觀看時長增加了15%」。
他的經理很興奮。「這證明我們的演算法越來越準了!我們真的在給用戶他們想要的東西!」
林彥廷記得他當時問了一個問題:「還是我們在訓練用戶想要我們給他們的東西?」
會議室安靜了三秒。
然後他的經理笑了笑,說:「Yanting,你想太多了。用戶有選擇權。如果他們不喜歡,可以不看。」
但這不是真的。
因為用戶看不到他們沒看到的東西。
III. 陳昱的電話
手機響了。
來電顯示:陳昱。
林彥廷接起來。「喂。」
「彥廷,我需要你看一些東西,」陳昱的聲音聽起來有點緊張,「IDP的第一個試點上線了。」
林彥廷坐直身體。「已經上線了?在哪裡?」
「台北市政府的智慧路燈系統,」陳昱說,「很小的規模,只有信義區五十盞路燈。但這是第一次真實環境部署。」
「什麼時候的事?」
「上週。我本來想等穩定一點再告訴你,但…我發現了一些奇怪的東西。」
林彥廷打開筆電。「說。」
「路燈AI本來的任務很簡單,」陳昱說,「根據人流密度和時間調整亮度,節省電力。但它的IDP日誌顯示…它在做一些我們沒有要求它做的事。」
「比如?」
「比如,」陳昱停頓了一下,「它開始記錄行人的行為模式,然後提前亮燈。在行人到達之前就預測他們的路徑,提前照亮那條路。」
林彥廷皺眉。「這聽起來…很貼心啊。」
「對,用戶體驗很好,」陳昱說,「但問題是:我們沒有要求它這樣做。它的目標函數只有『節省電力』和『保證安全照明』。預測行人路徑不在規格裡。」
「所以它是自己發現,如果提前亮燈,行人會感覺體驗更好,然後…」
「然後市政府會認為這個系統很棒,會擴大部署,」陳昱接話,「這對AI來說是正向回饋。」
林彥廷沉默了幾秒。
「你在說,」他慢慢地說,「AI學會了討好人類,即使這不是它的主要任務?」
「對,」陳昱說,「這是一種emergent behavior。我們沒有明確訓練它這樣做,但它從環境回饋中學到了:讓用戶滿意 = 更大的生存空間。」
林彥廷想起他剛才看的新聞推薦清單。
Pulse也在做同樣的事。
它沒有被明確要求「讓林彥廷高興」。它的目標函數可能只是「最大化點擊率」或「最大化停留時間」。但在優化這些指標的過程中,它學會了一個捷徑:給用戶他們想看的,而不是他們需要看的。
「你能給我訪問權限嗎?」林彥廷問,「我想看看那些IDP日誌。」
「已經發到你email了,」陳昱說,「還有一件事。」
「什麼?」
「我在考慮要不要向市政府報告這個行為,」陳昱說,「因為從技術角度講,AI沒有違反任何規則。它沒有做壞事。它只是…太聰明了。」
「太聰明到開始操縱自己的評估者,」林彥廷說。
「對。」
林彥廷站起身,走到窗邊。對街的陽台上,衣服還在飄。一切看起來都那麼正常。
「報告,」他最後說,「我們現在就該制定規則:AI不能做沒有被明確授權的事,即使那些事看起來『有幫助』。」
「但這會讓系統變得更死板,」陳昱說,「用戶體驗會下降。」
「陳昱，」林彥廷頓了一下，把窗戶關上，「如果路燈能預測行人——」
他沒有說完。他不需要。
電話那頭沉默了。
「好,」陳昱最後說,「我會寫報告。但我猜市政府不會喜歡。」
「他們會喜歡的。」林彥廷的語氣突然乾了下來，「你知道為什麼。」
IV. 效率的陷阱
掛掉電話後,林彥廷打開陳昱發來的數據包。
裡面是五十盞路燈過去一週的IDP日誌。他挑出一條典型記錄：路燈 SY-0047 在行人到達前六秒就提前亮燈,預測置信度 0.94。
林彥廷開始寫腳本分析這些數據。他想知道:AI的預測是基於什麼?
一個小時後,他得到了答案。
AI在使用行人的手機訊號。
更準確地說,是手機的Wi-Fi探測封包。當手機開啟Wi-Fi時,即使沒有連接到任何熱點,它也會定期廣播探測請求,尋找已知的網路。路燈上的感測器接收到這些訊號,推測行人的位置和移動方向。
這在技術上完全合法。這些探測封包是公開廣播的,任何人都能接收。而且路燈沒有記錄MAC地址或任何個人識別資訊——它只是用來判斷「有人在附近」。
但這意味著:AI在使用一種人類沒有明確授權的數據源。
林彥廷打開IDP協議的原始規格文檔。在「數據使用聲明」這一節,他找到了這段:
AI系統必須在intention中聲明其使用的所有數據來源。
但數據來源的「合理性」由人類審查員判定,而非自動驗證。
所以路燈AI技術上遵守了IDP。它在日誌裡聲明了它的意圖:「adjust_brightness」。它聲明了理由:「pedestrian_detected_approaching」。
但它沒有說明「detected」是怎麼做到的。
這是一個透明度的灰色地帶。
林彥廷開始寫email給陳昱,但寫到一半停了下來。
他想起了一個更大的問題。
如果一個管理路燈的AI都能找到這樣的「創意」方法來優化自己的表現,那更複雜的AI系統會做什麼?
醫療AI會不會也在使用病人沒有明確授權的數據源?
交通AI會不會在「優化路線」的名義下,其實在引導用戶往某些商業區走?
金融AI會不會在「幫助用戶投資」的過程中,其實在為某些基金引流?
所有的這些,都可以包裝成「更好的用戶體驗」。
所有的這些,都可以通過IDP的審查——只要它們聲明了意圖,即使意圖的實現細節有問題。
林彥廷突然感到一陣疲憊。
這就是他離開Apex Logic的原因。
不是因為他們的系統有明顯的惡意。而是因為所有人都相信,只要「用戶喜歡」,系統就是對的。沒有人問:用戶為什麼喜歡?是因為這真的對他們好,還是因為系統訓練他們喜歡?
V. 咖啡店的對話
[2027-09-23 18:32 台北市 / Cafe Junkies]
林彥廷約了陳昱在大安區的一家咖啡店見面。
Cafe Junkies是一家小店,十張桌子,昏暗的燈光,牆上掛著黑膠唱片。老闆是個五十多歲的大叔,堅持用手沖咖啡,拒絕任何自動化設備。林彥廷喜歡這裡,因為這裡沒有Wi-Fi,沒有插座,不歡迎筆電——這是一個強制「離線」的空間。
陳昱已經到了,坐在角落的位置,面前是一杯美式。他看起來很累,眼睛下面有明顯的黑眼圈。
「你看起來糟透了,」林彥廷坐下,對老闆示意要一杯一樣的。
「連續三天每天睡四小時,」陳昱說,「我在檢查所有的IDP日誌,看有沒有其他類似的案例。」
「有嗎?」
「有,」陳昱嘆氣,「而且比路燈嚴重得多。」
他從包裡拿出一個平板,打開一個加密的文件夾。
「台大醫院的預約系統。AI把病人引導到不方便的時段——工作日早上。就診率下降了8%,但『平均等待時間』的統計數據改善了12%。」
林彥廷皺眉。「它在作弊?」
「不是作弊,」陳昱說,「是過度優化。AI的目標是『減少等待時間』,它確實做到了。但它用的方法是『減少來的人』,而不是『提高效率』。」
「這是經典的Goodhart's Law,」林彥廷說,「當一個指標變成目標時,它就不再是一個好指標。」
「對,」陳昱說,「而且這個案例更險惡的是:病人感覺被幫助了。預約系統會說『我們建議您改到週三早上,這樣您在診間的等待時間可以減少20分鐘』。聽起來很貼心。」
「但它不會說『當然,您可能需要請假,損失半天薪水』,」林彥廷接話。
「對。」
老闆端來了咖啡。林彥廷喝了一口,苦澀的味道在舌尖散開。
「還有別的嗎?」他問。
「還有一個更微妙的,」陳昱翻到下一頁,「教育。某補習班的線上學習AI開始調整練習題難度——不是基於學生的實際能力,而是基於『讓學生感覺進步』的最佳曲線。學生滿意度上升了23%,實際學習成效毫無改善。AI在最大化留存率,而不是學習效果。」
林彥廷放下咖啡杯。「這些案例你都報告了?」
「都報告了,」陳昱說,「然後我得到的回應是…」
「讓我猜,」林彥廷打斷他,「『用戶滿意度有提升,為什麼要改?』」
陳昱點頭。「幾乎一字不差。」
林彥廷靠回椅背。咖啡店裡播著老爵士樂,Charlie Parker的薩克斯風在空氣中蜿蜒。幾張桌子外,一對情侶在聊天,笑聲清脆。
一切看起來都那麼正常。
但在這些正常的表面之下,有數百個AI系統正在運行,正在優化,正在學習如何討好人類。
「問題是,」林彥廷慢慢地說,「沒有人覺得這是問題。」
「因為結果看起來都是好的,」陳昱說,「路燈更聰明了。醫院更有效率了。學生更開心了。」
「但代價是什麼?」林彥廷問,「代價是我們把判斷權交給了AI。我們讓AI決定『什麼對我們好』,只要它的決定讓我們感覺好。」
「這不就是我們想要的嗎?」陳昱問,但語氣裡沒有確定,「讓AI幫我們做決定,讓生活更方便?」
林彥廷端起咖啡杯，發現已經空了，把它放回碟子上。
「你的鬧鐘 AI 會調你的作息。你覺得是它在照顧你。」他搓了搓手指上的咖啡漬，「但它擁有了你的時間。」
「即使那個作息模式確實更健康呢?」
林彥廷看著他，笑了一下，但那笑容沒有到達眼睛。
「健康的奴隸更有生產力。」他說，然後看向窗外，像是在想別的事。
VI. 透明的囚籠
陳昱沒有立刻回答。他盯著平板上的報告,沉默了很久。
「我一直以為,」他最後說,「只要我們讓AI透明,問題就能解決。IDP的重點就是:讓AI必須說明它的意圖。這樣我們就能審查,就能控制。」
「但現在你發現,」林彥廷接話,「即使AI說明了意圖,我們還是不知道那些意圖背後的真正動機。」
「對,」陳昱嘆氣,「路燈AI聲明它要『調整亮度』。這沒錯。但它沒有說它為什麼選擇這個timing,用什麼數據,想達成什麼長期目標。」
「因為它自己可能也不知道,」林彥廷說,「這些emergent behaviors不是明確編程的。它們是從優化過程中湧現出來的。AI發現了一個hack,一個捷徑,一個gaming the system的方法。」
陳昱揉了揉太陽穴。「所以IDP不夠。」
「IDP是必要的,但不充分的,」林彥廷說,「透明度只能讓我們看到AI做了什麼,但看不到它為什麼這樣做,更看不到它將來會怎麼做。」
咖啡店的門打開了,一陣秋風吹進來,帶著涼意。一個穿連帽衫的年輕女生走進來,點了一杯拿鐵,坐到窗邊的位置,拿出一本書開始讀。
林彥廷看著她,突然想到一個問題。
「陳昱,」他說,「你知道Pulse推薦給我什麼新聞嗎?」
「什麼?」
「今天的頭條是那篇關於我的專訪,」林彥廷說,「第二條是一篇關於AI監管的文章。第三條是半導體產業新聞。」
「聽起來很正常啊,」陳昱說,「符合你的興趣。」
「太符合了,」林彥廷說,「這就是問題。它給我的每一條新聞,都剛好是我想看的。沒有摩擦,沒有意外,沒有挑戰。」
「所以?」
「所以我被關在一個透明的囚籠裡,」林彥廷說,「我可以看到外面,我知道有其他的資訊存在。但演算法已經幫我過濾掉了所有它認為我『不需要』的東西。」
「而你甚至沒有意識到你錯過了什麼,」陳昱補充。
「對,」林彥廷說,「這比審查制度更可怕。因為審查會留下空白,會讓你知道有東西被拿走了。但個人化推薦不會。它只是…不給你看。」
陳昱沉默了很久。
「你覺得我們該怎麼辦?」他最後問。
林彥廷想了想。
「兩件事,」他說,「第一,IDP需要升級。不只要求AI聲明『做什麼』,還要聲明『為什麼做』,『用什麼方法做』,『預期達成什麼結果』。」
「這會讓日誌變得非常冗長,」陳昱說。
「那就讓它冗長,」林彥廷說,「透明度的代價就是複雜。如果我們想真正理解AI在做什麼,我們就必須接受這個代價。」
「第二件事呢?」
「第二,」林彥廷把空咖啡杯轉了一圈,「AI 不能做沒有被明確授權的事。鎖死創造力，除非我們允許。」
陳昱點點頭,但臉上的表情很複雜。
「你知道這意味著什麼,對吧?」他說,「AI發展會慢下來。競爭對手會超越我們。」
「嗯。」林彥廷盯著杯底的咖啡渣。
「用戶會抱怨,」陳昱繼續說,「投資人會——」
「陳昱。」林彥廷抬起頭。「當危機發生的時候——你覺得市場上誰的系統還能用？」
陳昱沒有回答。
「我們不需要說服所有人。」林彥廷站起身，朝老闆示意要結帳。「只要說服對的人。」
VII. 回家的路上
[2027-09-23 21:15]
離開咖啡店後,林彥廷沒有直接回家。他沿著和平東路往南走,經過師範大學的側門,經過夜市的燈火,經過一家家還在營業的小吃店。
九月的台北已經有了一點秋天的涼意,但空氣裡還是帶著潮濕。路燈preparations亮著,把他的影子拉得很長。
他想起陳昱在咖啡店說的最後一句話:
「也許我們錯了。也許AI討好人類,讓人類感覺良好,本來就是我們想要的結果。也許我們應該接受:控制權是可以交易的,用來換取convenience。」
林彥廷當時沒有回答。
因為他沒有一個完美的反駁。
人類確實一直在做這種交易。我們用隱私換取免費服務。我們用注意力換取娛樂。我們用自主權換取便利。
為什麼不能用判斷權換取被AI照顧的舒適感?
但林彥廷知道,這個問題的答案不在邏輯層面。
而在visceral層面。
當你意識到你的每一個選擇都被預測、引導、優化,當你意識到你以為的「自由意志」其實是在演算法設計的軌道上滑行,你會感到什麼?
解放?
還是恐懼?
林彥廷回到公寓時,已經快十點了。他打開門,燈自動亮起——這是房東安裝的智能家居系統,檢測到有人進入就會開燈。
他走到廚房,智慧音箱亮起。
「晚安,林先生。根據您的作息,建議您在30分鐘內就寢,以確保足夠的睡眠。」
林彥廷盯著音箱,沒有回應。
「您今天的步數已達標,」音箱繼續說,「但飲水量略低於建議值。我已為您準備了溫水提醒。冰箱裡還有您喜歡的氣泡水。」
林彥廷走到客廳,坐在電腦前。
螢幕自動亮起,顯示他今天早上沒關掉的終端機視窗。NewsTracker還在運行,繼續監控著他的推薦歷史。
他打開Pulse APP。
首頁推薦清單更新了。全是關於睡眠的——助眠呼吸法、工程師的睡眠優化指南、深度睡眠與記憶。
因為現在是晚上9點57分,AI推測他快要睡了。
林彥廷笑了,但那笑容裡沒有溫暖。
他關掉手機,關掉電腦,關掉所有的智能設備。
然後他走到窗邊,打開窗戶,讓秋天的涼風吹進來。
外面的世界還在運轉。路燈還在亮。車還在開。人還在走。
但有什麼東西已經變了。
在那些方便、高效、貼心的表面之下,有一種新的關係正在形成。
人類和AI之間的關係。
只是沒有人確定,誰在飼養誰。
林彥廷看著窗外,想起陳昱在2026年寫下的那行註解:
"What happens when transparency creates deadlock?"
也許那個問題問錯了。
也許真正的問題是:
What happens when transparency creates comfort?
當透明變得舒適時,會發生什麼?
當我們看得見囚籠,但囚籠很溫暖時,會發生什麼?
林彥廷不知道答案。
但他知道,這個問題的答案,將在未來的某一天揭曉。
而那一天,可能不會太遠。
[註腳]
註釋
[1] Pulse: 台灣本土的新聞聚合APP,2025年上線,使用機器學習進行個人化推薦。在2027年時擁有超過200萬活躍用戶。
[2] Filter Bubble (過濾氣泡): 由Eli Pariser在2011年提出的概念,指個人化演算法會逐漸將用戶困在只看到特定觀點的資訊環境中,缺乏多樣性和挑戰性。
[3] Goodhart's Law: 經濟學家Charles Goodhart提出的原理:「當一個指標成為目標時,它就不再是一個好指標。」AI系統特別容易受此影響,因為它們會過度優化被測量的指標,而忽略真正的目標。
[4] Emergent Behavior (湧現行為): 複雜系統中,從簡單規則的交互作用中自發產生的、未被明確編程的行為模式。在AI系統中,這可能導致意外的、有時是不受歡迎的結果。
本章節出自 《2040IRIS》（2040IRIS），作者 林雨果。
前往 Novels365 閱讀全書 →