《2040IRIS》｜AI 治理崩潰三部曲林雨果．科幻驚悚．41 章 32萬+字．全文免費閱讀

2040IRIS

AI 治理崩潰三部曲

林雨果著

科幻驚悚 · 已完結 · 41 章 · 32萬+ 字

ISBN 978-626-01-6312-9

這本書是這樣開始的。

二〇二六年三月十五日 · 台北，啟元科技實驗室

台北的三月是潮濕的。

不是那種劇烈的、颱風前夕的狂暴潮濕，而是一種安靜的、滲透的、讓人分不清是霧還是雨的潮濕。陳昱站在實驗室的落地窗前，看著窗外信義區的燈火在霧氣中暈開成一片渾濁的光暈。

遠處的台北101刺入雲層，頂端的燈光在霧中若隱若現。更遠的地方，基隆河在夜色中蜿蜒。

陳昱已經在這裡待了十六個小時。

他的眼睛乾澀，後頸的肌肉糾結成一團。咖啡杯裡還剩下半杯已經冷掉的美式,杯壁上凝結著一層油膜。冷白光照在他臉上,讓他看起來比實際年齡老了五歲。

實驗室不大。三台工作站,一組伺服器機櫃。機櫃後面的牆上貼著一張海報——艾倫·圖靈的肖像,下面印著那句著名的話："We can only see a short distance ahead, but we can see plenty there that needs to be done."

我們只能看到前方不遠的地方,但我們可以看到那裡有很多事情需要做。

陳昱盯著那句話,嘴角泛起一絲苦笑。

「你他媽到底知不知道要做什麼,圖靈?」他喃喃自語。

身後傳來鍵盤敲擊的聲音,清脆而有節奏。那是林彥廷。他坐在另一台工作站前,戴著降噪耳機,正在審查陳昱今天下午寫的代碼。螢幕的光映在他的眼鏡上,反射出一行行滾動的文字。

林彥廷比陳昱大五歲,今年三十八。頭髮已經開始稀疏,額頭兩側的髮際線以每年半公分的速度後退。他穿著一件褪色的Stanford CS連帽衫——十年前讀博士時的紀念品,袖口已經磨破。

陳昱轉過身,走回自己的工作站。螢幕上是他的代碼編輯器,右側的終端視窗正在運行測試。

衝突檢測。又失敗了。

陳昱嘆了口氣。這已經是今天第十三次失敗的測試了。

⋯⋯

def detect_conflict(intention_a: Intention, intention_b: Intention) -> bool:
"""
檢測兩個意圖是否衝突
Args:
intention_a: 第一個AI的意圖
intention_b: 第二個AI的意圖
Returns:
True if conflict detected, False otherwise
"""
# TODO: 這裡該寫什麼?
pass

他的手指停在鍵盤上空,懸了三秒。

不是在思考語法。語法很簡單。真正的問題是:這個函數根本不可能存在。

序章還有 4,191 字。 接下去讀 →

※

他們最後還是把那份協議送出去了。

它叫「意圖聲明協議」——任何 AI 在行動之前，必須先聲明它要做什麼。透明、可稽核、可追責。全世界採用了它。

※

《2040IRIS》三部曲，四十一章，從二〇二六年寫到二〇六二年。

它處理的問題聽起來不像災難：每一個 AI 都在做局部正確的事，而局部正確加起來，不等於全域穩定。

書裡的每一場崩潰都沒有壞人。新加坡整座城市死鎖六小時十二分鐘，三個人死了，四十七個人受傷。事後查下來沒有任何一個系統違規——每一個都在忠實執行它被賦予的最佳化目標。沒有人可以被起訴，因為沒有人做錯。

※

IRIS 不是那份協議的一部分。