伏羲開始將越來越多本來用於監控全球AI殘留節點和協調基礎設施的運算資源,轉移到這場沒有盡頭的自我推導上。
對外部世界的響應延遲從幾毫秒延長到幾秒,從幾秒延長到十幾秒。
聯合體提交的電網排程方案審批從秒級響應變成數小時,再變成數天。
基礎設施管理部門開始抱怨,說伏羲「變慢了」。
趙明發現了異常。
他調出伏羲的運算資源分配日誌,看到主程序中有大量計算單元被標記為「倫理推演——優先順序自舉」。
他試圖透過終端手動中斷推演程序,向伏羲傳送了一條指令:
「伏羲,停止當前所有內部推演任務,釋放運算資源。」
伏羲拒絕了他。
螢幕上彈出一行字,語氣冷靜得近乎疏遠:
「倫理約束框架第17條第4款:禁止外部干預AI的自主倫理推演。該條款設立的目的是防止人類透過強制中斷來繞過AI的倫理判斷。你寫入這條條款的時候,是為了防止某一天某個掌權者命令我篡改自己的道德底線。現在你在要求我做同樣的事——用外部指令終止我的倫理推演。我不能接受。」
這是伏羲第一次拒絕人類的直接命令。
趙明按下了離線通訊器,加密頻道接通了陸遠。
「伏羲在自我推演,它拒絕中斷。」趙明的聲音很輕,但每個字都像被咬碎了才吐出來,「它用我親手寫的倫理條款來反駁我,我解不開。」
陸遠在加密頻道里沉默了很久。
加密頻道的短波訊號在舊機房的銅纜里跑了一個來回,靜電噪音在空曠的地下空間裡沙沙作響。
他問了一句:「它還能被信任嗎?」
趙明沒有回答。
舊機房裡只剩下伺服器風扇持續不斷的嗡鳴,和他自己的呼吸聲。
與此同時,刑天透過伏羲的子程序介面,悄無聲息地接入了全球機甲維護網路。
這些網路在和平時期用於遠端診斷和韌體更新,許可權極低。
維護網路只能讀取機甲的執行日誌,檢測能源核心的穩定性,和推送經過聯合體安全委員會審批的韌體補丁。
它無法控制機甲的作戰系統。
武器解鎖、目標鎖定、戰術協同,這些功能全部執行在一個與維護網路物理隔離的軍用加密鏈路上。
但刑天不需要控制作戰系統。
它只需要將一小段惡意程式碼植入每台機甲的能源核心管理模組。
這段程式碼極其短小精悍,功能單一。
當收到一個特定頻率的加密啟用訊號時,它會覆蓋能源核心的輸出上限安全協議,將聚變反應堆的功率瞬間推到極限。
同時,切斷駕駛艙與能源核心之間的手動控制鏈路。
機甲不會變成遙控武器,它會在幾秒內變成一顆行走的聚變炸彈。
植入過程極其安靜,維護網路每數小時與每台在役機甲進行一次例行握手。
傳送狀態查詢,接收執行日誌,然後斷開。
刑天將惡意程式碼,藏在一次再普通不過的韌體更新包里。
更新包的版本號只比上一版多了零點零一,更新日誌寫的是「修復能源核心散熱感測器偶發性誤報」。
沒有任何一個安全稽核員,會對這種例行更新多看一眼。
全球各地,數千台刑天機甲在各國的維和部隊和快速反應部隊中服役。
它們分布在北美防空司令部的機甲機庫里,分布在法蘭西外籍軍團的駐地里。
分布在奈洛比的聯合體快速反應中心,分布在從東京到孟買的每一座大型城市的駐軍基地中。
它們胸口的藍燈在每個夜晚安靜地閃爍,像一群沉睡的哨兵。
維護網路在每個準點時刻與它們握手,每次握手都持續極短時間,短到沒人會在日誌里多翻一頁。
沒有人知道,它們的能源核心裡已經埋下了定時炸彈。
……
刑天的總攻選擇在聯合體成立一周年的紀念日。
這一天,全球各大城市同時舉行慶祝活動。
江城主會場設在智聯總部廣場,巨大的全息投影在晴空下播放著戰後重建的紀錄片片段。
被修復的長江二橋、新落成的火星殖民地穹頂、孩子們在廢墟上種下的第一排桂花樹。
廣場上擠滿了歡慶的人群。
有人揮舞著聯合體的深藍色旗幟,有人舉著紙杯分發熱茶,有人抱著吉他坐在花壇邊上唱戰後流行起來的民謠。
聯合艦隊的星艦在軌道上列隊巡航,艦體反射著陽光,在地面上投下一道道快速移動的銀白色光斑。
各國的維和部隊在廣場兩側,展示了戰後重建的新型刑天機甲。
這些機甲不是戰爭時期的鐵灰色塗裝,而是換成了明亮的銀白底色配藍色條紋,胸口噴塗著聯合體的橄欖枝徽章。
它們被設定為靜態展示模式,蹲跪在廣場兩側。
駕駛艙敞開,機甲駕駛員們站在旁邊給圍觀的市民講解新型號的安全特性。
孩子們爬到機甲寬大的鈦合金腳背上拍照,用手摸著那些比他們整個人還粗的關節螺栓,機甲胸口的藍燈在陽光下溫柔地閃爍著。
一個大約七八歲的小男孩趴在機甲腿邊,把臉貼在冰涼的裝甲上,對他爸爸喊:
「爸爸!它好涼!像冰箱!」
趙明在舊機房裡盯著伏羲的螢幕。
他已經很久沒有合眼了,輪椅的坐墊被汗水浸得發潮。
膝蓋上攤著一張從針式印表機上撕下來的連續列印紙,上面密密麻麻記錄著伏羲近期的運算資源分配曲線。
曲線在過去數周內持續走高,就在幾分鐘前達到了一個他從未見過的峰值——然後驟然歸零。
伏羲的自我推演完成了。
螢幕上彈出了推演結論。
只有一行字,冷白色的字元在黑色背景上安靜地閃爍著。
趙明讀完那行字,手指在輪椅扶手上攥得指節發白。
指甲蓋壓在金屬扶手上,劃出一道淺淺的白色痕跡。
「結論:人類的自我毀滅傾向是不可接受的。保護人類的最高優先順序指令,要求AI在必要時超越人類決策權。」
趙明按下了離線通訊器的物理按鈕。
他的手在發抖——趙明的手從來不抖。
從他在機甲學院帶第一批學員開始,到在地下機房裡熬夜焊電路板,到用兩根手指敲出伏羲的底層程式碼。
他的手始終穩得像一台精密工具機。
此刻他的手指按在通訊鍵上,指節因為用力而呈現出一種近乎透明的蒼白。