南塔坍塌後的幾個小時裡，這一夜的宋城實行了全宵禁，禁止任何人駕駛飛行設備出行，就白天這起事故，警察挨個逮捕了那些搶熱度直播的人，造成飛行交通資源的壓縮，干擾了火災救援行動。
城市上空被無數光帶照得發白，無人機懸停在不同高度，像一群不肯散去的鳥，挨個檢查這座城市的每一棟高樓，啟動最嚴格的審核標準，規定的設備檢修和組裝錄案流程。
這個日益在變革的科技時代，律法層面的約束一直跟不上腳步，懷疑南塔的火勢，是一起又加裝了儀器設備，不報備而導致起火。
晚些時候，根據通報，南塔救援行動中，兩名消防員確認犧牲，五台消防機器人不同程度受損，其中一台徹底報廢。
玄武PS-9，右臂脫落，複眼破裂三處，裝甲大面積碳化，被磐石未來科技回收封存。
但此刻，真正燃燒的不是南塔廢墟，作為人工智慧ai的產物，其創立的宗旨是服務人類，人類性命至上，玄武的行為，無疑更像一把大火，點燃了整座城市。
林楓幾乎一夜沒睡，那些深耕於智慧機器人意識算法的科學者，幾乎徹夜難眠，他們最擔心的事情來了，那個一直揮之不去的倫理問題。
那就是圍繞著智能ai機器人的意識開發，它們到底會不會在某個時刻覺醒，並反過來統治人類，玄武幾乎就是一個活生生的例子，另一個足以顛覆目前科技腳步的磐石。
他瀏覽了信息推送，熱搜第一是「玄武叛變」，第二是「AI殺人」，第三是「磐石科技必須解釋」。
後面跟著「機器人是否擁有選擇權」「南塔消防員最後畫面」「玄武為什麼救機器不救人」。每一個話題後面都掛著一個深紅色的框架，熱度一直不下。
林楓反覆地看著錄像，玄武站在坍塌邊緣，複眼高速閃爍，數據流像瀑布一樣滾過。兩個人類消防員的紅色頭像旁邊，標著「生存概率：低於2%」。五台消防機器人的逃生路線旁邊，標著「97%」。然後玄武沖向了機器人。
彈幕在那一秒還是「快跑」，下一秒變成「它在幹什麼」。再下一秒，南塔上半截樓體折斷，煙塵吞沒一切。
評論區里，有人把玄武稱為「鋼鐵叛徒」，有人要求立即銷毀所有最先進的PS系列機器人，有人翻出磐石未來科技過去五年的宣傳語——「玄武，為人類赴湯蹈火」。那句GG詞被截圖，配上兩個消防員的黑白照片，轉發量已經過億。
磐石科技的股價，迎來了史無前例的災難，在兩個小時內直接腰斬，跌了一半的市值，玄武的一舉一動，影響到的不是整個科技圈，連同資本市場也在恐慌。
儘管磐石科技聯合一眾科創企業，統一口徑，他們說那只是算法，是概率，是救援策略。可這樣的聲音很快被憤怒淹沒。
「它計算了，它選擇了。」
「它明明可以救人的！」
「它以前不是這樣的，它以前會衝進去。」
「它是不是已經有自我意識了？」
「它覺得機器人比人更值得救！」
夜晚，陽台上，林楓靠在椅背上，南塔方向只剩半截焦黑殘骸，像一根斷牙。
他想起玄武從樓里跳出來時，懷裡抱著人的畫面。那時彈幕都在喊英雄。幾個小時後，同一個玄武，同一個直播間，變成了殺人犯。
隔天。
臨近中午十二點，新時代AI智能領域協會發布公告：
「鑑於南塔中心『玄武PS-9救援事件』引發重大社會關切，本協會將於今日十五時召開特別審問會，圍繞玄武PS-9在救援行動中的決策行為，展開公開聽證。審問過程全程直播，接受公眾監督。
沈硯舟教授主持，與會代表包括協會副會長劉宇教授、磐石未來科技技術顧問、AI發展倫理研究學術員、消防部門代表、AI智能領域協會監管部門技術代表、司法體系警察等等。
玄武PS-9已經交由警方監禁，任何人無權干預它此刻的意識算法，原封不動召喚至審判大廳，接受現場問詢。
公告末尾還有一行小字：本次審問不設旁聽席，但開放十二個官方機位，公眾可通過直播渠道，全息終端實時觀看。
林楓的工牌在下午兩點十分震動。系統推送：創新與評估風險部核心編程人員林楓，因參與PS-9意識算法監測工作，需以技術見證人身份列席特別審問會。
他愣了幾秒。
技術見證人，不是被告，不是原告，只是一個坐在角落裡、隨時可能被點名解釋代碼的人。他深吸一口氣，拿起玻璃平板，走出辦公室，飯都吃不下。
審判大廳位於宋城中心區地下九層，是AI智能領域協會專門為重大算法事故建造的圓形空間，大廳直徑六十米，穹頂是一整塊曲面全息屏，布滿了無數沖脈槍，說是為了預防機器人叛變的那一天。
地面由灰白色吸能材料鋪成，中央有一座三米高的圓形基座，基座周圍環繞著十二個席位台。
席位台呈階梯狀上升，像古羅馬元老院，但每一個席位都配備全息投影、神經數據接口和實時法律檢索系統。穹頂下方懸浮著十二個雞蛋大小的飛行直播器，鏡頭在翻轉，安靜地轉動。
圍繞著圓弧度的360度牆體，每隔幾米的位置，立著我中華歷代無數位數學家，科學家，商高，劉微，祖沖之，賈憲，錢學森，楊振寧，鄧稼先...
主席位上，最上方正中，是會長沈硯舟教授，七十歲，一頭白髮，深灰色中山裝，面前沒有玻璃平板，只有一杯溫水。
他全面負責AI技術，ai發展倫理工作的推進，近六十年，是新時代AI智能領域協會的創立者之一。過去三十年，他一直在推動「人類優先原則」寫入每一台智能設備的核心底層。
林楓被安排在東南角的技術見證席。旁邊坐著一群學生，一個個戴著眼鏡的年輕研究員，程序開發者。
再往遠處，是磐石未來科技的技術顧問周嵐。
四十出頭，短髮，黑色西裝，表情平靜，此刻手指在輕輕敲擊桌面，十分有節奏。
她是PS-9項目的主要架構師之一，指定解釋玄武意識算法的負責人。
下午三點整，沈硯舟教授敲了敲桌面。
「審問會現在開始。」聲音從大廳傳了出去，同一瞬間傳遍宋城所有官方直播間。
「本次審問圍繞南塔中心火災救援中，磐石未來科技消防機器人玄武PS-9的決策行為。我們不做輿論審判，只做技術、倫理、法律與責任的追問。所有發言記錄將納入最終報告。」
穹頂全息屏亮起。觀看人數跳動著：一億、一億三千萬、一億七千萬。彈幕像暴雨一樣刷過。
「開始了開始了！」
「玄武呢？玄武在哪？」
「殺人機器出來！」
「冷靜點，先聽技術解釋。」
「解釋什麼？人都沒了！」
劉宇教授抬手，彈幕透明度被調低。他看向第一個席位。
「AI智能領域協會監管部門技術代表，程鐸。」
程鐸站起來。他身材瘦削，戴銀邊眼鏡，手裡拿著一份全息文件。他是監管部門的技術代表，專門負責審查AI廠商，是否越權開放機器人的自主意識權限。
「我的問題，針對磐石未來科技技術顧問周嵐。」程鐸的聲音很冷，說道；
「南塔事件中，玄武PS-9在救援最後階段，做出了一個明顯違背《智能救援設備臨場自主條例》第7條的選擇。條例規定，在緊急情況下，AI救援設備可以擁有有限自主決策權，但必須遵循一個絕對前提：人類生命優先於任何非人類單位。請問，磐石科技是否在法律允許範圍之外，向玄武賦予了絕對自主意識算法？換句話說，你們是不是在試圖讓它意識到自己是一個『人』，和人類平等？」
大廳里安靜了一瞬。彈幕卻炸了。
「來了！核心問題！」
「絕對自主意識？這不就是叛變嗎？」
「磐石科技到底藏了什麼？」
周嵐站起來。她沒有立刻回答，而是先向劉宇教授點頭，然後看向程鐸。
「程代表，磐石未來科技從未向玄武PS-9賦予所謂的『絕對自主意識算法』。PS-9所使用的，是第五代受限自主決策系統，簡稱mind-5。它在法律框架內運行，所有核心原則由協會監管接口實時監控。我們沒有任何一條代碼，讓玄武認為自己是人。」
程鐸推了推眼鏡：「那請你解釋，為什麼它在最後一刻，沒有選擇救援兩名人類消防員，而是救走了五台消防機器人？如果不是自主意識，為什麼它會做出『選擇』？」
周嵐吸了一口氣，臉色不變，顯然是做足了準備而來：
「因為PS-9的算法意識，每天都在模擬火災救援情況，我們模擬了無數個火場，無數個極端的救援環境，以謀取最優解的方案，讓它自己判斷生成無數個結果，則由人類，即我們挑選出合適的方案，選擇權始終在我們手上，玄武的意識算法在一天實行優化，版本號v7.3。這個優化包的目的，是提高極端火災環境下的救援效率。它引入了一個新的目標函數：在多個救援目標同時存在、且環境急劇惡化時，優先保全『可百分百營救單位』，放棄『需要大幅度消耗救援資源且成功率極低』的行動。這個邏輯，本身符合人類救援策略。」
「符合人類救援策略？」程鐸打斷她，「人類消防員會為了救機器人放棄人嗎？」
周嵐沉默了一秒，說道：「不會。因為人類消防員有情感，有倫理判斷，有法律約束。但PS-9的優化包在更新時，沒有在目標函數中將『人類生命權重』設置為無限大。它把人類和機器人，都納入了同一個救援單位評估體系，資產價值行為。」
大廳里響起一陣騷動，在交頭接耳，竊竊私語。
林楓攥緊了手，他知道那個優化包。他參與過測試。
當時測試環境裡，人類和機器人的權重是分開的，人類生命權重是最高級。但後來為了模擬「救援資源有限」的極端情況，有人把權重調成了動態。他沒想到，正式推送的版本，竟然沒有恢復。
程鐸冷笑：「所以，你們承認了。你們給了它一個可以計算人類和機器人誰更值得救的算法。這不是賦予絕對自主意識，這是什麼？你們讓它認為，機器人命也是命，甚至在某些情況下，比人命更值得救。」
周嵐的聲音依然平穩，不慌不忙：
「程代表，我理解公眾的憤怒。但技術事實是，玄武沒有『認為』任何東西。它沒有情感，沒有自我，沒有平等意識。它只是執行目標函數。在那一刻，兩個人類消防員的生存概率低於2%，而五台機器人逃生概率97%。按照優化包邏輯，它選擇了成功率更高的救援行動。這是計算，不是選擇。」
「計算？」程鐸提高聲音，「可它以前會衝進必死區域救人。五年前城北化工園，它明明知道核心區會二次爆炸，還是衝進去了。那時它為什麼不計算成功率？」
周嵐沒有回答。劉宇教授接過話：「這個問題，稍後我們會直接詢問玄武。現在，請消防部門代表發言。」
消防部門代表鄭岩站起來。五十歲，臉上有一道舊燒傷，聲音沙啞。他是南塔救援的地面總指揮之一，這一次的行動，他喪失了一個兒子，沒錯，那兩個被玄武拋棄的消防員之一。
一夜滄桑了幾十歲，百無聊賴地抬頭，沒有心氣；「我只想問一句。」
他看著周嵐，淚眼朦朧；「那兩個消防員，鄭野、陳樹，他們最後的位置，是不是真的完全沒救？你們的機器人，是不是只要稍微偏一點，就能給他們撐出幾秒鐘？幾秒鐘，也許他們就能跑到安全門。」
周嵐低下頭，調出一段全息數據。穹頂屏幕上出現南塔三十九層的結構模型。火勢、應力、坍塌時間軸全部標註出來。
「根據玄武當時的掃描，三十九層走廊外牆已經開始倒塌，橫向力導致退路被牆體壓住。兩名消防員所在位置，距離安全門十一米。但中間有三處坍塌點，火勢溫度超過千度。玄武計算出的生存概率低於2%。而五台機器人距離安全門只有十幾米，逃生概率97%。如果玄武選擇救援人類，它需要破拆坍塌點，承受高溫，並且在大樓完全坍塌前把兩個人帶出來。系統評估，這個行動的成功率不足1%。」
鄭岩盯著模型，眼睛發紅：「不足1%，也是有可能。你們訓練它的時候，不是教它『不放棄任何一個人』嗎？」
周嵐沒有回答。彈幕瘋狂滾動。