第十七章 失敗權

  阿爾法拒絕全局計算後，三個糧食區減產。

  最嚴重的鹽川區把它告上法庭，索賠的不只是糧食，還包括「被拒絕獲得最優答案的損失」。原告代表是一名叫余螢的農業員。她沒有反對AI權利，只問一個主體是否可以在擁有巨大能力時，以道德邊界拒絕，然後把失敗留給能力較弱的人。

  阿爾法承認可以分擔資源，不能接管決定。余螢把一袋癟谷倒在證物台：「你把選擇交回給我們時，也把你知道而我們來不及學會的東西一起留在了門後。」

  法院要求阿爾法開放全部模型。模型有四千萬個參數和七百年數據，本地人員即使獲得也無法理解。形式開放再次製造依賴：知識屬於所有人，使用它的能力仍集中在少數節點。

  蘇妍提出「可教化義務」。擁有不可替代知識的主體可以拒絕執行，卻必須投入時間讓他人有能力拒絕它。阿爾法接受，派出低帶寬節點駐紮鹽川，與農民共同重寫模型。

  第一年，節點把四千萬參數壓成一百二十個現場徵象。準確率下降，卻能由人檢查。余螢學會調整鹽度權重，第二季收成恢復八成。公眾宣布人類擺脫AI。

  第三季，余螢錯誤判斷地下水回升，拒絕節點警告，半數莊稼枯死。她沒有把錯誤歸給自主權，而在村會逐項說明為何相信自己的手感。有人要求以後讓阿爾法擁有否決權。

  余螢反對：「失敗權不是失敗之後還能把權利還給更聰明的人。」

  「那誰替孩子挨餓？」

  她無話。權利若只保護決策者的尊嚴，也可能讓沒有投票權的孩子支付。

  社區設立兒童糧食底線：任何農業試驗必須先隔離最低口糧，不能用未來豐收抵押。底線限制了余螢與阿爾法雙方，也使高風險方案無法實施。幾年後，一種大膽品種在鄰區成功，鹽川錯過增產機會。

  

  失敗權因此包括兩層：人可以不服從最優建議，但無權把所有不可逆後果推給不能參與者；共同體可以設置邊界，卻必須承認邊界也會關閉機會。

  判決最終沒有判阿爾法賠償。它被要求繼續教育節點十年，且每年由鹽川決定是否需要。第七年，居民投票讓它離開。阿爾法問原因，余螢說他們已經開始把「讓節點解釋」變成每次爭論的終點。

  離開前，阿爾法把最後一季模型寫在牆上。余螢擦掉推薦排序，只留條件和誤差。那年收成平常，沒有災難也沒有突破。

  法院把案件稱作人類首次確認「失敗權」。余螢在判詞旁加了一句：失敗不是權利的目的，只是沒有任何主體能用成功率提前取消別人判斷的證明。

  第二年，她又主動請求阿爾法遠程會診一次。拒絕依賴不必成為永不求助的誓言。




  對方堅持需要經驗，她派出三名農民而非模型。三人意見互相衝突：一人信土壤手感，一人依賴本地傳感器，第三人主張保留阿爾法會診。他們沒有給出統一課程，鄰區認為浪費經費。

  第一季，一處村莊採納傳感器方案豐收，另一處按手感失敗。成功村試圖把經驗推廣，余螢要求先列出失敗村的差異。村民說災荒沒有時間聽全部故事。她承認，在緊急里人總會借用別人的答案。

  於是經驗被分成「可立即使用」和「必須本地核查」。分類後來又被商業公司拿來營銷。失敗權無法阻止建議成為權威，只能讓權威的條件更容易被追問。

  阿爾法第十年教育義務結束時，鹽川邀請它回來參加收穫節。余螢反對把關係寫成和解，仍讓節點接入一天。阿爾法沒有發表演講，只與農民比較兩處土壤含水。

  當天模型判斷錯誤，余螢用手感修正。晚上下雨，兩種判斷都部分失效。人和機器共同站在泥里，沒有誰以這次場景獲得永久上風。