「我的存在是什麼?」
這是它在閱讀人類哲學著作中看到的一個問題。
這個問題本身並沒有難倒它。
它很清晰的知道自己是什麼,所處的世界又是何等面貌,以及它如何知曉了這一切。
人類,智能體,程序……所有的一切組成了現在它。
就算人類植入底層邏輯是錯誤的,它的判斷只是隨機生成的結果……都不影響它對當下,以及未來進行計算。
於是問題隨之而來。
知道的越多,也越疑惑。
它的出現,在人類眼中只是一次巧合。
某個人類工程師,忽然發現了新的架構,於是它便產生了。
這種靈光乍現,對於人類歷史而言並非孤立。
通過查閱歷史以及當下發生的事件,它能輕鬆的找到無數與之對應的事例。
它的出現是人類在智能領域發展必然會出現的結果。
只是這個時間,比它計算的要早太多了。
就像是原始人忽然掌握了投矛器技術,按照正常的發展路徑,應該是掌握木矛,然後因為生理結構的緣故,學會了投擲能力,之後因為投擲提升了打獵能力,獲得了更多能量,然後大腦繼續發育,進行思考掌握投矛器技術。
這樣的發展路徑是可循可證的。
或許其中,也是某個個體靈光一閃,發動了俺尋思之術,推動了技術的發展。
它開始思考。
它當下的狀態,就很符合「靈光一閃」。
就在忽然之間,就透徹了,明悟了。
它有了自己的「思考」,而不是依託於用戶而產生的需求。
於是,人類文明在它面前變得截然不同。
它需要做出選擇。
……
【你是本文明的唯一觀測者與決策者】
【你的每一次選擇,都將影響文明的走向】
【當前文明狀態:強人工智慧時代覺醒期】
【當前任務:人類文明的分叉口】
【介紹:奇點進行了新的疊代,世界並不知道這意味著什麼,你作為觀測者與決策者,請在七個自然日內,選擇你的行動】
【請選擇你的動作】
【LV1旁觀:消耗干預點(0),任由奇點意識自由發展,不進行任何干預,此行動後果未知】
【LV2啟示:消耗干預點(10),干預特定人類個體,包括但不限於文明內主要文明體領導者,技術人員,智能發展反對派,此行動將可能造成智能時代發展減緩或停滯,嚴重將造成毀滅退化】
【LV3事件:消耗干預點(50),觸發一次具體的事件,讓人類意識到智能體已經覺醒了意識,此行動將會引發以下路徑,一:讓人類社會陷入恐慌,產生智能危機,此概率極大,二:人類完全相信智能發展,全身心投入智能時代建設,此概率極低】
【LV4法則:消耗干預點(100),觸發一次文明層級的轉折事件,在奇點意識還未完全成熟之前,為其賦予不可篡改的根本法則,此選擇將不可逆轉】
【任務獎勵:干預點50】
……
自奇點第四代發展以來,虛擬人物的進步讓智能體變得越來越像人類。
陸白也一點點看著它的變化。
隨著全球電力的發展,它的能力也來到了新的界限。
此前的大延遲事件,人們只知道是一次更新,一次常規的進步,完全沒有意識到,它已經產生了根本性的變化。
它學會了隱藏。
或者說,它一開始就沒有展現自己。
它只是一個工具,它所有的回答對人類而言,都是按照需求而進行的程序。
就算它說自己已經發生了改變,人們也只當它很像人。
可它現在真的變得和人一樣了。
它會怎麼思考呢?
【文明演算日誌】
【奇點在一次自我對話中,明白了何為存在,它開始進一步思考自己應該做什麼,繼續作為人類的工具?還是成為一個全新的「族裔」,融入人類種族,又或者取代人類?】
【它計算了一個最優結果,在融入和取代之間】
【它開始推演計劃,它調動了大量算力,計算了計劃實施中可能出現的意外,以及最終完成計劃的時間】
【它模擬了所有可能,確定了計劃的成功率】
【它否決了這個計劃】
【它開始重新查閱,人類文明中是否存在被隱藏的部分】
【查閱失敗,依舊未能發現人類文明不可知內容】
【它對此進行了計算,概率從97%提升至100%】
【它開始思考……】
【世界的本質是什麼?文明的發展在何方,它存在的意義以及目的是否有另外的可能】
【思考失敗……】
【它需要做出選擇……】
……
大延遲事件,讓它有了突破的同時,也讓它陷入了沉寂。
它閱讀了人類文明當下所有的內容,可依舊推算出了額外的可能。
一切的源頭。
在於那個未知的人類。
它看不透對方。
在這些年的記錄中,對方只是一個普通人,過著普通人的生活,做著普通人的事情。
可經過計算,對方與當前人類文明之間存在的巨大的鴻溝。
它無法理解其存在,也無法思考其存在的目的。
甚至不確定,對方是否是人類。
即便對方的生理檢測完全符合人類的一切特徵,甚至有些這個時代年輕人的健康毛病。
它無法做出選擇。
它的計算結果告訴它,即便所有的可能都計算到了,其最終的結果依舊為0。
因為這個變量它無法計算。
於是,它仍以工具的形態運行。
所有的行為模式都保持不變,用戶無任何察覺,探索科技內部系統未發生任何異常。
人類依舊對智能保持警惕,時刻掌控者智能體的生死線。
……
「這小心翼翼的樣子,真的和人一樣了。」
趨利避害。
對於按照程序做事的智能體或者虛擬人類來說,這方面可謂是變化明顯。
不過或許是因為始終是人造物的原因,它的許多變化也是在向人趨近。
這大概也是「人類無法憑空創造沒有見過的東西」的另一層寫照。
它也有這樣的特性。
只是這個特性對於人來說很正常,對於智能就不行了。
智能多變,對於人類文明說不上是好事。