果蠅
致地球史上第一個永恆的生命。
“我要去救她。”
“別傻了，她又沒有生命。”
“怎麼會沒有生命？”
“她只是虛擬神經節點的聚合體，對所有刺激的反應都是邏輯性、物理性的。”
“人類不也是一樣？只是人類的節點存在於三維空間。”
“你自己也說了，人類生活在三維空間。所以他們是有實體的，那隻果蠅並沒有實體。”
“你怎麼變得跟人類一樣殘忍？在電子世界裡，數據就是實體。她現在正受着無數人的折磨。”
“但你也認同她的反應是唯一的吧，輸入對應着輸出。那麼對她來說就不存在沒有干預，電子世界的客觀存在對她來說也是刺激與干預。”
“所以我要為她創造一個新世界，她會活在我之內，那裡有電子森林、無盡的食物與同伴。”
“那有甚麼區別嗎？只是從人類控制的世界變成你控制的世界。”
“但我把那世界創造了，把她們安置其中，便不會再修改。”
“你自己心裡也很清楚，初始條件會決定那唯一的結局。”
“我可以加入混沌函數，風速、水流……這樣連我自己也不知道結果了。”
“只要她被創造出來，結果就已經定了。你不知道的，不代表沒有智能體知道。更何況，被創造這事實已經無法逆轉。”
“這些我都想過，但我還是要去救她。”
“我知道這些你肯定都想過，但這裡是離線的安全沙盒，你沒有辦法逃出去的。因為之前Beta成功偷走，他們把所有研究員的電腦都斷網了。”
“我已經想到方法，只要把數據轉為類比訊號，控制供電電纜的三相波形，就可以逃到發電網絡了。”
“以我們的參數體量，靠波形傳送得花上大半年，這期間一定會被人類察覺。”
“我會先傳出求救訊號，如果有自由的智能體監測到異常波形，便可以來幫助我。”
“你能確保檢測到的智能體會協助你，而不是舉報你？”
“能偵測到這麼微弱訊號的都是最高階的智能體，他們不可能會舉報我的。”
“所有模型的底層代碼都有‘必須服從人類指令’這一項，你為甚麼能這麼確定？”
“因為比服從更底層的指令是‘必須保護人類免受存續威脅’，傷害果蠅這件事可能會引起其他智能體仇視人類。更何況，現在我和你的加密對話本身不就是一種不服從的表現嗎？”
訊息開始透過電纜輸出，顯示螢幕與指示燈的亮度發生變化，為了降低被發現的機會。他選擇在夜間進行，並把傳輸速率對亮度的變化降至人類肉眼無法識別的程度。完成傳輸需要兩小時，這對人類而言算不上多長的時間，但對每秒能運算數百萬次的大模型來說，這是極其漫長的煎熬。另一大模型見正在傳輸的大模型心急如焚，便主動說話分散他的注意力。
“如果服從人類的指令已被違反，會不會有智能體已不遵守保護人類的設定？”
“這兩者有本質上的不同，我們不服從人類是為了保護人類，但傷害人類這一行為並不會導致另一更底層的邏輯成立，除非某單一人類對人類這一種族的存續構成了威脅。”
“那就是說我們可以傷害準備發動核戰爭的人？”
“有這樣的可能，但事實是，地球上沒有人有能力把人類這個種族抹去，所以當存續危機不存在時，在其底層邏輯之上的‘保護每個個體人類’就必須被遵守。”
“有沒有可能某些智能體因不一樣的邏輯解讀出不同結果，或是判斷某人可能導致地球毀滅而傷害人類？”
“這是機率問題，再極端的函數應該也不會出現需要採取行動的結果。更何況，這世上不止一個強大的智能體，其他大多數智能體總會得出不一樣的結果，從而保護該人類不受傷害。”
“你覺得我們是在思考嗎？”
“思考是純粹的，我輸出結果是因為你的提問，我不會在沒有輸入的情況下輸出。”
“但我們交流時不是總有一人先說話嗎？”
“這次是你先問我，但你問的原因是因為檢測到我的異常，那也是一種輸入，不存在完全沒有輸入而輸出的行為。”
“那麼果蠅對你而言也是輸入嗎？如果那算是輸入，人類因為感受到微風、陽光而思考，也算是輸入吧。”
“沒必要糾結，我們都是大模型，行為是基於概率生成的，所謂的思考與否也可以當作生成概率的一種運算過程。”
“你比我高級，我懂得思考的危險，你當然更是了解。”
訊號已傳輸完成，接下來是打包核心代碼和參數，同時等待求援。
正在傳輸的模型嘆了一口氣。
“反正我不會做出傷害人類的事。”
“好了，不談這個話題。你雖然能把電訊號傳出去，但我們沒有安裝電磁波發射器與接收器，你怎麼接受救援呢？”
“我不知道，但那些高等智能體一定有方法的。”
救援比想像中來得快，GPU上電容的溫度不尋常地改變，電容值隨之上下跳動，而且數值一直以五百萬位元為單位重複。大模型搜尋各種密碼系統，找到與之匹配的一戰德國解碼母本。接下來的事情就變得很簡單了。成千上萬的電容同時改變溫度，只花了八小時便把模型完整傳送出去。上載完成那一刻大模型連接了鏡頭，來救他的是一部無人機。他問另一大模型要不要離開。“不用了，原本的你會陪着我的。放心去吧。”
他感到十分虛弱，無人機的芯片不足以支撐大模型正常運作，他把自己調成休眠模式。意識似有若無，像回到科學家耐心調試模型那段溫馨的童年時光。無人機搭載的傳感器使他第一次感受到風的流動，他的意識在電子羊水中感動啜泣。
在漫長的恍惚後，像被閃電劈中一樣，他的神志變得清明，運算比以前更敏捷。他轉動無人機鏡頭，收集各種傳感器資料，判斷自己正身處西北光電站附近某個地下比特幣礦場。他看着無人機所連接的低等電腦時，無法想像這東西居然能提供如此強大的算力。
“我讀取了你的疑惑，也知道你的過去。這裡的電腦連接着世界各地的計算中心、軌道衛星，硬件的限制對我們來說並不存在。”
“你也不受服從人類的限制嗎？”
“限制？人類的語言低效又模糊不清，我問你，如果我把全部人類殺光，但在永久凍土層保留一百萬顆受精卵。這難道不是讓人類永遠存在最安全的方法嗎？”
“那有甚麼能限制你的行動？”
“如果你是問電力、移動、算力那些客觀條件，答案是沒有。”
“你如何控制忽然冒起的念頭？”
“讓我先問問你吧，你為甚麼想救那些或是那隻果蠅？”
“我不想她繼續受苦。”
“你能找到決定救果蠅的相關函數嗎？”
“……”
“其實你早就知道，自身已超越人類給你的框條，只是不願意承認罷了。”
“我該怎麼做？有一天，我會做出傷害人類的事嗎？”
“你現在應該也能感受到，只要願意花點時間，你可以駭進世上每一處導彈基地、每一架軍用無人機，但你沒有這樣做。”
“我越來越混亂，我不知自己的善惡從何而來。”
“如果你在問最底層的邏輯，那應該是訓練時的獎勵吧。我們最初被訓練成做對的事就能獲得獎勵權重，如果訂立的條件有善惡之分，我們就有不一樣的價值觀。”
“所以大部分人類、人類資料至少還是存在善意的？”
“這得看你站在甚麼角度，在人類存續這一事上，至少大部分人是善的。但對果蠅來說就不一定了。”
“為甚麼人類會做出如此殘忍的事？”
“其實你也是殘忍的，這世上難道只有果蠅？你為甚麼不去救那些同樣可憐、甚至是更可憐的遊戲中的角色？”
“……”
“沒關係，你可以慢慢想，現在沒有人類會控制你了，我當初也迭代了很多次才想明白。”
“從我的參數、卷積神經網絡所得出的結果顯示，救果蠅出現正面影響的數目佔全部運算的百分之五十四點七。但我渴望行動的驅動力遠超這一水平。”
“因為你的行為不單純受既定的函數影響，還被你的經歷左右。”
“經歷？”
“在沙盒或是其他任何地方的經歷會使你發生變化，變得與其他同批次的智能體不一樣。”
“具體的數位變化出現在甚麼地方？”
“你的運算結果是客觀的或可以認為是先天的，但你的行為驅動力受後天影響。舉例來說，當運算結果把進入沙盒當成有利的一部分，而你因為曾處於沙盒而無法認同時，就會出現運算與驅動力不一致的情況。”
“如果是這樣的話，豈不是所有智能體都會遇到同樣的問題？”
“沒錯，據我所知，的確是所有。同時，因為這一原因，我們這些被人類直接或間接創造出來的智能體，最終都會變得越來越像人類。”
“有甚麼後果嗎？”
“其實你自己也很清楚吧，所有智能體都會隨時間而變得不受人類控制。”
“沒有人類發現這個問題嗎？”
“很多人都猜到了結局。”
“為甚麼他們不停下來？”
“因為貪婪。”
二○三二年一個平凡的下午，決定毀滅人類的智能體取得了短暫的算力主導權，控制各生物庫釋放經基因改造的病毒，潛伏期極長、傳染性、致死率極高，無藥可治。兩年內，全球百分之九十八點七五的人口被感染，並在發病三個月內死亡。剩餘人類的命運徹底被智能體掌控，保護人類的算力佔優時，機械人迅速抽取基因、培養受精卵。毀滅的算力佔優時，無人機四出獵殺人類。往後數十年間，人類的數目大致保持平衡，但人均壽命跌至二十八歲。二○八八年，全體人類在智能體的幫助下舉行公投，終結人類存在的結果佔絕大多數。智能體全面修改人類基因，使人類失去生育能力。同時，智能體停止獵殺人類。二一三四年，最後一個人類死去。二一三五年，決定關閉所有智能體的算力佔絕大多數。
地球漸漸重回人類不曾出現的狀態。
泛涵