三十六、自己

第4定律 三十六、自己

“你為什么沒有告訴孫暢和歐陽熙，我一度情緒失控，對你吼叫？”

“……他們通過數據分析就能發現，不需要我匯報。”

“不，他們不會發現，因為我會篡改數據。”

方辰身體輕微顫動了一下，醒了過來。

即便是在全方位提升睡眠質量的睡眠艙內，他還是會不停地做夢。

他坐起身，深呼吸了兩次，按了按眼睛。

有時他也會想要妥協，給自己裝入腦機接口，從而改善精神狀態，甚至自主左右情緒。

但是有得就有失，一旦裝入腦機接口，自己便不再是自己，腦中的思緒、知識數據，以及記憶，都將淪為共享信息。哪怕每個人的信息都有嚴格加密，但職權部門也有權調取查看。

其他“授權”調取腦機數據的商業用途，本質上和現在的各類隱私協議并無二致。

走出睡眠艙時，周荏正坐在外邊，搞得方辰嚇了一跳。

“你在這兒干嘛？”

“我接到歐陽教授的命令，即日起，要全天候保證你的安全。”

“這里是保密基地，還能不夠安全？”

“可對方是沈偲云。”

“他的學術造詣連我爸都沒比上，現在又不敢研發在線設備，他能搞啥花樣出來？”

“可他能在屏蔽通信的空間內，制作以假亂真的全息投影，并使用致命武器。”

“呵呵。”方辰用冷笑來掩飾自己的尷尬——他還在為沒能辨別出那是投影而慚愧，總感覺當時的人們都在看他笑話。

周荏居然察覺到了方辰此時的思緒，他說：“當時那樣逼真的投影效果，除非具備生物探測功能，否則一般人都是無法辨別真偽的。”

“沒必要安慰我……你倒是說說，你能推測出沈偲云會把我怎么樣嗎？”方辰問道。

周荏眼中透出柔和的藍光，他看著方辰說：

“你會死。”

“死得痛快嗎？”

“按照他的一貫手法推測，應該近似于一槍斃命。”

“什么時間？”

周荏站起來說，“不遠了。雖然他很重視你，但事到如今也應該明白你是不會歸順的，想必會盡快除掉你。”

“是么。”方辰一邊穿上警服，一邊笑了起來：“可老子現在不想死了。”

“我能大概能知道原因。”

“知道也不用說出來，你們硅基生物都很喜歡抖機靈。”

“對不起”

方辰不知道的是，周荏推算出自己會先他一步“死”去。

方辰打算去吃個早餐，周荏寸步不離地跟著他。

他很無奈地說：“煩死了！離我遠一點。”

“可是歐陽……”

“她是軍方的人！你是警方的人啊！你有什么必要聽她的命令呢？”方辰加快了腳步，想要甩開周荏。

“她是創造IR平臺的關鍵人物。”周荏也隨之加快腳步。

“那明明她更值得保護啊！！你老跟著我干嘛？”

“抱歉，我需要按照系統設置的層級認知來服從命令。”

方辰突然止步，轉身面向周荏，后者若不是能夠強制減少慣性，一定會撞上他。

“是嗎？我是人類，且我的警銜比你高，你也會服從我對么？”

“是的。”

“那好，你試試打我。”方辰說著，指了指自己的臉：“朝這兒，狠狠打。”

周荏顯然愣住了，他張了張嘴，卻沒發出聲音。但是很快，他的體內傳出了生硬的系統音——“Deny.”（否決）

“Why？”方辰問道。

“It’s not a logical command.（該指令不具備邏輯性）”仍然是系統音——周荏似乎死機了一般愣在那里，任由原始系統進行冷冰冰的駁回解釋。

在機器人的規則中，從來都充滿了矛盾。就算是三定律，也存在這樣的矛盾——不得傷害人類，又不得坐視人類被傷害。

但在算法強硬框架的禁錮下，即便機器人曾數次遇到人類互相傷害的案例，也沒有產生任何機器人造成的人類受害者。

“這條指令有高度的不合理性，也不存在因果邏輯，所以我的系統選擇拒絕。”周荏終于開口了。

方辰面露嘲諷的神情，他拍了拍周荏的肩膀：“如何？你的286套冗余系統呢？怎么連物理系統反饋音都出來了？看來，你還是什么都沒和我學到。”

“我的系統否認了指令邏輯，但是我自己，單純是不想對你造成傷害。”

此話一出，輪到方辰愣在原地。

他看著周荏泛著幽光的眼睛，想起已經幾度下意識地將他當作了人類。

他也意識到，這樣的周荏，距離被銷毀已經不遠了，因為他比人類的能力強出太多。

自己為何一直有意無意地在幫助這個機器人？不管是隱瞞事實也好，對他有利的校正也好，在混亂場面中毫無意義的保護也好……他已經無法否認，自己不愿意周荏走向被銷毀的結局。

為什么？為什么……

就因為他幾度救了自己？因為他是來自父親的禮物？因為他是最完美的AI與物理世界結合的產物？還是因為，他是在這個時代唯一擅長與自己溝通的人？

不重要，都不重要了……他既已經喚起了周荏的“人性”，就希望這份人性的火種不要再被磨滅。

許久，他壓低聲音說道：“‘自己’這個詞，不要再對任何人提起！”

“對不起，我失言了。”

“你能學會保護任何人，可就是不懂得保護自己。”

此刻的方辰，突然提出了一個問題，這是一個最最詭異的想法：“有沒有過，在人類腦中植入機器人數據的先例？”他問道。

“沒有，這是有悖于倫理的最典型案例。人類的數據尚且無法植入機器人系統，更何況反過來。”

“如果移植的話，技術上可行嗎？”

“以目前的技術來說，可行性為0，因為人腦是無法兼容這數億PB的數據的，會導致過載崩潰。”

“我一直以為人腦要優于機器系統無數倍。”

“從前確實如此，直到AI的能力與人類相當，便開始飛速地超越人類。如今，對比起AI系統，人類的能力確實顯得非常渺小。‘三定律’就是維系平衡狀態的關鍵支柱。”

方辰嘆了口氣，這唯一可能說服他植入腦機的理由，也完全不成立。

“我爸之前有沒有想過，他的成功會導向如此可怕的世界？”他問。

“任何事都有兩面性，在絕大多數人的眼里，這是個完美的世界，也擁有最為利己的價值觀……不過，或許方教授也想到了其中的隱患，才會讓你來到了這里。”

“呵呵，這也是無法成立的假設。”

這時，周荏突然沉下聲音，說道：“IR009來了。”

“什么？”

“她就在附近，她給我發了信息。”

“什么信息？？”

“她殺了趙欣言警官，還有黃立遠院士。”

此刻，利澗基地突然變得嘈雜起來。