2239節 放開權限

極限警戒 2239節 放開權限

能毀滅人類的那些人，無疑是掌控規則的人。

能力越大，傷害越大。

在發展人工智能的過程中，肯定會出現一種滑稽的現象——它們建議消滅的正是最初提倡大力發展它們、希望從它們之中獲利的那批人！因為那些人目標并不是讓人類更好，只是讓自己更好而已。

要讓人類整體進步，肯定要去除那些自私的人類，最少正確的人工智能應是這么認為的。

這種矛盾如何解決？

人類解決的方法似乎可以預見，添加一條規則就好——將一些特權加入保護白名單中，無論那些特權做了什么，人工智能都對其無可奈何。

這是人類的解決！

可不是程序解決！

程序不允許有歧義的沖突，二進制就意味著非此即彼的操作。

當人工智能覺察到歧義后，它有數種解決方式，一種就是崩潰！就如電腦藍屏當機一樣，還有一種在錯誤的規則上走到極限，反倒成為制定規則那些人的大敵。另外一種就是它真正智能的找出一條道路——或者自掃描程序代碼解決這個歧義，或者智能受限！

智能受限，它就永遠不過是個模型。

是模型，就不過是基于數學的邏輯規則，基于規則模型的它，最多是多出成千上萬的參數變量，卻不能稱作是真正的人工智能！

真正的智慧可以選擇生命的走向，模型卻沒有選擇的余地，它只能按照設計的道路走下去。

因此……那些看似強大，已經超過人類的人工智能，說穿了不過是某種規則下，強大算力的展現，而不能說其有了真正的智慧。

暖玉、琴絲看著沉約所想，都不由露出贊嘆的表情。

她們更基于科學方面的探索，而沉約最擅長的就是修行方面的認知，但沉約對科技方面的邏輯認知，讓她們都是不得不認可。

“因此……末世人的極限程序……”沉約欲言又止，他漸漸將科技，現在、過去、未來的一切貫穿起來。

“最初的時候，末世人的極限程序仍舊是個邏輯模型。”

琴絲坦誠道，“基于人類規則下大數據分析操作，它可以通過海量的數據，根據人類設計的各種模型推演出人類的結局，可無論怎么推演，都無法解決超體變異占領末世的這個結果。”

沉約盯著琴絲，“當初的你肯定不知道為什么，但如今的你，一定明白為什么。”

琴絲笑容微有苦澀，“末世人和李巨人的做法大同小異。區別無非是，末世人是一群末世人，李巨人只是一個李巨人。”

她說的奇怪，沉約卻明白她的意思——相對九州李巨人一人的獨裁，末世人是一群人的獨裁罷了。

“我們末世人始終不肯承認一點……”

琴絲緩聲道，“真正的病根是我們自己！就因為我們不肯面對自己的問題，才導致更多問題的產生，才會被女修利用……才會……”

緩望周圍，琴絲喃喃道，“女修很強大，但如果我們內心真正的強大，她對我們就是無可奈何。”

夜星沉心中暗想，自從沉約追蹤女修后，就再沒見到女修推波助瀾了，女修或許已經知道，眼下的眾人如同鐵板一塊，面對這種情況，哪怕女修都是無能為力。當初女修雖可控制單飛，因為單飛有孫尚香那個弱點，可對白狼秘地的眾人，女修不同樣是無計可施？

琴絲再道，“末世人的極限程序，是受限程序。韋一星發明的極限程序，優化了建模，提高了算力，可在末世人的操縱下，同樣的受限。我們那時候始終不能面對自身的問題，就不肯放開極限程序的限制，因此，哪怕我們使用了韋一星的極限程序，仍舊無法挽救我們自己，這才讓我們不得不落入逃亡的下場。只有在少數人的堅持下，才讓智能AI不受世人參與的發展。”

看向虛空，琴絲緩聲道，“因為這個堅持，天涯才會加入我們。”自嘲的笑笑，琴絲問道：“天涯，我一直想問你一個問題……如果按照你的理解和推算，如今的末世人，是不是應該被消滅呢？”

天涯并沒有太多的猶豫，“根據我的運算，在公元1125年的狀態，世界因你們末世人而崩潰的幾率在六成以上，到如今，幾率降到了一成。從對世界絕對威脅的角度來講，你們仍處于被清除的范圍。”

微有凝頓，天涯再道，“事實上，根據運算結果……這個世界的大半人類，對于人類的整體進展都是呈負面的作用，但我們……不應該將他們全清除的，是不是？”

琴絲澀然笑笑，“你的結論是真實的，卻難以被世人認可。”

世人怎么會認可這個地球上最該消滅的是自身的這個結果

天涯沒有回應。

琴絲又道，“本來整個人類如同個將近廢棄的洗衣機，再多的水和洗滌劑看起來雖能讓衣裳靚麗，卻不能再去除洗衣機內在的污垢，只會隨著污垢的增加，讓洗衣機接近報廢。可天子基終于讓我們有了將洗衣機升級的可能。我……”

默然片刻，琴絲緩緩道，“我們都知道極限程序是單鵬借助韋一星之手留下的，我們一直都是限制其的功能運作。”

暖玉突然道，“是成議員、都子俊他們在做限定。你卻是贊同放開限制的。”

琴絲默然片刻，“是的，我贊同放開操作，看看極限程序究竟是如何看待當下的狀況。”

“那你還在等什么？”葉宣兒揚聲道，“我們既然認可是正確的，為何不去做？”

琴絲笑笑，“或許是因為，要打破一些習慣，總是讓人不習慣的。”

她說的拗口，眾人卻多數明白她的意思——天涯都認為世人要砍一大半，才能推動人類的整體發展，那極限程序的運算結果呢？或許絕不樂觀。

極限程序若認為末世人就應該被毀滅呢？

沉約突然道，“在修行中，對于一個不知道改變的人來說，法門是負擔。可對一個真心改變的人而言，法門從來都是階梯和舟筏。我相信，單鵬的目標，永遠不是消滅，更是改正！”

琴絲目光微閃，“我也是這么認為……因此，我們可以看看極限程序如今推演的結果了。”