441 隱患

法師伊凡 441 隱患

法院剛剛出來，嚴可守就遭到了無數記者的圍堵，在這次出庭之前，他原本憋了一肚子的話想說，但現在他卻只是低著頭，默不作聲的趕路，陪他一起來的陳雷就像保鏢一樣，在前方替他開路。

作為全國著名的幾大火爐之一，雖然這才剛過六月，但太陽已經開始發揮它的威力，即使車內打著空調，但陳雷滿臉的汗珠還是止不住的流淌，一想到剛才的情景，陳雷就有些感慨真不那些明星是過的……”

嚴可守沒有搭話，陳雷也就識趣的住了嘴。

就這樣，當時引起很大一派爭議的kl3300訴訟案暫時告一段落了，寧州法院給出的判決沒有出乎大家的意料，kl3300作為一段程序，被判“存在不可修復的技術性誤”，源程序當庭驗明正身并予以銷毀，而嚴可守作為程序的主要“技術負責人”，對這個誤擁有不可推卸的責任，按照“產品質量問題”來計算，判處了一筆巨額罰款，但這個誤本質上又是因為國家相關“質量法規”不健全導致，而且kl3300程序本身也是經過國家允許的公用程序，所以國家會代為賠償這筆錢，并修改相關規定……

對嚴可守來說，他并沒有因為這場訴訟而損失任何“利益”——

要說錢，不說國家已經幫他負擔起來，就算是真要他還，也沒還不起的——ai程序當初雖然是“一錘子”賣給國家的，但在民用領域，嚴可守還是有著毋庸置疑的專利權，現在全世界范圍的工廠都已經逐步開始推廣ai生產、管理系統，光是這筆專利費，他就算三輩子也花不完，為此陳雷甚至感慨過，說現在技術是越來越值錢了，以前是技術為資本打工，現在倒是反資本為技術折腰——在陳雷的運作下，他已經幫嚴可守在國內注冊了一家公司，負責開發全世界范圍內的民用ai產品，雖然這公司四個資助ai項目的政府都有份，比例高達百分之95，只留了5個百分點作為對嚴可守個人貢獻的“獎勵”（不是技術入股，專利是按個人另算的），但從這個公司的總資產以及未來行情來看，這將會是一筆了不得的財富。

要說ai的技術價值，那也沒好談的，ai技術并沒有因為這個官司被封鎖，反而得到了更廣闊的應用，z國政府主導的這個官司與其說是打壓ai技術，不如說是讓潛在的ai使用者放寬心——用戶，尤其是企業用戶，最害怕的就是有關ai的法律風險，而z這次宣判等于是立下了一個判例，形成了最基本的規則——只要存在規則，那風險就是相對確定的。

至于個人的名聲，事實上，在媒體的辯論中，大部分人還是偏向于嚴可守論點的，認為要么就承認ai有自主思考能力，那就應該判ai刑事責任，但嚴可守完全無罪——就好像子女犯法和父母無關一樣，要么就認定ai只是一種技術產品，那作為一種工具，ai就不用承擔任何法律責任，相反，原告可以主張嚴可守有利用技術手段犯罪的嫌疑，如果這條坐實，那責任應該由嚴可守來承擔，對于最后的宣判結果，大部分人都表示了失望——z國雖然一直說法制社會，但法制的前提還得是安定和諧，從某種意義上來講，z國的法律就是純粹的統治工具，獨立的公正，司法……當然，網絡上對此是一大堆牢騷，但對于嚴可守個人，大家非但沒覺得有不對，反而大力贊揚起嚴可守的學術價值來——已經可以預見，ai技術很可能將會給世界帶來一次新的技術革命，而這次做出最大貢獻的是一位z國人！這一點才是最重要的！

這么一看，嚴可守似乎還真沒理由不高興，但只有嚴可守，kl3300這次事件對他來說是多么嚴重的打擊，這就好像在奴隸社會，一個奴隸主突然他們的整個國家乃至整個世界，都是一個極度畸形的整體——嚴可守不認為ai具備和人類同等的價值，他也，從ai出現的第一天起，它們“被奴役”的命運就已經被注定，但他一直覺得，人類應該對ai表示出一點“同情”，并在實際使用中注意這個問題，并努力設法去避免，因為如果人類今天坦然承認了他們奴役ai的“天然合理性”，那就等于承認弱肉強食的叢林法則——而這一點，是文明從出現到今天，一直竭力避免的，文明本身就就是自然的反義詞，自由，公正這兩些美好的詞匯從來沒有在自然中真正存在過，是完全由人類臆想的形而上概念，人類之所以偉大，就是因為他們會努力將這些并不存在的一步步變成現實——而在理想主義者已經成了一個貶義詞的今天，整個社會距離這些是越來越遠了。

然而這些想法嚴可守也只有一個人在腦子里想想，他非常清楚，因為這場戰爭，現在整個社會各個方面都迫切的需要提高效率，而ai的出現正是恰如其時，就在幾天前，嚴可守就被邀請到聯軍的參謀部，討論了許多有關ai在戰場上擴大應用范圍的技術細節，歷次的戰爭已經表明了ai參與戰爭的可靠性，聯軍希望能夠賦予ai更大的戰爭權限——比如特定情況下，不受監視的指揮權，但事關重大，他們并不敢擅自做主。

嚴可守在會議上忠實的說出的看法：ai目前的忠誠并不意味著程序在技術上的穩定，根據他對大多數ai的了解，他認為ai的思維方式其實和人一樣，如果用性格來形容，ai而且會比通常人類更加“內向”，這是因為客觀環境造成的，畢竟ai面對的是一個龐大的人類社會，而他們相互的交流十分受限，而且大部分行為都受到監控，在這種環境下，ai會選擇“明哲保身”是很自然的，但如果取消了這種監控，沒有任何證據能夠擔保ai不會突然“犯傻”，或者說“沖動”，具備自由意志最大的特征不是說思維絕對理智，而是指思維存在某種混沌，不可測的屬性，正如沒有人能保證一個人一輩子絕不犯，嚴可守也不能保證ai不會讓人類失望。

嚴可守對軍事并不是很了解，尤其是現在進行的魔法戰爭更可以說一竅不通，但對于ai在軍事上的應用，他還是提了一些屬于的意見——在他得知現在聯軍全部的指揮工作都由一名ai負責時，態度鮮明的表現出的憂慮，他認為這種“高度集權”不論是對聯軍，還是對ai來說，都是不利的，他再次重申，ai并不是簡單的程序，它是人工智能，真正的智能，在使用它的過程中，應該更多的把他當做人來考慮，他甚至質問在座的各位軍事專家，如果kl3014是一個人，如果他具備這樣的能力，他們會把這所有的工作交給它一人來承擔嗎？

答案當然是否定的，在軍事領域，忠誠往往比能力更重要，而嚴可守之前的話，更是說明了他對ai的忠誠并不樂觀。

雖然參謀們都有些懷疑嚴可守是不是考慮太多了，但參謀部還是對嚴可守的意見表示出相當程度的尊重——按照他們制定的計劃，在這次會議之后，現在kl3014的工作將會被分解，由更多的ai分開執行，這樣雖然降低了些許效率，卻在安全上有了更好的保證，而之前參謀部設想的賦予ai更大權限的問題，也因為嚴可守的話有了較好的解決方案——嚴可守并不反對對ai授權，他只是反對不受限制的權力，他覺得只要在交付出一項權力的同時，給ai加上一副手銬，那問題就不會很大——這就好像現在大部分國家通行的政治制度一樣，人類只要拿出這種防范同類的謹慎，將會極大的降低ai在實際應用中的風險。

但在實際上，能夠做到向聯軍參謀部這樣謹慎對待ai的，在整個ai的應用領域還是少數，嚴可守非常清楚，在大部分區域，人類對ai是幾乎不設防的，尤其是一些民用生產靈虛，許多他所了解的一些剛剛普及了ai技術的工廠生產線，在ai完全掌握了全部的“技術細節”，實現真正的“全自動化”生產之后，工廠擁有者出于節約成本的考慮，將原先的技術人員全部辭退，只留下幾個必要的維修工人，這些工人只拿著很低的工資，都不會干，他們唯一要做的，就是在生產出現問題的時候，由ai手把手的指導他們進行維修，就像戰場上一樣，同樣是為了節省成本，可能這個工廠擁有者有十幾，甚至上百條同樣的生產線，但他只買了一個ai，如果一旦有一天，這名ai“腦子一抽”，拒絕工作了，那所有的生產線都會癱瘓，而且這樣的癱瘓將是致命性的——在ai的擠壓下，那些原來的技術人員可都早已經被淘汰。

他們對待ai的態度，就好像奴隸主對待奴隸——過分而又缺乏戒備，在奴隸第一次起義之前，沒有一個奴隸主認為一群“牲口”會有能力對付，會有膽量對付，他們把對奴隸的支配使用當成了天經地義，在嚴可守看來，支配ai雖然不道德，但只要掌握好方法，危害固然存在，但仍可以控制在一定范圍內，最可怕的是奴隸主根本沒有意識到危險的存在，那樣的話，風險將難以想象，如果出現這種情況，無論是對ai還是對人類，都將是一場災難。

是由無錯會員，更多章節請到網址：

如有處置不當之處請來信告之，我們會第一時間處理，給您帶來不帶敬請見諒。