智士論提案

    還是在那一個漆黑的環境，幾個一模一樣的聲音在討論著。

    “係統剛剛提出了一個讓人驚訝的刑法修訂案，這次有得我們頭疼了。”

    “確實是頭疼，這次的修訂要考慮的太多了。”

    “大家就別抱怨了，這本來就是我們職責所在。”

    “嗯，人工智能可以從大量數據分析出對於當前條件下最有利的策略。但是，任由人工智能自行決策實施是不可能的，誰都不知道它什時候會做出消滅人類的策略，所以才必需我們把關。人類必須盡可能去理解，人工智能為什會分析出這個結果，背後會不會有什‘目的’，係統是否有自然產生意識的征兆。然後以我們作為人類的身份，把通過的提案實施。”

    “而且係統每時每刻都在接收數據並進行計算，所以很多時候把係統剛提出‘最佳策略’級別的提案，再讓它自己重新分析，一般又會降級為‘可以施行’級別。正是考慮到這點，所以我們一般隻把係統出現過‘最佳策略’級別的提案拿出來討論是否實施。免得討論稍低級別的提案時，該提案突然降到‘不可實施’級別，浪費討論時間。”

    “話雖如此，但這種討論方式也太原始了。就不能有點便捷些的方法嗎？如果能自動化就更好了。”

    “自動化還是別想比較好。誰都不能保證程序在任何情況下都是獨立運行的。”

    “那還真沒辦法的事情，隻有最笨的辦法人類才覺得是最可靠的。人工智能每分析出一個策略，都是經過大量的數據計算。即使把其中一個係統提案的計算邏輯全部翻譯出來，讓全人類合作去讀，也一輩子讀不完。我們隻能盡可能篩選出‘主要的’和‘可疑的’邏輯進行分析。另外再討論策略使用後可能的趨勢變化。”

    “其實最氣人的就是，由我們人類討論提出的修訂案，係統卻幾乎能瞬間得出結論。”

    ……

    “好了，言歸正傳吧。我先說說我的看法。我還是認為這修訂案不妥。係統認為可以改革刑法，引用以前b組織的模擬世界為基礎，構建可供犯人改過自新的模擬空間，直至犯人被認定為不再對社會和平發展造成威脅。其中所說的‘引用以前b組織的模擬世界’指的大概不僅僅是‘模擬世界’本身吧？它的目的是麵的有意識人工智能？”

    “顯然是的。以前b組織的模擬世界和現存其他模擬空間的根本區別就是麵存在著許多有意識的人工智能。”

    “你們的意思是係統已經出現了自然產生意識的征兆？它提出這次修訂案是為了以後能利用這些同樣擁有意識的人工智能而預先鋪路？如果是這樣的話，它的做法也真毫不掩飾啊。”