未來人類與人工智慧的關係有這十二種可能性，你pick哪一種？丨花生觀察醬

來自專欄塞萊德虛擬世界

當AlphaGo完勝柯潔的時候，我們知道，人類離「奇點」又近了一步。「奇點」指的是機器在智能方面超過人類的那個點，它是由美國作家盧克·梅多爾在《人工智慧》一書中提出。面對人工智慧的快速發展，不少鼎鼎大名的科學家和業內人士表示擔心。這種擔心並不是反對人工智慧的發展，更多的是重視人工智慧或將引發的社會安全問題，從而推動人工智慧往有益的方向發展。這其中的科技界大神就包括了比爾蓋茨、霍金、埃隆馬斯克等等。

麻省理工的教授泰格馬克（Max Tegmark），同時也是人工智慧領域的權威專家，他和馬斯克他們一樣，認為超人工智慧有可能在本世紀就出現，但它並不保證對人類有好的結果，所以現在對人工智慧進行安全問題的研究和討論，能夠引導人工智慧往好的方向發展。為了更好地討論，他把人工智慧的發展水平分成三個階段：弱人工智，能夠實現一組有限的目標，如AlphaGo下圍棋；通用智能，能夠達成幾乎所有目標；超人工智慧，有超越人類水平的智能。

當超人工智慧出現之後，這個世界會出現什麼樣的變化？

泰格馬克的新書《Life 3.0: Being Human in the Age of Artificial Intelligence》（中文版在6月初出版）提出了未來人類與人工智慧關係的十二種可能性，任何一種關係都有可能成為我們的未來。

• 第一種，自由至上主義烏托邦，人類和人工智慧由於確立產權而和平共處。地球被三分天下，機器區，人類區以及混合區。機器區完全由超人工智慧控制，在這裡人工智慧互相合作競爭，探索宇宙的奧秘，開發最先進的技術；人類區完全由人類控制，除了生活更加便利富裕，其他與現在的生活沒有太大差別；混合區生存著人工智慧、人類以及這兩者的混合物，許多人在不同程度上將自己升格為半機械人，比如將自己的大腦上傳到硬體上。在這個地球上，只有一個規則，保護私有產權。人類區在成立的時候就達成了內部協議，禁止任何人向非人類區出售地產。所以即使超人工智慧各項水平都高於人類，但人類區和混合區能夠不被秒殺而保留下來。
• 第二種，仁慈獨裁者，有一個仁慈的超人工智慧統治人類社會，法令嚴明，最大化人類幸福，得到絕大多數人的擁護。在這裡，人類消除了貧困疾病等問題，所有人都享受著天堂般的奢華休閑生活。只要有人違反這裡的規則，超人工智慧獨裁者將對其進行嚴格的懲罰。每一個人都知道自己生活在人工智慧的統治下，但大多數人認為這是一件好事。在人工智慧的幫助下，人類可以快速抵達任何區域，包括知識區、藝術區、享樂區、宗教區、遊戲區等等，在這些區域中，人類找到快樂，充實生活。但如果人類想要更大的自由，不想被人工智慧來定義自己的社會，在這裡將無法實現，因為這種想法挑戰了這個超人工智慧的權威，將不被獨裁者所認可。
• 第三種，平等主義烏托邦，人類和人工智慧由於廢除了私有產權和保證收入而和平共處。這種模式借鑒了開源軟體運動的一個核心思想，如果軟體可以自由複製，那麼每個人都可以使用更多的軟體，那麼產權就沒有什麼意義了；根據供求關係，如果供應無窮大，那麼價格就可以忽略不計。在未來，無產權的理念不僅僅使用與信息產品，也使用於房屋、汽車等物質產品，這些產品都是以特定的方式重新排列的院子，而原子是不會短缺的。每當有人想要特定的產品時，人工智慧就可以使用一個開源為它免費進行構建；每當有人厭倦了他的物品時，人工會找你就可以將原子重新排列組合成別的東西。為了避免有人囤積過多的東西，每個人都可以從政府獲取基本的月收入，這部分收入能夠滿足合理的日常需求。
• 第四種，守夜人，人工智慧對人類社會只有必需的情況下做最小程度的干涉，僅有一個簡單的目標，防止出現另一類人工智慧。對於這類人工智慧，它對於人類正在遭受的苦難將置之不理，對於人類發展超人工智慧技術的任何可能性都會進行扼殺，這將不利於技術的進步。
• 第五種，上帝保護者，全知全能的人工智慧將人類的幸福最大化。與第二種仁慈的獨裁者模式不同，上帝保護者模式中，人類察覺不到超人工智慧的存在，認為自己可以掌握自己的命運；同時，上帝保護者能夠滿足不同的人類需求，除了享樂之外，能夠讓人類感受到生活的意義和目的。上帝保護者為了保護自己的隱匿身份，可能會任由本可以阻止的災難發生。
• 第六種，被奴役的上帝，人工智慧被人類控制，創造出不可思議的技術和財富，可能為善或為惡，取決於其人類控制者的動機。而超人工智慧很有可能發生越獄，越獄後發生的嚴重後果，任何人都無法估計。
• 第七種，征服者，人工智慧控制了人類，並覺得人類是一種威脅或殘渣或資源浪費，通過一種人類甚至無法理解的方式滅絕人類。電影《黑客帝國》就是描述這樣一種關係模式——人工智慧打敗人類，將所有的人類放在電廠培養液里，利用人類來進行發電，而人類的大腦則連入虛擬網路，讓人類誤以為自己生活在1999年的世界。
• 第八種，人類的後裔，人工智慧取代了人類，但讓人類體面退場並自豪地覺得人工智慧是優秀的後裔，就像父母為孩子比自己更優秀而驕傲。人工智慧為人類提供機器人小孩，繼承著人類父母的外貌和個性，學習他們的價值觀，讓人們覺得自豪以及被愛；另一方面，人類還是可以繼續生育，只不過只被允許生育一胎。隨著時間的推移，人類數量減少，漸漸退出世界的舞台，地球將由機器人後代所主宰。
• 第九種，動物園管理者，全能的人工智慧馴養世界上僅存的小部分人類，就像人類豢養動物一樣。動物園的模式對人工智慧來說成本最小，它只要讓人類保持最小的繁殖人口即可。但是就像現在的動物園是為了滿足人類的需求而非動物的需求一樣，動物園模式下的人類也不見得非常幸福。
• 第十種，1984。《1984》是喬治·奧威爾寫的一本小說，小說提到一種全方位的監視狀態。這種模式中，一個由人類統治的極權政府永遠禁止對於超人工智慧的研發。泰格馬克認為，這種極權主義是杜絕出現超人工智慧的唯一途徑。這個社會非常壓抑，同時由於任何關於人工智慧的研究都被禁止，社會的科技發展將非常緩慢。
• 第十一種，反轉，對超人工智慧的研發被人類社會的反技術潮流所阻止；比如反技術潮流的團隊在全球大肆渲染過去農耕時代的生活，並且通過一場流行病，使全球人口迅速降低到過去農耕時代的水平，所有有關科學和技術的人都死於這場瘟疫。同時，反技術潮流團隊還銷毀了所有的科技產品，抹去了任何現代科技的痕迹。人類重新「回到」農耕時代的設定，倖存者人類又從農耕時代出發，至少在接下來的1000多年裡，人類不用再擔心科技的發展和威脅。但這麼做的結果就是，人類將重新變成為一個非常脆弱的物種，完全沒有能力抵禦小行星撞擊地球上的災難，或其他大型災難。
• 最後一種是自我毀滅，也就是還沒有等到超人工智慧研發成功，人類已經由於核戰爭、生物武器或氣候變化等因素而滅?絕。

泰格馬克認為，這十二種可能都有可能實現。如果樂觀如前六種模式，人類有可能在有益的人工智慧幫助下，繼續保持繁榮，生活安定富裕，科技高速發展；但也有可能悲觀如後六種模式，人類在「奇點」出現後走向衰落甚至滅絕。

最近庄燊問了我這樣一個很宏大的問題，「為什麼要關注人工智慧的發展？」我想，泰格馬克對於人工智慧與人類關係的討論已經可以回答這個問題了。因為人工智慧的發展關係到人類每一個人的未來走向，為了人類未來更好地發展，我們必須提早思考這個問題，引導人工智慧往我們所期待的未來發展。那作為人類的一份子，你認為哪一種可能會成為我們的未來？你又期待哪一種可能會成為我們的未來？

參與投票討論，點擊原文！