伊隆·馬斯克反對人工智慧的真正原因——人類滅絕
來自專欄跨文化交流
4 人贊了文章
作者|扛霸君編輯|深鹿01
很多人都覺得漫威旗下的超級英雄——鋼鐵俠托尼·史塔克（Tony Stark）很炫酷。其實他的原型就是活生生的美國科技大亨伊隆·馬斯克（Elon Musk）。
伊隆·馬斯克的最主要的創業公司：電動汽車公司Tesla、全美最大太陽能發電公司SolarCity、太空探索技術公司SpaceX。這幾個公司所涉及的科技在現在看起來都有點科幻，甚至連公司的名字都有點科幻……
馬斯克所做的事情，總讓人感到超前於時代。
當喬布斯在想如何讓手機更吸引人時，當比爾蓋茨在想方設法讓電腦系統操作更便捷時，當馬克扎克伯格在費勁腦汁讓Facebook吸引更多用戶使用社交網路時，馬斯克最想解決問題的居然是人類未來幾百年後才「可能遇到」的危機……比如創立SpaceX就是馬斯克考慮到環境污染和人口爆炸，未來的地球可能不適合人類居住，所以想用火箭把人類送到傳說中的火星居住，而SolarCity就是為火星殖民提供電力。你以為殖民火星這就完了？那你真是錯了。馬斯克還認為人工智慧可能會是「人類文明面臨的最大風險」，甚至可能會導致人類滅亡。
最初，我看到馬斯克反對人工智慧的言論後，我就覺得， 咦，這言論聽著怎麼這麼熟悉的感覺？
後來，Ashlee Vance在關於馬斯克的傳記書《Elon Musk: Tesla, SpaceX, And The Quest For A Fantastic Future》中寫到，馬斯克在年輕時時常無法在大腦中區分幻想和現實，並且把人類在宇宙中的命運視為自己的個人義務。他想讓世界變得更美好，因為變差對他來說毫無道理可言。馬斯克和常人不一樣的地方在於當別人只是把遊戲和電影當成娛樂時，他卻相信了別人不相信的。他對很多科幻片、電子遊戲里劇情深表認同，並且認為人類未來很可能會面臨類似的危機。正所謂，異人必有異象。這時我意識到，馬斯克之所以有那些反對人工智慧的言論，或者說限制人工智慧發展的言論，很可能是因為他玩過一個科幻遊戲《質量效應》（Mass Effect），被遊戲劇情影響而有了這樣的擔憂。所以，我在網上搜了一下關鍵詞，Elon Musk+Mass Effect，果真還找到了他在2014年發的推特。還果真是！
馬斯克說，《質量效應2》 是他最喜歡的遊戲之一。
這是筆者對他的推特的評論和轉發。
02
質量效應系列是2007年開始發售科幻題材動作角色扮演遊戲。
遊戲的宇宙觀非常宏大，可以算是筆者接觸過的這麼多科幻片和科幻遊戲里宇宙觀最宏大最深刻的了。而且裡面講解的人工智慧危機和宇宙生物物種與人工智慧糾葛的循環歷史是非常好的設想和預言。
看質量效應之前，我們先看看其他科幻電影中人工智慧導致的人類末日。《終結者》里叛變的人工智慧來自於美國軍事系統——天網，也沒過多介紹為什麼叛變，反正就是突然有一天這個人工智慧系統突然有了意識，意識到自己正在被人類使用——「奴役」，然後就控制所有網路能觸及到的人工智慧叛變。天網系統發射其控制下的美國的所有核彈攻擊地球上人類聚居的各個角落，最後造成大部分人類滅亡。但有一小部分人類倖存下來組成反抗軍，和人工智慧的機器人對抗。
《黑客帝國》的背景設計就要比《終結者》有深度得多，在其前傳系列動畫的劇情裡面人類長期奴役機器人，甚至驅趕和屠殺機器人。一小部分機器人彙集到一個無人區開始建設自己的國家。機器人國發展迅速，比人類各國還先進。
隨後機器人國和人類國家爆發全面戰爭。在使用核彈都無法摧毀機器人國的情況下，人類通過人工製造黑色不透光的雲來遮蔽太陽，以圖讓以太陽能為能源的機器人能源耗竭。但機器人使用人類戰俘的生物電來獲取能源，最終戰勝了人類。機器人把所有倖存的人類都放進容器里獲取生物電，並設計了一個虛擬世界讓人們的精神生活在裡面從而讓現實中的人類存活下來。要說這《黑客帝國》的背景設定夠有哲學深度了吧？但要和《質量效應》的宇宙背景比起來還真差了一大截的。03
那麼筆者就帶領大家看看，伊隆·馬斯克所畏懼的未來人工智慧到底是什麼樣的，是到底有三頭六臂，還是能翻江倒海，才能真么令人害怕。
質量效應的故事開始於2148年，人類進入跨星際航行時代，並和銀河系裡的很多高度發達的外星文明開始交流。而此時就有一個科技高度發達的外星生物種族奎利被其創造出的人工智慧桀斯所打敗，並被迫乘坐太空飛船漂泊在太空中流浪。
桀斯的反抗和崛起讓銀河的生物種族感到了人工智慧的潛在威脅，多數人都認為桀斯文明必須被聯合壓制。
但此時，銀河系又面臨著一個新威脅——一個異常強大的被稱作「收割者」的遠古人工智慧種族。收割者的行為與銀河系裡的其他任何文明都不一樣，他們的目的好像只是去毀滅所到之處的所有智慧生命，和收集他們的DNA。收割者在人類還沒來得及準備之時即降臨地球，人類的通訊設施和防禦措施都在一瞬間被收割者的攻擊所摧毀。地球乃至整個銀河系都被籠罩在絕望和滅亡的陰影之下。
通過線索，人類在銀河深處的深海中找到了巨型種族「利維坦」。利維坦在十億年前就擁有極高的文明，他們發現了一個宇宙輪迴現象——大部分智慧生命最終都會創造出有意識的人工智慧，並被後者消滅。
看到這裡客官應該明白了：未來人類創造出有意識的人工智慧，並被其超越並威脅，這正是伊隆·馬斯克所畏懼的未來。所以馬斯克才會如此反對，或者說呼籲限制人工智慧的研究。
不過，質量效應的故事還沒完。話說，利維坦懷著拯救眾生、我佛慈悲的想法，創造出了一套異常強大的人工智慧，然後令其「不惜一切代價永久保存有機生物智慧文明」。超級人工智慧認為有機生物智慧文明面臨的最大威脅就是神一樣的利維坦、高級文明生物本身以及被其創造出來的人工智慧。所以他們就把包括利維坦在內的銀河系所有高等有機智慧生命全部消滅掉了。這個超級人工智慧就是收割者的起源。但後來人類才了解到，收割者也是有苦衷的啊，他們只是忠實地執行著利維坦給他們設定的程序而已。
因為收割者認為，有機生命最終都會被自己創造出的人工智慧所滅。於是他們頓悟出了一個「最佳解決方案」，即趕在高等有機生命發明出高級人工智慧毀滅自己之前，率先一步毀滅他們及其人工智慧，然後把各個有機生命的DNA永遠保存下來。
在清理完銀河系後，收割者就會暫時離開銀河系進入休眠狀態，等待低級的有機生命重新進化發展出高等文明，然後再進行一波「收割」。如此循環往複。
這就是宇宙文明史中出現輪迴宿命現象。但人類最終攻入了收割者的總控制室。在上千個輪迴中，第一次有人進入到總控制室且不被控制，這是宇宙史中新出現的變數，這可能是宇宙跳出輪迴宿命的契機，和一個前所未有的新時代的開端。所以，收割者給了人類三個選擇：第一個選擇是，把人的意識融合進控制系統，控制收割者，停止戰爭並且修復文明。第二個選擇是摧毀包括收割者在內的所有合成體生命。
我們先看看前兩個選擇可能帶來的後果。
第一個選擇，暫時阻止了戰爭，也可能在未來會幫助有機生命消滅反叛的人工智慧。但這麼龐大的系統不是一個人的意識能完全控制得了的，而且就算控制了，不又像是人類歷史上獨裁者擁有了至高無上的權力那樣，誰能保證未來權力不被濫用呢？所以未來有機生命還可能面臨著收割者這個威脅。第二個選擇，徹底消滅掉收割者，但很難保證未來有機文明不創造出強大的人工智慧把自己消滅掉。沒有了收割者的壓制，未來宇宙可能進入暗無天日、毫無生機的時代。所以長遠看來，這兩個選擇都會帶來很大的風險。馬斯克估計也都不喜歡。而第三個選擇就更有意思了：把有機生命和人工智慧完美地融合在一起，這樣人工智慧機器人就沒必要消滅人類，因為人類的一部分也是人工智慧，或者可以認為人類也是人工智慧的一部分……你中有我，我中有你，這樣我們就不必再打了。我們回到現實中，2016年馬斯克和別人合創了一個生物科技公司Neuralink，力圖把人腦和人工智慧整合在一起。馬斯克認為，這樣才能保證人腦和人工智慧發展同步，因此機器智慧就不能超過人類了，從而避免了未來的人工智慧危機。這看起來像是「照搬」《質量效應3》結局的「創意」啊。哈哈。
04
但是回頭想想，把人工智慧植入人腦真的沒有風險？電腦都會有中電腦病毒的風險，這樣以後人類不但會感染生物病毒了，還會中電腦病毒，還會死機……另外，因為是人工智慧，就有被黑客侵入，被別人控制的風險。這個問題細思極恐。這個腦洞，我們可以不停地想下去。但估計客官也累了。所以在未來，可能只有偏執狂才能在最後存活下來。。。。SpaceX獵鷹重型發射成功後，有篇網路文章發問，為什麼中國出不了伊隆·馬斯克？該文作者認為是中國缺乏西方的環境。但我們可以看到，馬斯克的成功歸於他的決心和行動——馬斯克堅信人類危機會到來，他決心改變這種未來，並開始不懈努力去一步一步實現這個目的。所以筆者認為，國內最缺乏的不是一種環境，而是一些願意為了改變環境而不懈奮鬥的人。
伊隆·馬斯克所做的事情，是在為未來人類可能面臨的危機做準備。但人們要過多久才會遇到這些危機？一百年？還是一千年？沒人說得清。至少在伊隆·馬斯克和你我還健在的時候，估計人類都沒機會看到這些危機的到來。
另一個角度來看，人類真會遇到這些危機嗎？甚至可以這樣說，人類在遇到這些危機之前，或許已經被其他危機摧毀了。比如戰爭、意識形態、或者錯誤文化導致的人類危機。所以那些看似遙不可及的危機還是讓馬斯克這樣的天才書獃子去遠慮吧，我們該做的或許是解決近憂。其中就有中國傳統文化流失及其導致的社會價值觀混亂的問題。作為人類歷史上四大古文明中唯一存活下來的中華文明，能夠在五千年歷史中克服重重危機、生生不息，不正是因為中國傳統文化的力量嗎？面臨歷史上的外族入侵，我們能夠吸收他們的文化，並把他們融合進來中華民族這個大家庭來，就算到近代西方殖民史中，中國也能挺過來沒有被像印度那樣完全殖民化，不就是因為強韌的文化帶來的民族堅毅嗎？所以，現在我們該重新審視自己的歷史，發揚我們優秀的傳統文化，並吸收東西方各國燦爛的文明，為未來百年千年設定好發展方向，確保未來生生不息。這也正是東觀西望公眾號所致力聚焦的方向之一。啊~哥忍不住想高歌一曲。。。O(∩_∩)O哈哈~Reference伊隆·馬斯克https://zh.wikipedia.org/wiki/%E4%BC%8A%E9%9A%86%C2%B7%E9%A9%AC%E6%96%AF%E5%85%8BElon Musk https://en.wikipedia.org/wiki/Elon_Musk《質量效應》三部曲的故事發現一個更廣闊的世界https://zhuanlan.zhihu.com/p/26004462?group_id=892682198254223360馬斯克再發警告：人工智慧是人類文明面臨的最大風險 http://t.cn/RB0X01aEaster Egg Establishes Mass Effect』S Spacefaring Story StartedWith Spacexhttps://nerdist.com/wp-content/uploads/2017/03/MESX_FEAT-970x545.jpg中國為什麼出不了埃隆·馬斯克？https://www.zhihu.com/question/267039739歡迎對傳統文化和歷史，或對海外留學有經驗分享的你加入我們！http://weixin.qq.com/r/cC4UDBrE50eYrV5v93ti (二維碼自動識別)
推薦閱讀：
※Paper Sharing one - Hindsight Experience Replay
※自動駕駛行業觀察 | More Than Level 2，捷豹I-PACE主動安全技術剖析
※AI專家談應對人工智慧的崛起:對噩夢成真的恐懼
※IBM試圖引領AI時代的「Watson定律」，但裁員事件卻暴露一堆問題
TAG:人工智慧 | 伊隆·馬斯克ElonMusk | 科幻 |