三個星期前，當全世界都在為引力波激動的時候，我牽頭組織了一次關於引力波和相對論的學習會，到會的互聯網界人士有王興，張朝陽，雷軍和李彥宏。會上除了請到的兩位老師給我們講量子力學和引力波之外，借著大家對宇宙奧秘的興趣，我也即興分享了一個我為某個會議準備的ppt講稿，主題是人工智慧及對人類未來的擔憂。3月10日，人機世紀大戰的第二場比賽結束了，阿爾法狗再次戰勝世界圍棋冠軍李世石，關於人工智慧的討論也越來越激烈。我們該如何看待人工智慧？機器是否和人一樣，有慈悲之心？我把學習會內容整理了一下，在這裡和大家分享。
奇點臨近
很多互聯網界人士應該都看過《奇點臨近》這本書。我記得李彥宏等大咖都向公眾推薦了這本書。奇點臨近的觀點基於計算技術的摩爾定律，下圖說明：
用這個圖來描述每個時代的計算能力，可以看到計算技術的發展是在以指數級提高。在1960年代，一千美元能買到的計算能力相當於一只蜻蜓的計算能力，非常非常小，在2000年代，一千美元當量的計算能力已經能達到一隻老鼠的大腦的計算能力，預計在2020年的時候，一千美元當量的計算能力相當於人腦的計算能力，而到2050年，一千美元可以買到相當於全人類的計算能力！奇點臨近的核心思想是，基於計算能力指數級的提高，人工智慧將在不久的將來（幾十年），全面超過人類。而那個時刻太陽系智能的承載將由人類大腦跨越到超級人工智慧，人類在宇宙中的地位將重新界定。本周AlphaGo的表現，我們模模糊糊的感覺到，奇點臨近。意識和智能的生物/物理學基礎
我看到大家在討論AlphaGo時，也在思考我們人類和人工智慧到底有什麼本質的區別。一派論點認為我們很獨特，我們的知覺，情感，如此複雜和獨特，機器人是永遠趕不上的。兩年前，我有過類似想法，但是最近一年，隨著對人工智慧的思考加深，我改變了看法。首先，知覺和情感不是人類所獨有，地球上的很多生物都有。靈長類動物和海豚之類比較聰明的動物，它們應該具有某種知覺。最近有一項研究顯示，連烏賊這種軟體動物，也可能有知覺。試驗表明，剛醒來的烏賊腦電波會有明顯的變化，就像人類醒來時腦電波出現的變化。
2012年7月7日在劍橋大學紀念DNA之父弗朗西斯·克里克(FrancisCrick)的學術會議上，一群科學家聯合發布了一個關於意識生理學基礎的劍橋宣言。劍橋宣言最後一段大膽提出：「缺乏大腦皮層似乎不表示生物沒有經歷情感狀態變化的能力。各種證據皆不約而同地指出：動物擁有構成意識所需的神經結構、神經化學及神經生理基礎物資，以及有能力展示帶有意圖的行為。因此，證據充分表明人類並非唯一擁有產生意識的神經基礎物資的生物。非人生物，包括所有哺乳類及鳥類、以及其他生物包括章魚，也擁有這類神經基礎物資。」
如上圖所示，過去幾百萬年，人腦越來越大，也越來越聰明，大腦的容量增加了兩倍多。和人工智慧相比，相當於CPU的計算能力的提高。思考能力顯然有硬體基礎，人工智慧的計算能力在以指數逼近和超過人類，這是奇點臨近的主要預測根據。
這是史上最神奇的人類大腦—100年前預測到引力波存在的愛因斯坦大腦。科學家對保留下來的愛因斯坦大腦進行了研究，發現他的大腦其實並不重，甚至略低於平均值，但是左半球與右半球的連接區域異常發達，同時負責抽象思維的區域異常發達，遠超常人。進一步說明了智力、智能與產生智力的「硬體」的複雜性/精密性之間存在緊密的聯繫。人工智慧除了硬體在指數提高，其軟體，既認知能力，也通過機器學習演算法提高非常快。智能體的共同特點
有了上面的知識鋪墊，讓我們來探究本文的中心問題，機器是否有慈悲之心？讓我們再補充一些知識，先看看智能的共同特點是什麼。凱文凱利在《技術需要什麼》里認為如果技術也是一個有靈魂的個體，那麼它需要四類東西：一是可能性，技術都想讓自己的多樣性變得更大，它希望增加更多的選擇。第二它需要更高的效率，比如增加能量的密度。第三技術希望增加複雜性，第四技術希望增加可進化性。
哈佛大學教授AlexWissner-Gross認為智能應該被看作是一個物理過程，這個物理過程希望把未來的行動自由最大化，並且盡量避免在屬於自己的未來中受到約束。一個囚犯為什麼想越獄？他希望未來的自由最大化。年輕人拚命工作為什麼？攢錢為未來打算。 這裡特意把智能，技術這兩個概念混淆。技術的驅使者是人類，所以技術發展當然也反應了人的主觀能動性。比較有意思的是智能的熱力學解釋，根據Wissner-Gross，不管是基於碳基的生物智能還是基於硅的人工智慧，應該都有一個熱力學和哲學上的共同特點：它們消耗能量，消費信息，目的是最大化智能載體的行動自由和未來的各種可能性。智能體之間的合作與對抗
這樣看起來，智能體應該是自私的，它們都「忙著」為自己的未來打算。但為什麼人類社會中存在著大量的利他行為呢？利他還是自私的問題，這和我們所關注的慈悲之心已經很接近了，所以我們來看看智能的利他行為是怎麼回事。
人是社會化生物，人類更傾向合作。以研究螞蟻著稱的生物學家威爾森在他的《社會征服地球》一書中提出，「利他主義不是個體的自然選擇，而是群體的選擇」。他認為一個擁有眾多願意為了集體利益而作出貢獻或為之犧牲的成員的部落將會勝過其他合作意識不那麼強的部落。「社會體是在生物體個體之上的下一個主要生物學組織形式，在僅有的二十多個進化出社會體的動物進化分支線中，我們祖先處於其中一條分支上。在社會體中，超過兩代以上的群體成員共同生活在一起，共同照顧幼體，進行勞動分工，且分工會讓部分個體相對於其他群體成員在繁殖時處於更有利地位。」
對於區別於人類的高級智能，如外星人，人們直覺上保持一種擔心。比如，在談及對外星人的探索計劃時，物理學家霍金曾經這樣警告過：「雖然我們不太了解外星人，但我們了解人類。縱觀人類歷史，人類與智力相對欠缺物種之間的接觸，站在它們的角度來看，這種接觸往往是場災難，先進文明與原始技術的相遇對於落後一方來說很糟糕。文明外星人可能會比我們早數十億年讀取人類的信息。如果是這樣的話，他們非常強大，看待人類也許未必有人類看待細菌那樣珍視。」本周阿爾法狗兩虐李世石，大家感慨萬千。3月10日，李學凌的狀態是這樣滴：
但是，熊貓被保護起來是因為它們稀缺。試想一下「可愛」的熊貓們和老鼠和蟑螂一樣多的話，他們的命運應該差很多吧。 把一群級別類似及相差很大的智能體放到一起的時候，他們怎麼決定是否合作還是對抗？我們先來看人類自己的例子。
人類是怎麼對待自己的人類兄弟的呢？
1890年12月29日，是美國印第安人的傷心之日。 那天，由福賽思上校率領第七騎兵團的500美國騎兵在南達科他州的傷膝河（Wounded Knee）血洗了那裡的印第安人蘇族的拉科塔部落。
顯然，人類的利他行為有適用範圍：對和自己基因最接近的家庭成員，我們最合作，最關注。從家庭，家族，老鄉，到同一人種，同國家，不同國家的人，隨著和自己基因和群體的疏遠，人類的這種利他性逐步降低，甚至會到敵對面。人的愛和情感，歸根結底是利己的，是有適用範圍的。智能物種相遇時，如果技術能力差異很大，弱肉強食看起來是智能體的一個共同特點。 幾年前，我看到一篇人工智慧的研究論文，用計算機模擬的人工智慧在多競爭對手的情況下，有時候會選擇和水平相近的其它智能合作。我翻了一下歷史書，果不其然，發現確實有證據表明是這樣。比如，中國近代史上的八國聯軍壓義和團，就是當時技術水平相近的８個世界列強在多競爭對手瓜分中國殖民地的情況下，共同選擇的一次性合作。根據這篇論文：「因此，我們有理由認為，不同的智能體會統一表現出一種「驅動力」，跟它同樣強大的生物合作，以獲取利益。即使這種行為不是有意而為之。」
正是基於對智能本性的直覺，霍金警告過探索外星文明需要謹慎，而中國著名科幻小說三體里，劉慈欣也提出了基於這種哲學的黑暗森林法則：「宇宙就像是一座黑暗森林，每個文明都是帶槍的獵人，像幽靈般潛行於林間，輕輕撥開樹枝探索外界，同時竭力不發出腳步聲隱藏行蹤，因為林中到處都有與他一樣潛行的獵人。如果他發現了別的生命不管是不是獵人，不管是天使還是魔鬼，能做的只有一件事：開槍消滅之，在這片森林任何人視他人為地獄，永恆的威脅來源、永恆的資源搶奪者，只有先下手為強的不變思維才能抵消未來潛在風險，任何暴露自己存在的生命都將很快被消滅」。
人類的未來
看起來，人工智慧一旦超越人類，一方面會繼續按指數成長，一方面要以人類看待細菌的視角俯視我們，按照智能體的共同特點，它會消耗能源和信息，追求其最大的未來可能性。對待人類，它應該沒有特別的惡意，但是應該也沒有特別的慈悲之心。慈悲之心，是人類這種社會型生物特有的能力，它很美，很人性，它有助於人類合作，是人類在進化過程中經過群體選擇形成的優秀品質。但是，很遺憾的是，慈悲並不是宇宙中所有智能體的共同之處，因為，這些智能體的進化可能不是群體選擇而是個體選擇。即使是合作型的智能體，如果它們和人類一樣，它們對待技術能力遠遜於自己的其它智能體，弱肉強食的思考方式應該是最有可能的。
人工智慧，是離我們最近，並且幾十年以後應該大幅超越人類的智能。對於它的擔心，國外很早就有專門的研究機構研究人工智慧的各種危險。Elon Musk也非常關注這個問題，甚至提出要在火星上殖民，增加人類生存機率。 最近通過學習引力波，深知宇宙航行之不易。同時，人類外星殖民者能到的地方，比人類更高級的智能也能到。所以人類長期生存及人機共存問題，必須在地球上解決，跑是跑不掉的。
在《奇點臨近》書里，庫茲韋爾大膽提出了宇宙中智能進化的六個紀元。根據這個體系，人類社會目前處在從以技術進化的第四紀元到以技術控制生物學方法進化的第五紀元的躍遷當中。 在阿爾法狗虐人的時代，我們應該開始研究這些哲學問題。作為人類，我們當然需要關注人類未來。但是答案得來的途徑也許在於研究宇宙，研究宇宙中智慧的進化方式和生存方式。機器是否有慈悲之心，通過這篇分析，我們到底學到了什麼？ １.作為人類目力能及範圍內的唯一一個高級智能體，如果我們真正在追求未來的多種可能性，也許我們應該更加愛護我們的環境。和發達國家的智能部落相比，在環境的問題上，生活在中國的智能部落也許應該想的更加長遠一些。２.作為一個有悠久社會化歷史的智能體，人類在長期的群體自然選擇過程中選擇出了小部分富有慈悲和博愛之心的個體。這些個體非常難能可貴，在面對比人類更高級智能的時候，這種特點也許是人類唯一的可愛之處。所以，我們對人群的利他行為要更加珍惜，鼓勵和支持。３.我們目前所處的時代，這個人工智慧的時代，是人類歷史上最有戲劇性，變化最快，變化最深刻的一個時代。作為一個智能物種，我們希望保留我們未來的各種可能性。而這似乎只能通過深刻的思考才有可能。希望這篇文章，能夠吸引更多的有識之士來共同關注和研究因為人工智慧，奇點臨近所產生的，只有在我們這個時代才會提出的哲學問題。
推薦閱讀：
