為什麼有很多名人讓人們警惕人工智慧？
一些新聞：
霍金：人工智慧會導致人類滅亡
比爾?蓋茨：人類需要敬畏人工智慧的崛起
馬斯克稱人工智慧是人類生存最大威脅這是因為人工智慧要進入新階段了？這些名人是不是可能比較先得到信息，所以向人們預警？
或者是每年都有很多人提出這個問題，只是今年報道的比較多？
有人說在人工智慧的發展上存在一個奇點，越過這個奇點就能通過圖靈測試。
如果人工智慧已經越過了這個奇點，這個世界會發生怎樣的質變？
超體和超驗駭客都出現過類似越過奇點後，科技的突然爆發。
這又讓我想起三體裡面，宇宙叢林法則中，由於對對方的不了解，又擔心對方文明的突然爆發，所以選擇了摧毀。
如果人工智慧突然越過奇點，瞬間產生了意識，可以迅速吸收人類的文明，發展出新的文明。
人類跟人工智慧之間，會不會出現類似三體裡面的博弈？
--------------------------------------------------------------------------------------------------------------------------------------------
感謝大家的回答。特別是看完@尚之森的回答有很大的啟發。
--------------------------------------------------------------------------------------------------------------------------------------------
但是，我還有一個問題：弱人工智慧是不是只是模擬了人思維的一部分？並且這部分能力是足夠應付圖靈測試。
換句話說，圖靈測試並不能測試完整的人的思維能力？它只能測試人思維的一部分。
或者說，只通過語言交流是不能夠得到被測試物的完整信息？那麼這是語言交流的缺陷？或者說人類語言在交流過程中會帶來信息流失？
還有一個想法：
是否可以開發出強圖靈測試：
比如有針對的出一系列問題，對人工智慧作一些全方位的思維能力測試，最後得出它在各個方面的水平，比如在創新能力上，幾乎為零，雖然它可以採用插科打諢的方法來避免正面回答，但是最終我們可以得到它在創新能力上的水平。
反對@謝熊貓君 的高票答案。
翻譯得很辛苦，也確實提供了有趣的視角，
但應該註明這是作家寫的，而不是科學家寫的。
文章引用的都是暢銷書，而不是peer reviewed論文。
這種貌似嚴謹的文章最容易造成誤導。
以下批評針對原文，不針對翻譯。
沒有回答「為什麼名人讓我們警惕人工智慧」，只是提醒大家，不一定要警惕人工智慧。
---------------------------------------
文中引用主要來自作家、哲學家、企業家，比如：
「未來學家」Ray Kurzweil，
哲學家兼暢銷作家Nick Bostrom，
暢銷書作家James Barrat，作家Carl Shulman，
企業家Jeremy Howard。
雖然上面的部分人曾經做過技術，不過後來都跑去賣概念了。
引用這些人真的沒問題嗎？
美國是個極端愛好bullshit的國家，
工業界金融界文化界很多人吹牛逼是不打草稿的。
全篇那麼長，居然全是腦補，沒有嚴謹論據和專家觀點，挺不容易的。
引用的參考文獻幾乎全是暢銷書，點開全是amazon上的賣書鏈接。。
咳咳，作家生活不易啊。
文中真正「專家」的言論只有兩處：
2013年的時候，Bostrom做了個問卷調查，涵蓋了數百位人工智慧專家，問卷的內容是「你預測人類級別的強人工智慧什麼時候會實現」，並且讓回答者給出一個樂觀估計（強人工智慧有10%的可能在這一年達成），正常估計（有50%的可能達成），和悲觀估計（有90%可能達成）。
和
另外一個獨立的調查，由作家James Barrat在Ben Goertzel的強人工智慧年會上進行，他直接問了參與者認為強人工智慧哪一年會實現，選項有2030年，2050年，2100年，和永遠不會實現。
並且得出結論：
從以上答案，我們可以估計一個中位的專家認為強人工智慧到超人工智慧可能要花20年左右。所以，我們可以得出，現在全世界的人工智慧專家中，一個中位的估計是我們會在2040年達成強人工智慧，並在20年後的2060年達成超人工智慧——也就是踩上了絆線。
OMG..
第一個Bostrom的調查，請問「數百個人工智慧專家」都是誰啊？
包不包括業內大牛啊，比如MIT的Patrick Henry Winston，Stanford的Richard Fikes之類的。
或者說上面提到的作家哲學家都是「人工智慧專家」？
第二個調查在「強人工智慧年會」上做的，
知道啥叫倖存者偏差嗎？都去參加「強人工智慧年會」了當然對強人工智慧是樂觀的啊，
就好像去天主教堂調查宗教信仰，結論是90%人都信上帝一樣可笑。
另外這個年會是個神馬玩意啊，為啥我搞AI的朋友都沒聽過啊。
不會是這個會吧（The Eighth Conference on Artificial General Intelligence），
恩恩，主席是Ben Goertzel，應該沒跑了。
不過這個Ben Goertzel好像不是科學家啊，
任職於一個金融公司，建立了一個IT公司，寫了幾本暢銷書。。
跟學術有關的職位有兩個，
一個是奇點大學（Singularity University）的advisor，專門研究人類什麼時候會被計算機幹掉的地方。。。好科幻啊。。。
另一個是Research Professor in the Fujian Key Lab for Brain-Like Intelligent Systems at Xiamen University。。。中國人民的好朋友啊。
我個人的觀點，他的研究不能支撐他做出的預言，你們感受一下。
---------------------------------
強人工智慧是有可能實現的，但是現在的技術離強人工智慧的距離還非常遠。
原文中第一個圖很有意思，就是技術發展曲線。
全文的所有論據，都建立在「指數發展」這個假設上。
指數曲線在接近0的時候是類似線性的，
不光是指數，多項式函數、對數函數、甚至多重指數在小範圍內也可以用線性擬合得很好。
而且不同的指數和
在0附近都很接近，
但對「奇點」何時到來的估算可能誤差千百年。
如果按照「指數發展」來算，而且樂觀的估計指數的係數，
那你妹的什麼技術都不是問題啊，人類分分鐘佔領全宇宙。
我更相信的是，科學發展是有爆發期和穩定期的。
一個技術突破會帶來難以想像的繁榮，之後的科學發展都比之前的更快，
但不會天天都是技術突破。
比如，二十世紀上半頁的物理學十分輝煌，相對論和量子力學的建立引發了一系列技術革命。但從那以後物理學一直很平穩。
楊振寧就說過他趕上了物理學的好時候，讓他現在做學術，可能就不會選物理學了。
要是科幻作家站在1950年前後，用指數發展估計物理學的發展，
那到今天我們早就弄出大統一理論搞定核聚變發電了。
又比如人均壽命從先秦時的二十幾歲發展到現在的80歲，如果用指數擬合，
那過幾十年是不是要活幾百歲了啊？
--------------------------------------
文中提到的可能支持人工智慧指數發展的路線包括：抄襲人腦，進化演算法，電腦自己解決。
我不知道這幾條是不是對應類似machine learning, neural network, evolutionary algorithm, program synthesis之類的領域。
如果是的話，這幾個領域我都有一點粗淺的了解。
歡迎大神批評補充。
比如machine learning和neural network, 核心都是回歸和數據擬合，離智能化還很遠。
大牛Andrew Ng的網課，Coursera - Free Online Courses From Top Universities
光靠這個實現強人工智慧我是不信滴。
關於evolutionary algorithm，去年有一個大牛的talk，推薦大家看一下。
全篇都是技術討論沒有涉及「奇點」，大家可以自己判斷現在的研究前沿離真正的強人工智慧還有多遠。從43分鐘開始：
Dana Scott: VSL Opening Christos Papadimitriou: VSL Keynote Talk "Computational Ideas and the Theory of Evolution" on Vimeo
program synthesis里，現在計算機能自己生成的程序還很弱智，
而且演算法複雜度都是exponential time甚至doubly exponential time(比如)的。
用的方法本質上是先靠程序員輸入一個程序模板和參數空間，
然後用各種方法遍歷所有可能的程序，看看是不是滿足要求。
這其實引出了一個很有意思的問題：
現在我們CPU的計算能力是指數增長的，
但按照今天的演算法，許多真正有趣的問題都是需要「指數時間」，甚至多重指數時間才能解決的。
那麼，我們實際解決新問題的速度一定是指數發展的嗎？
讓該領域內的專家來介紹現在的研究成果和面臨的巨大問題，
比起作家自己泛泛而談要好得多。
--------------------------
其他反對的觀點其實也不少，
比如可以參考這篇文章 Hyping Artificial Intelligence, Yet Again
等有空我可能會翻譯一下。
以免誤導不明真相的群眾。
「Aggressive」 ,」 Greedy」 _ Google為什麼用這些詞來形容AI
每當人們談論起人工智慧，大家都會使用一些辭彙諸如」smarter」, 」faster」, 」effective」,」 「precise」等
也有一些言及AI的負面內容:
自然也少不了為AI辯護的聲音：
這一次，Google Deepmind的一項實驗或許能夠為各執一詞的雙方都帶來些新的思考。
內容源自：
World Economic Forum
https://deepmind.com/
Google 發現，更高級的人工智慧更富侵略性或者更好鬥（aggressive）
Google創建了一個簡單的名為「摘蘋果」的遊戲：
參與遊戲的兩個AI玩家擁有激光武器，且接受的指令為「儘可能多地採摘蘋果」
研究者的目的是想知道為了完成任務，遊戲中的AI是會協作，還是會互相攻擊：
遊戲中兩位AI玩家都可以使用激光武器干擾對手的任務進程：
研究發現，當蘋果數量充足時，AI玩家不屑於使用激光武器：
但是，當蘋果數量驟減時，它們會頻繁地使用激光武器：
不論蘋果多寡，執行複雜策略能力越強的AI玩家傾向於更多地使用武器攻擊對方而不是合作
研究人員表明，不論是對人類還是對AI而言，這次遊戲的結果給予了「合作」新的釋義
比起大家熟悉的以人為研究對象的博弈論囚徒困境，AI在連續社會困境（sequential social dilemmas）的實驗中是否會協作？在什麼條件下協作？都是這次試驗要研究和觀察的內容。
實際上實驗一共設計了兩項遊戲，涉及兩個馬爾可夫博弈（Markov games）模型：一個是水果收集博弈模型，就是上文中提到的「摘蘋果」（Gathering）遊戲，我們已經知道結論了；另一項則是群狼狩獵博弈模型，實驗中設計為「狼群」（wolfpack）遊戲，規則是：兩位AI玩家要在遊戲設置的重重障礙下捕捉AI獵物，捕獲獵物時，不僅成功捕獲的玩家得分，在其附近的玩家也可得分，在這個實驗中，執行複雜策略能力越強的AI玩家，促成的協作也越多，這與第一個實驗中的結果是相反的。
當實驗中的AI的行為被冠以與理性經濟人（homo economicus）行為等價近似的時候，我們是否會進一步思考，當我們將實驗的對象換成AI與人類的博弈時，又會怎樣？人類與擁有複雜決策執行能力的AI之間能夠實現協作么？是怎樣的協作呢？
最後回到問題，警惕人工智慧，與其說警惕人工智慧，不如說警惕人類自己，就目前階段看來，人工智慧並沒有擺脫人類控制，實現其獨立發展和進化，人工智慧從某種程度上來講，和槍是一樣的，槍本身不會殺人，殺人的是持槍的人。
----------------------------------------
本文作者 @Allie
關注 @矽谷密探
緊盯全球創新趨勢
沒想到在我答完題後會又出現一篇如此具有煽動性的文章。
我的這篇答案只是在為人工智慧奇點的可能性辯護，沒有任何支持「人工智慧奇點證據確鑿」的意思。
順便，反對謝熊貓君的答案： 如何看待這篇關於人工智慧的譯文？ - 知乎用戶的回答
---------------------------------------------------------------------
謝邀。
個人覺得這種警惕非常必要且合理。
簡單想了想大概有下面幾個理由：
1）曾經出現過的錯誤
人類已經犯過類似的錯誤了。再在人工智慧上犯錯也不是不可能。
氟利昂。過去空調冰箱都用這個東西。因為方便便宜，製冷效果也好。用了很多年後才發現，氟利昂對大氣層有巨大的破壞作用。
含鉛汽油。托馬斯·米吉利傾畢生心血發明了含鉛汽油來提高汽油性能，結果卻造成了巨大的危害。而當時的油漆商卻僱人宣傳含鉛汽油對人無害。
四乙基鉛和普通的鉛不同，它更具致命性，皮膚接觸半杯就會致命，雖然現在公眾對神經毒素爆發發狂而死的乙基公司工人毫不在意，但是為了利益，宣傳的作用就體現了，這時候，不再是廣告報紙和兒童畫，他們動用了至今屢試不爽的方法：他們需要一個懂科學的權威，安撫民眾，提升鉛的形象。他們找到了一個合適人選，羅伯特-基歐博士，這也是人類第一次，利用科學權威來掩蓋對環境和公共健康的威脅。
基歐博士說：「鉛本身就存在自然環境中！當然，雖然對一線工人有影響，但是對公眾絕對沒任何影響！並且沒有任何證據表示鉛對公眾的影響對不對！？這種程度鉛就如同12月的雪一樣的自然，不會污染環境！」
直到科學家帕特森發現含鉛汽油危害的鐵證，石油商們的第一反應居然是對他威逼利誘，還僱傭了權威科學家為含鉛汽油辯解。
（014年FOX和國家地理聯合製作的3億美金的紀錄片巨作：《宇宙時空之旅》（COSMOS：A SPACETIME ODYSSEY）第七集 講的就是這個拯救人類的科學家的故事）
如果出問題，人工智慧的形勢會比氟利昂/含鉛汽油嚴厲得多。
因為人工智慧利益相關更多。商業巨頭有更多的機會、資金和利益動機來掩蓋問題。
2）More Is Different
現在的人工智慧還是」有多少人工就有多少智能「的狀態。
但是，依稀記得斯坦福大學Ng教授在ML課上說的，雖然神經網路模型很簡單，但layer變多後，實際上我也並不完全理解神經網路是怎麼學習的。
100個神經元（10乘10）的人工神經網路基本上就複雜到沒人可以完全理解它整個學習的過程。
你知道人腦有多少神經元么？1000億個。
所以，沒有人能預言，人工神經網路有1000億結點時會發生什麼。
自然科學裡有一句很有名的話——More Is Different。
【感興趣的搜索這篇Science： Anderson P W. More is different[J]. Science, 1972, 177(4047): 393-396.】
不要以為我們理解兩體運動，我們就能搞定三體運動，三體運動就會出現混沌現象了。
不要以為我們可以近似處理三體運動就以為我們能處理1mol粒子的系統。1mol粒子構成的系統，我們只能用統計力學來處理，這已經是完全不同的理論了。1mol粒子就可能出現湍流。
當我們有一屋子空氣時，什麼奇怪的現象都沒有，而當我們有大氣層那麼多的空氣時，我們才能看到颱風/龍捲風這種現象。
More Is Different。 數量會給系統的性質帶來巨大的差異。
因為10個神經元的人工神經網路很容易理解就認為1000億個神經元的人工神經網路很容易理解，這是可信度很低的觀點。
3）人工智慧不等於擬人智能
就像飛機不需要像鳥類一樣扇動翅膀就能飛行，人工智慧不需要模擬人腦就能表現出智能。
4）人工智慧反抗人類的可能性大約有多少？
無人知曉。而且這根本不是有意義的問題。
就像坐一趟超載超速的客車一樣。或許出事故的概率小於1%，我們有99%甚至99.9%的可能性安全抵達。這也並不代表乘坐這種客車是一個好主意。因為那0.1%的事故風險是我們無法承受。
人工智慧就像一把左輪手槍，6發子彈只有一發是真的，其他5發都會給你黃金白銀，但那發子彈要了我們的命。人類賭得起么？
或許會有瘋子願意賭。但是人類作為一個整體賭不起。
霍金、蓋茨、馬斯克這三位傑出的人物提出了非常有價值的問題。即使最後證明他們是杞人憂天，這個問題對人類的警示和防範也遠比」放心吧人工智慧很傻的「這種觀點有意義得多。
」放心吧人工智慧很傻的「這種觀點和坐超載超速的客車一樣危險，和開車不系安全帶不買保險一樣不負責任。
5）所以停止發展人工智慧嗎
不。這是不可能的。
人工智慧是寶藏，是真金白銀，就算某個小國放棄發展人工智慧技術。參與全球競爭的大國也絕對不會放棄。追求錢財的商人也不會放棄。追求技術的科學家和工程師也不會放棄。
其次，禁止科技發展是非常幼稚的行為。禁止合法性交易只會讓性交易非法化。人工智慧可是比性交易利益大得多的產業。讓人工智慧產業黑色化是非常糟糕的選擇。不受監管的研發不可控性更高。
6）如何監管
一個建議。Elon Musk去創建一家世界第一的人工智慧公司就好了。讓最警惕人工智慧的人處在最前沿的位置是最好不過的。
想一想，一個熱愛人工智慧的工程師或者一個利欲熏心的商人會怎樣對待人工智慧的風險？工程師是溺愛自己造的」輪子「，不會覺得是輪子有問題。而商人則會像對待含鉛汽油對待氟利昂一樣，僱傭科學家，僱傭媒體，將人工智慧的一切問題掩藏起來。直到問題大到再也無法掩蓋。
所以Elon Musk這種警惕的科技領袖和一批警惕人工智慧的工程師最應該熱衷於創造領先的人工智慧。
目前已有13個回答，但暫且沒有深入的回答。而且很多回答跑偏了……我花點時間寫一個吧。
--
直接回答題目問題：目前精英們對人工智慧的擔憂主要集中於可控性和失業方面。也有人在考慮倫理方面的問題。
對可控性的擔憂其實有點科幻，短期做不到超出控制的水平的……畢竟目前的人工智慧還處於「有多少人工就有多少智能」的階段。
因為題主問的主要就在這個方面，那我就只講這個方面好了，畢竟失業和倫理大家不是那麼關注。
討論這個問題，一定要明確兩組概念：人工智慧（Artificial Intelligence，AI）和人工生命（Artificial Life，AL），強人工智慧和弱人工智慧。（強弱人工智慧是作為假說出現的，我這篇回答里指兩個假說中的人工智慧形態）
以下從人工智慧和人工生命兩個話題切入，並且穿插強弱兩種人工智慧的描述分析。題主在描述里的問題放在文末回答。
人工智慧（Artificial Intelligence），英文縮寫為AI。它是研究、開發用於模擬、延伸和擴展人的智能的理論、方法、技術及應用系統的一門新的技術科學。 人工智慧是計算機科學的一個分支，它企圖了解智能的實質，並生產出一種新的能以人類智能相似的方式做出反應的智能機器，該領域的研究包括機器人、語言識別、圖像識別、自然語言處理和專家系統等。
這是人工智慧，許多碼農在這個領域裡揮灑著青春和荷爾蒙。
1) 人工智慧應用的現狀目前對人工智慧的應用其實相當原始。語言識別、圖像識別看上去好像很厲害，其實就是那麼幾個演算法拿語料庫圖像庫訓練出來的。這不是「智能」，而是對人類智能的模擬。
為什麼這麼說？上吧，中文屋！
「中文房間」最早由美國哲學家John Searle於20世紀80年代初提出。這個實驗要求你想像一位只說英語的人身處一個房間之中，這間房間除了門上有一個小窗口以外，全部都是封閉的。他隨身帶著一本寫有中文翻譯程序的書。房間里還有足夠的稿紙、鉛筆和櫥櫃。寫著中文的紙片通過小窗口被送入房間中。根據Searle，房間中的人可以使用他的書來翻譯這些文字並用中文回復。雖然他完全不會中文，Searle認為通過這個過程，房間里的人可以讓任何房間外的人以為他會說流利的中文。
中文屋是對強人工智慧（機器擁有思想，能夠獨立決策）假說的第一次打臉（是強人工智慧假說），Searle指出當時設想的絕大多數人工智慧實現方案都不是強人工智慧，而是弱人工智慧（程序設計者預測會出現的情況，然後做出應對方案，由機器判斷符合條件與否並加以執行）。
通過一套完整的流程（從字典里找對應的文字，然後翻譯成英文，作答，然後用字典翻譯回中文，發回去），一個不懂中文的人可以用中文回答中文問題，讓屋子外的人以為他會中文。
這個人會中文嗎？不會。
這其實就是目前人工智慧在做的事情。
比如語音識別程序，其大致流程是：把聲音中頻率、音色轉成數字，通過演算法轉化為一系列特徵值，查找字典找到對應的文字然後顯示出來。典型應用是Siri，Siri在語音識別的基礎上加了一套應對。
Siri的表現讓大家以為「這個程序聽得懂人在說什麼」，但其實這個程序聽不懂人類說的話，它做的事情只不過是照著流程坐了一趟而已，不需要聽懂你的話也能完成。真正聽懂你的話的人是程序員。
&<今年也請多指教。
&>謝謝你，今年的充電也要拜託您了
大家都知道，後面那句話其實是程序員寫上去的，是程序員在賣萌，不是手機里的Siri程序自發賣萌。
總之，這就是人工智慧在應用方面的現狀啦。這是一些不會自己思考的程序，設計者也沒打算讓它思考，實際上設計者也不知道怎樣才能讓它思考。它能做的事情就是按照設計者的安排，一步一步完成既定程序。
@klin 的回答在目前看來是多慮，神經網路模型最大的用處是配合各種資料庫確定參數……也就是我在上面說的，拿來訓練演算法。神經網路模型雖然確實神奇，但並不是依賴於完整的智能才能實現，而是一套反饋修正的訓練模式，並不是智能的本質。
2) 為什麼目前人工智慧只能做到這個程度？
原因很簡單，人工智慧是人類對「智能」的模擬，目的是實現某個人類能完成的工作，所以受人們對智能的理解限制。
即使配合上神經網路模型和遺傳演算法的訓練，目前的程序也只能在「這個程序達到了預期目標但我也不知道它怎麼達到目標的」方面讓人吃驚而已，程序本身不會演化出嶄新的能力（在我所知的案例中），即只會接受訓練，不能創造新事物。
所以目前的人工智慧只是工具而已。
看完人工智慧的描述會失望吧。
其實科幻小說裡面描述的機器人擁有智能然後反過來統治人類什麼的，跟人工智慧的大部分領域不相關，主要跟人工生命的領域有關係。
人工生命(AL:Artificial life)是通過人工模擬生命系統,來研究生命的領域。人工生命的概念，包括兩個方面內容：1）、屬於計算機科學領域的虛擬生命系統，涉及計算機軟體工程與人工智慧技術，以及2）、基因工程技術人工改造生物的工程生物系統，涉及合成生物學技術。 AL是首先由計算機科學家Christopher Langton在1987年在Los Alamos National Laboratory召開的"生成以及模擬生命系統的國際會議"上提出。
在這裡主要取用1）的定義，即廣義的生命定義（強人工生命）。
強人工生命:主張"生命系統的演化過程,是一個可以從任何特殊媒介物中抽象出來的過程."(John Von Neumann). Notably, Tom Ray 在Tierra模擬試驗中第一次展示了,進化過程在有著搶佔計算機存儲空間之爭的計算機程序的某種群體中極易發生。
科普書《複雜》對此有描述。
人工生命涉及了廣義的生命定義，生命在這裡指代的是一個會對外反饋、自反饋的一套穩定系統。
比如一個炒股的人，這個人本身是一個生命，他會對股市上的各種現象做出反應，會對熊市恐慌對牛市興奮；但這個由所有炒股者組成的股市也有類似的現象，中央銀行調整利率匯率時股市會做出對應反應，經濟危機時股市會萎靡不振，各類金融報道里會有「美國股市情緒相對穩定」之類的用詞，實際上就可以把股市看做一個生命。
與此類似，單個蜜蜂是一個生命，一個蜂巢里整個蜂群也算作一個生命；一隻白蟻算一個生命，一整個白蟻群體也可以算作一個生命。
實際上對人的個體進行切割的話，你會看到每一個細胞都有自己的職責，在微觀層次上每個細胞也都是一個生命，一組細胞組成的一個器官也算一個生命，一組器官構成的人也是一個生命。
比較繞對吧……這是生命的廣義定義，人工生命的定義基於此而產生。
比如一個程序，如果滿足了廣義上生命的定義，就可以看做是一個生命……也就是人工生命。
強人工智慧（與前文弱人工智慧相對）實際上必須基於人工生命才能成型，人們恐懼的也是強人工智慧。
強人工智慧要求程序有自己的思維，能夠理解外部事物並自發做出決策甚至行動，其表現就像一個「人」一樣，甚至很可能比人的反應更傑出、更可靠。（想到深藍的知友請去面壁，深藍和更深的藍都是弱人工智慧）
反過來，這些能夠自行思考的人工生命，也有背叛人類的可能……甚至於很可能會背叛人類。
對於人工智慧可控性的擔憂主要就在強人工智慧上。
但是這種擔憂離二十一世紀初的我們還很遠……目前對人工生命的研究仍然很原始，原始到所有的研究發現出來的東西都不知道能拿來做什麼。
我覺得，這幫科技精英們有對強人工智慧的擔憂是很合理的，作為能影響人類社會科技研發方向的人，他們有責任提醒大家「這個方向上有狼往前走要小心」，有責任提醒大家人工生命的研究要在嚴格控制條件下進行。不過他們其實也沒有很擔憂，畢竟這玩意目前看來還是太科幻……蓋茨的發言已經能說明這一點了：
不明白為什麼有那麼多人並不擔心這種技術對未來的影響
以及，比爾蓋茨的擔憂 竟是人工智慧發展_TechWeb 這篇報道的記者根本狗屁不通……蓋茨擔心的是強人工智慧和人工生命，蓋茨興緻勃勃在搞的是弱人工智慧。
回答題主在描述里的問題。
Q: 這是因為人工智慧要進入新階段了？
A: 跟這個沒啥關係。純粹是因為特斯拉CEO馬斯克跟媒體提到了這一點，於是人工智慧變成話題了，其他人做出自己的表態而已。
Q: 這些名人是不是可能比較先得到信息，所以向人們預警？
A: 得到誰的消息？恐怖分子研發出強人工智慧了？不要搞陰謀論啊……
Q: 或者是每年都有很多人提出這個問題，只是今年報道的比較多？
A: 應該這麼說吧，確實是媒體的姿勢水平不到位。
在學界，強人工智慧有風險是一個不用講大家都理解的事情，但是外界對此懂的太少，常常混淆強弱兩種人工智慧，這次馬斯克一提出防範人工智慧，媒體們漫天亂喊搞得跟個大新聞似的。換言之，這玩意在業內是常識，不會每年都有人提，這次捅出來給公眾做了個科普但是沒有科普到位。
Q: 人類跟人工智慧之間，會不會出現類似三體裡面的博弈？
A: 天知道……這也是大家在擔心的事情。所幸離我們還遠，通過圖靈測試的程序還遙遙無期。
等等，該不會有人被前次的坑爹記者誤導了吧？
電腦冒充13歲男孩 首次通過「圖靈測試」（圖） 這根本不是通過圖靈測試，只不過有30%的評委在五分鐘交談的記錄中判斷這有可能是一個13歲不懂英語的小孩而已。
夠賤的。
而這玩意實際上仍然是弱人工智慧：
這個程序實際上是一套人類對話的模擬腳本，從認知角度來說，它真不大能算得上是思考
通過圖靈測試這個事兒吧，大家不要再提了，純粹是媒體的姿勢水平太低了。簡直給人類丟臉。
耶路撒冷大學歷史系教授、《人類簡史》作者尤瓦爾·赫拉利（Yuval Harari）在其新作《未來簡史》（Humo Deus: A Brief History of Tomorrow，1月中旬中文版出版）中發表過一些言論，我們希望摘出來一些和大家分享——某種意義上，他不僅是人工智慧的警惕者，照赫拉利的觀點，我們對AI束手無策——人工智慧會像「狼來了」中的狼那樣，以人類最恐懼的方式出現。但結果並非人類被完全毀滅，而是淪為失業者，失去生存的目標。
書的封面說得簡明扼要：讓我們成為智人的，也會讓我們成為上帝。他還預測了人類的另一種悲慘前景：AI 取代了所有工作，人類成為「無用階級」。
以下是他的一些主要觀點，非常有啟發：
(一）智人只是一種平庸的演算法
1. 生物組織都是演算法，個體人只是許多不同演算法的集成，認為人類作為一個物種是獨特的"這種想法可能是自作多情。"認為人類總是有能力不被無意識的演算法超越"這種想法可能是一廂情願。智人就是一種相當平庸的演算法，它註定會過時，或者升級。
2.一個外界的演算法，理論上可以對我的了解超過我自己，如果它開發到一定程度，可以取代人。未來計算機強大的演算法，可能會讓人類丟棄千百年來追求的自由意志，而把更多的事情交由機器決定。因為人類會爭取神性，人類有很多理由去渴望這樣的升級。
（二）成為數據主義
3. 高科技大師和矽谷預言家們正在創造一種新的全球性敘事將演算法和大數據的權威合法化。這一新穎的信條可以被稱為「數據主義」。
數據主義世界觀的倡導者們將整個世界視作一股數據流，相信人類的宇宙使命乃是創建一個包羅萬象的數據處理系統，然後融入其中，它的最大價值在於信息的流動。正如自由市場資本主義者們相信市場無形的手，數據主義者們相信數據流無形的手。當全球數據處理體系變得全知全能，接入這個系統就成為了一切意義的來源。
4. 我們現在正處於兩股科學大潮的匯合處。一方面，生物學家正在破解人體尤其是人類大腦和情感的奧秘。與此同時，計算機科學家正在為我們提供前所未有的數據處理能力。當這兩者結合在一起，得到的就是能比我們自己更好地監測和理解我們的情感的外在系統。一旦大數據系統我們更了解我們自身，權威就將從人類轉換至演算法。大數據將為「老大哥」賦權。
5. 數據主義有著非常光明的前景，因為它正在向所有科學學科蔓延，而一個統一的科學範例很容易成為不可撼動的教條。
對於學者和知識分子而言，數據主義允諾了人類在過去幾個世紀里求而不得的科學「聖杯」：一項將從音樂學、經濟學一直到生物學的科學學科統一起來的無所不包的理論。根據數據主義，貝多芬的第五交響曲、股票交易泡沫和流感病毒不過是數據流的三種形式，可以用相同的基本概念和工具進行分析。這一思想極具誘惑力，它將給予所有科學家一種共同的語言，在學術裂縫之上建立橋樑，讓跨越學科邊界輸出洞見變得輕而易舉。
6.谷歌並不需要做到完美無缺，也不需要每一次都正確，只要超過人類平均水平即可。這其實並不難，因為大多數人並不那麼了解自己，而且很多人往往會在人生的關鍵問題上做出錯誤的決定。
7. 數據主義世界觀對政治家、商人和普通消費者都極具吸引力，因為它帶來了開創性的技術和無窮盡的新力量。至於那些對於失去隱私和自由選擇的恐懼，當消費者們不得不在保留隱私和得到遠比過去優越的健康服務之間做出選擇時，大多數人會選擇健康。
（三）從「智人」到「人神」
8.在人類的大部分歷史中，赫拉利說，人們是相信上帝的，這讓他們的世界獲得了一種宇宙秩序。但是後來，至少在世界上的某些地方，科學開始同時賦予人類力量，把宗教降級到從屬地位，去追尋人類本身的意義。這個存在意義的漏洞被「把智人的生命、幸福和權力神聖化」的人文主義所填補，人文主義和科學的契約已經定義了現代社會。在赫拉利的眼裡，生命科學正在逐漸破壞自由意志和個人主義，科學研究正在證明：自由的個人僅僅是一個由一組生物化學演算法捏造而成的虛構的故事。
9. 人類可能會分化為兩個主要的等級：
一種是全新的更先進的精英階級，很聰明，很富有，也有可能會長生不老，但只有超級富豪才能享受這些新技術的真正成果，享有通向終極智慧的權利。赫拉利先生設想精英階層會進化到一種無法辨認的狀態： Humo deus（人類上帝）。
還有一種是全新的一無用處的大眾，他們只能越來越窮地等待死亡，或通過藥物和虛擬現實來追求虛幻的幸福，感覺如同「行走於華爾街上的穴居獵人」。
未來或許會像是數字化升級後的遠古時代，比如：由FaceBook統治的古代埃及。
10.不需要恐慌。至少現在不需要。
升級智人將是一個漸進的歷史過程，而不像好萊塢電影那樣。智人不會因機器的反抗而滅絕。而是，智人可能會逐步升級，與機器人和計算機合併在一起，直到我們的後代回頭，意識到，他們不再是那種寫聖經的、建立了長城的、看了卓別林會發笑的動物。這不會在一天或一年內發生。
事實上，它正在發生著，在無數的平凡的瞬間。每天有數百萬人決定給予智能手機對他們的生活更多的控制權，或嘗試一種新的，更有效的抗抑鬱葯，新格言說：「當你經歷，請記錄；當你記錄，請上傳；當你上傳，請分享。」為了追求健康、幸福和力量，人類將逐漸改變他們的第一個特徵，然後另一個，另一個，直到他們不再是人類。
Main referenced from：
1. Humo Deus: A Brief History of Tomorrow.By Yuval Noah Harari
2.經濟學人《Mankindtomorrow, Future shock》
3.衛報《Homo Deus by YuvalNoah Harari review – how data will destroy human freedom》
4.金融時報《尤瓦爾·諾亞·赫拉利論大數據、谷歌和自由意志的終結》
5.高黑科技 知乎專欄
（九合一直關注AI項目，歡迎關注「九合創投」，BP郵箱：contact@ http://unityvc.com）
從我最近的經驗看，對人工智慧的「恐懼」是客觀存在的，人類也的確有擺脫AI「控制」的本能，但原因不在於這東西太強，而是因為它還不夠強。
首先聲明，AI利益相關，最近有朋友贈了我一段時間的尼桑新車測試權，號稱有源於NASA的智能安全系統。我拿到手之後，朋友告訴我汽車配備了新技術，隨車AI能自動避免追尾和撞人。然後問我打算怎麼玩，我回答說：
「我必須知道如何用半秒鐘關掉AI」
依據他的介紹，這車能辨認障礙物的距離，能發現行車軌跡上的汽車和人，判斷兩者之間的相對運動速度，在我快速接近的時候發出提醒，提醒無效的話就緊急制動，拉緊安全帶，在障礙物面前停車，至少能避免我以危險速度撞上去。
介紹聽起來很美好，我能想像設計者大腦中的畫面——半睡半醒的駕駛員，忽然穿越馬路的兒童，前車緊急制動的同時響起警報聲，在撞擊前0.3秒死死剎住了車輪，從而挽救了1個兒童和兩輛汽車，贏得一片讚歎。
然而，作為一個交通土建專業的畢業生，作為見過千奇百怪車禍的老司機，我卻想到了另外的畫面——公路上失控的大卡車橫掃而來，我必須迅速轉入和公路相交的小路避禍。但小路上已經停放著一輛轎車，我只有撞上去才能倖免，這時「智能」防撞系統發揮了作用，先是尖嘯後是剎車，完美地把我攔在大卡車的毀滅路線上……
其實，在很多小概率事件中，汽車並不是被簡單地當做交通工具使用的。平時被視為事故的「撞擊」，在特定條件下，也可能被當成汽車的主要功能。如果AI每次都在撞擊前接管剎車系統，需要破牆而出的司機將會無奈地被困，劫匪只需站在路中間就能攔下每一輛車。我承認動作片誇大了這些小概率事件的概率，但不可否認現實中完全可能會有類似的場景。在這些情況下，我希望還能靠自己的大腦自救一下，而不是在AI安排下「安全」地等死。
所以，剛拿到測試車，我就確定了測試目標——如何在警報響起之後克服AI干擾，堅決地撞上去！當然我不會因此就去高速公路上找人追尾，而是搭建幾個能愚弄AI的假目標：
為此我搜羅了全部能找到的紙箱：
紙箱是用來支撐橫幅的：
我猜汽車設計師中也有人考慮到了類似情況，所以在方向盤下面設置了一鍵關閉防撞AI的開關：
因此，我的測試思路非常簡單，就是用紙箱配合條幅，搭建一個有立體感的「汽車」，藉此觸發AI的警告。但在警報聲響起之後的瞬間，我將試圖關閉AI，或是通過加油門來抵消剎車，堅決地撞上障礙物。如果我能按照我自己的意志撞上條幅，就算測試通過。
事實證明，在練習幾次之後，我按關閉鍵的速度已經被壓縮到半秒之內，能夠在自動剎車起效之前就重新奪回汽車的控制權。如果我全然不顧警報，只靠加油來抵消制動，雖然撞擊效果有所減弱，但也基本能完成「撞上去」的任務。
下一層次的測試更現實一點。即在不得不撞過去的情況下，到最後一刻才選擇撞哪一邊（比如說便宜的一邊）：
事實證明，雖然AI不一定每次都能做到警告並剎車，但至少在警告響起來之後，我還有選擇撞哪一輛的權力。這AI看來還算「安全」。
事後我仔細想了一下，我堅持要獲得自己操控汽車的權利，不是因為AI太聰明嚇到了我，而是因為AI太「笨」，只能通過觀察前方路況，臨時接管制動系統。對於側面和後方的威脅，儘管也有雷達監測並警告，卻無法納入統一的風險控制邏輯，不會因為後面有失控卡車就允許我撞車保命。至於攔在車道上的行人是不是手持利刃，眼前的牆是不是阻擋我獲得自由，那更是計算機從來不考慮的因素。所以，雖然AI在大多數情況下可能會挽救我的命，甚至會挽救我的錢包，我還是希望它能隨時關閉，放著汽車讓我自己來。
看一下歷史，我的想法並不算特別。每一次有新鮮事物進入人類社會，都會有類似的質疑聲浪。火車、電燈等著名的段子就不說了，汽車行業內就有一個非常有可比性的案例——安全帶。
安全帶現在是所有汽車的標準配置，大多數工業國的警察會強制要求駕駛員使用，多數老司機也並不覺得有什麼麻煩。但回溯到幾十年前，這個簡單的小裝置也曾經引起過巨大的反對聲浪。而且出發點和我擔心智能防撞系統差不多——剝奪了人類選擇的自由。
下列截圖見福特和克萊斯勒公司總裁艾柯卡自傳：
這段爭論是不是很眼熟？我其實非常理解反對者的立場。因為安全帶從不說話，只會在急減速的時候牢牢綁住乘客，並未給駕駛員以「固定——鬆開」的選擇權。這固然減少了大多數碰撞導致的傷害，但在小概率情況下，也的確阻礙了駕駛員的行動自由（必須解開卡扣才能再行動）。萬一出現必須儘快離開汽車的狀況，的確不能絕對保證安全帶會發揮100%的正面作用。
誠然，艾柯卡的觀點很理性，但是，我也在理性上很相信智能防撞系統救命的概率遠遠大於阻礙我逃命的概率，但作為一個憑藉自由意志生存了上百萬年的物種，我還是希望能時刻擁有最終決策的權力。所以，在這個問題上講概率論並不能絕對"服人"，安全設施的推行除了要靠法律強制，更要在心理上給人「選擇權」，即隨時關閉自動設備的權力。當年美國能夠立法強制使用安全帶，也是因為在模擬火災、爆炸環境下做反覆實驗，證明了安全帶可以迅速解開，讓乘客擺脫捆綁狀態，這才最終說服公眾接受安全帶。（未必）
實際上，火災逃生實驗本來並無必要，因為即便在火災條件下，安全帶也更有利於乘客逃生。2012年8月26日，包茂高速公路安塞段發生客車與運送甲醇貨車追尾碰撞事故，引發甲醇泄漏並導致兩車起火，造成36人遇難，3人受傷。事後經驗屍發現，由於未使用安全帶，大多數乘客因為碰撞而昏迷，在起火之前已經喪失了逃生能力。而在僅有的幾名逃生乘客中，恰恰有一位女士因系安全帶而保持了行動能力，從而抓住了緊迫的十幾秒逃生時間。可見安全帶挽救生命，和解開安全帶需要的時間關係不大。
然而，公眾就是需要這樣的實驗，我也必須確信能隨時切斷AI的電源，在踏板上控制剎車，才能從心理上接受自動防撞系統。這就是我們人類毫無理由的自信。不過，即便是感性認識，也是可以用理性去分析的。看到這個問題之後，我開始審視自己的感性判斷——我到底恐懼的是什麼？是AI太「強大」么？
仔細思考之後我發現，恐懼的來源並非是AI太聰明，並非AI可以和我的大腦相連，而是正好相反——問題的源頭在於AI不夠聰明，不能和大腦相連。
比如說，本來汽車已經配備了側向和後方的測距雷達，但只用來點亮告警燈，不能成為AI判斷的參數。如果AI能夠「考慮」到這些外界條件，在其他方向有明顯威脅的時候允許我撞向前方，我就可以允許AI獲得更多的汽車控制權。如果AI能直接把警告輸入我的大腦，讓我在打瞌睡的時候忽然「看到」撞擊的可能性，並通過大腦決策來實現剎車，自然也不必為了節約反應時間而直接控制剎車系統，不給人類做選擇的機會。總而言之，至少在現階段，一個更「強」的AI會讓人類更放心。阿西莫夫也在短篇科幻小說《理性》（又譯為《推理》）中描寫過類似的情節：（全文請點擊下面的鏈接）
[短篇]《推理》作者：[美] 艾薩克·阿西莫夫
在這篇小說中，「出生」在空間站的機器人開始思考自己的存在理由，並創立了一套宗教解釋自己的工作。人類工作者對此先是表示恐懼，但發現機器人並不會因此影響工作後反而欣然接受：
[短篇]《推理》作者：[美] 艾薩克·阿西莫夫
科幻時代（其實設定時間是90年代末）的宇航員最終接受了一個信教的機器人；現實中的司機最終接受了安全帶，這聽起來跨度有點大。但完全可以說兩者都是廣義的「AI」，因為它們都能獨立於人類大腦做出邏輯判斷。安全帶能在人類不干預的情況下發現加速度異常，這本質上也是一種處理信息的方式，也是「思考」。我們人類能製造替代自己大腦的工具，可能是我們智人打敗其他人種（尼安德特人、丹尼索瓦人等）的關鍵因素——注意我提到的是替代大腦的工具，而不是「工具」。
（以上三圖均為北京周口店遺址博物館的科普挂圖）
根據現在的考古發現和生物學觀察，無論是尼安德特人、大猩猩還是海獺，都能在一定程度上使用工具乃至製造工具。智人比他們強，不是強在製作長矛、石器這些隨身攜帶的工具上，而是因為智人具有抽象思維能力，能夠設計製造出人類不在場的時候也能發揮作用的高級工具：
（以上2圖引自《事物的起源》）
（以上2圖引自《事物的起源》）
通過這些圖我們可以發現，在智人成為獨立種族的開始，我們就已經在製造「AI」，來延伸我們的大腦，獲得木矛石刀無法捕獲的獵物，進而稱霸地球。實際上，工業革命也是一個類似的過程。瓦特蒸汽機節約的不僅僅是人的肌肉力量，更節約了人類的大腦：
機器人群體能夠幹人類 98% 的非機械性工作的時代，社會會怎麼樣？ - 馬前卒的回答自動控制系統是從1776年的瓦特開始的。換句話說，回到工業革命之前的水平，非人力機械只留下馬車、牛犁、水車、風車才算完全靠人類工作。那個時代你懷念不？
瓦特蒸汽機，是不是比想像的複雜許多？
蒸汽機離心自動控制器，這才是瓦特做出的最大貢獻，他節約了人類的智力而不是體力
每一個自動控制系統都起碼節約了一個人
每一個自動控制系統都起碼節約了一個人
每一個自動控制系統都起碼節約了一個人當然，上面提到的汽車自動制動裝置、安全帶、捕獸夾、瓦特調速器，加上馬上要挑戰李世石的圍棋軟體都屬於「弱AI」，即沒有自我意識，只能按照人類設定程序處理信息的AI。他們的強項並不在於真的去「理解」事實，而是用更高的速度處理事務。所以我們才期盼它們越來越強——再強他們也只是工具，可以被一鍵關機。人類真正擔心的是強AI，即同時具備自我意識和高速處理能力的人工智慧。前面轉載的阿西莫夫小說情節中也透出了類似的看法——自創宗教的機器人可以因為教義而為人類忠實服務，但也存在因為「教義」而損害人類利益的可能。總之，獨立的意識既意味著無限的潛力，也意味著無限的風險。
對於類似的觀點，我……沒啥明確的看法。因為「強」AI的原理和功能都完全超出了我當下的想像。作為一個普通人類，我連自己為什麼有「意識」，為什麼有智慧都不知道，更不可能想像一台機器如何具備類似的能力。讓我評價強AI是福是禍，就像讓不會騎馬的原始人評價汽車的利弊一樣無稽——我不能評價那些我不知道我不知道什麼的東西。
然而，我倒是有個笨辦法來趨利避害——用弱AI加強人類自身，讓我們來變成「強AI！」
我們回顧一下，為什麼圍棋電腦可以挑戰李世石？不是因為電腦真的理解圍棋是什麼東西，而是因為電腦擁有遠超人類的記憶能力和推算速度。如果我們通過植入晶元增強記憶和計算力，通過添加感測器增強自己的信息搜集能力，世界上第一個「強AI」可能就是我們自己！
實際上，類似的事情我們已經在做了。
如何看待百度將血友病吧歸還給原吧主？是一次網民的勝利嗎？ - 馬前卒的回答
一個副部級官員在台上高舉自己的智能手機：你們覺得這是什麼？
底下眾人有答手機的，有答電話的，有答娛樂工具的，都被一一否定。最後這位50後的領導給出了自己的看法：這是有史以來和人類結合最緊密的機器！是人體的新增器官！
雖然手機+互聯網+搜索引擎這個「器官」和大腦的結合還非常粗糙，但就我近年招聘經驗來看，在媒體工作方面，善於用搜索引擎的人和不會用搜索引擎的人完全就是兩個物種，效率差距遠大於智人和尼安德特人的差距。如果谷歌眼鏡和新一代虛擬現實技術能做到即時從現實中抓取模型進行演算，裝備新技術的人類可能會完全甩掉那些前網路時代的同類，創造出他們永遠無法理解的技術。更不要說未來通過植入晶元分擔大腦職能的人類了。到那時候，我們有意識，有智慧，還有電（光）子計算機的運算速度，還怕什麼「強」AI？
至於為人類植入新的感測器，其實我們已經在做了：
電子視覺技術讓盲人見光明
人工視覺系統助盲人「復明」(圖)
我們既然能把攝像頭的光信號直接傳給大腦（不需要眼睛這個中介），就能在不久的將來為人類裝備更多的感官，讓整個世界在我們的「眼中」透明化，甚至可以在虛擬空間中「看到」更高的維度。普通人只能通過數學模型來研究的高維空間，對於新一代人來說可能是「不言自明」的事實。「生而平等」的生物學概念到此將徹底結束。
當然，這樣的世界和今天的倫理學標準是有一定衝突的。在各國神話中，有第三隻眼的人類不是神靈就是怪物，總之不是人類。如果有人能通過手指觀察東西，能通過顱內硬碟調閱百科全書，當代人看他的眼神一定不會太「親切」。然而，原始人看我們穿各種衣服恐怕也是類似的感受，古代人也無法理解為什麼拍照是必不可少的飯前儀式，進步本來就不一定會被古人所理解。人類之所以是人類，就是因為我們的祖先過DNA變異獲得了製造工具的能力和抽象思維能力，我們今天修改自己的「外設」來變成超級 AI，變異程度未必就比祖先物種變異的幅度更大。
無論我們如何看待AI的風險，有兩個事實是確定無疑的——1 維持現有的生活水平離不開AI；2 用弱AI裝備自己的人類會獲得競爭上的極大優勢。這意味著AI和人類的結合必然會越來越更緊密。我們與其被動地接受這個新時代，不如主動地變成超級智能生物，變得更聰明、更善於交流，更長壽、更強大。
這裡我再引用一下之前的發言：
機器人群體能夠幹人類 98% 的非機械性工作的時代，社會會怎麼樣？ - 馬前卒的回答除了信息的存儲讀取，人類還需要提高信息的處理效率。拿算術當例子，原始人和小孩子在作加法的時候都有一個本能的反應——掰手指頭，也就是累加計算。3+4，就是先伸出3根手指，再挨個掰出4個，最後回過頭把所有手指頭點一便數，得出7的結果。手指頭不夠的話，還可以用木棍、石子來輔助，原理上是一樣的。
為了避免每次計算都掰手指頭，你我都必須在小學低年級作大量的算術速算練習，直到我們把兩位數的加減法變成條件反射而不是累加的結果。從而把更大數字之間的運算分解成一系列條件反射的累加，提高整體運算效率。又比如蘇美爾人最早的乘法是連續做加法，一位數的乘法也必須挨個加起來，這和我們小學時學乘法原理的程序是一樣的。這個方式足夠簡單但嫌太慢。後來，學算術的學生就要背乘法表，背會了之後在腦子裡建立固定的數字處理程序，只要記住八八六十四這種口訣，就不必再每次計算都作七次加法。這也是信息化，通過建立固定的反射來提高信息的處理效率。
相對論剛提出時，號稱全球能完全理解的人不超過十人，現在卻成為理工科必修課程，是我們智商提高了嗎？ - 馬前卒的回答
你要說服自己的大腦，「數學工具」這個詞絕不是一個比喻，而是客觀、準確的描述。鏟子、汽車、充氣娃娃等有形物體是工具，思考方式也同樣是工具，都是人類改造世界能力、理解世界能力的「放大器」。這一點在理智上接受很容易，在直覺上相信比較難。就像大多數人可以在理智上承認電場、磁場也是物質，但真的思考複雜問題的時候，直覺就只承認椅子、汽車這樣的東西是物質了。
什麼是工具呢？嚴格來說，人類製造的任何東西都只是附加了「信息」的某種結構。砍木頭做梯子，木頭是自然界的物質；鍊鋼造汽車，鐵礦石和煤都是地球本來就有的。我們沒法憑空「創造」物質，只能把既有的物質賦予人類設計的結構，才能變成實體工具。至於思考工具，只是把這個「結構」直接用思想表現而已。從這個角度講，思考工具和日常的實體勞動工具完全是一回事。
所以說，人類現在能一槍撂倒大象，不是因為力量增加；人類能迅速理解幾十年、上百年前的物理前沿思想，不是因為智商提高，兩個事件都完全是工具水平提高的結果。相對幾百萬年的人類進化史，最近一萬年我們的基因沒啥明顯改變，進步的是工具。
我想說的是，信息時代並不是最近十幾年才到來的。整個人類文明史，從捕獸夾到乘法表再到蒸汽機、計算機，這都是「信息化」和「AI化」的發展過程。我們這些年的發展速度很快，但也不過是保持了過去200年、20000年、200000年的AI進步趨勢。如果你恐懼AI，就應該記住被歷代古人（包括毛澤東）反覆強調的一個概念：
寇能往 我亦能往。
最後提醒一下，無論是你想和AI當敵人還是做朋友，眼下它都只是一個輔助工具，不能保證行車的絕對安全。一旦時速開到80以上，神也阻止不了事故發生。奉送一張100公里時速下的障礙牆殘骸圖，這次我可是和AI精誠合作的……
和人類頂尖的智慧相比，短時間內 AI 還是難以匹敵的
然而大多數人都是平庸的
人工智慧很可能導致人類的永生或者滅絕，而這一切很可能在我們的有生之年發生。
上面這句話不是危言聳聽，請耐心的看完本文再發表意見。這篇翻譯稿翻譯完一共三萬五千字，我從上星期開始翻，熬了好幾個夜才翻完，因為我覺得這篇東西非常有價值。希望你們能夠耐心讀完，讀完後也許你的世界觀都會被改變。
======================
內容翻譯自http://waitbutwhy.com
原文地址：
The AI Revolution: Road to Superintelligence
The AI Revolution: Our Immortality or Extinction
自2015年2月24日起轉載請務必私信諮詢，否則視為未授權轉載 知乎 @謝熊貓君
=======================因為知乎的字數限制，這裡只能發截圖，字數太多錯別字難免，已經在知友幫助下修改了很多，截圖修改不方便，一切以文字版為準。
轉載請轉載文字版。
如果想要看文字版的可以移步我的知乎專欄：
為什麼最近有很多名人，比如比爾蓋茨，馬斯克、霍金等，讓人們警惕人工智慧？
======================
相關閱讀：
如何用通俗的語言來解釋「費米悖論」？
假如把一個人粉碎成原子再組合，這個人還是原來的人嗎？
相關來源：
The most rigorous and thorough look at the dangers of AI:
Nick Bostrom – Superintelligence: Paths, Dangers, Strategies
The best overall overview of the whole topic and fun to read:
James Barrat – Our Final Invention
Controversial and a lot of fun. Packed with facts and charts and mind-blowing future projections:
Ray Kurzweil – The Singularity is Near
Articles and Papers:
J. Nils Nilsson – The Quest for Artificial Intelligence: A History of Ideas and AchievementsSteven Pinker – How the Mind WorksVernor Vinge – The Coming Technological Singularity: How to Survive in the Post-Human Era
Nick Bostrom – Ethical Guidelines for A SuperintelligenceNick Bostrom – How Long Before Superintelligence?
Nick Bostrom – Future Progress in Artificial Intelligence: A Survey of Expert Opinion
Moshe Y. Vardi – Artificial Intelligence: Past and FutureRuss Roberts, EconTalk – Bostrom Interview and Bostrom Follow-UpStuart Armstrong and Kaj Sotala, MIRI – How We』re Predicting AI—or Failing ToSusan Schneider – Alien MindsStuart Russell and Peter Norvig – Artificial Intelligence: A Modern ApproachTheodore Modis – The Singularity Myth
Gary Marcus – Hyping Artificial Intelligene, Yet Again
Steven Pinker – Could a Computer Ever Be Conscious?
Carl Shulman – Omohundro』s 「Basic AI Drives」 and Catastrophic Risks
World Economic Forum – Global Risks 2015
John R. Searle – What Your Computer Can』t Know
Jaron Lanier – One Half a Manifesto
Bill Joy – Why the Future Doesn』t Need Us
Kevin Kelly – Thinkism
Paul Allen – The Singularity Isn』t Near (and Kurzweil』s response)
Stephen Hawking – Transcending Complacency on Superintelligent Machines
Kurt Andersen – Enthusiasts and Skeptics Debate Artificial Intelligence
Terms of Ray Kurzweil and Mitch Kapor』s bet about the AI timeline
Ben Goertzel – Ten Years To The Singularity If We Really Really Try
Arthur C. Clarke – Sir Arthur C. Clarke』s Predictions
Hubert L. Dreyfus – What Computers Still Can』t Do: A Critique of Artificial Reason
Stuart Armstrong – Smarter Than Us: The Rise of Machine Intelligence
Ted Greenwald – X Prize Founder Peter Diamandis Has His Eyes on the Future
Kaj Sotala and Roman V. Yampolskiy – Responses to Catastrophic AGI Risk: A Survey
Jeremy Howard TED Talk – The wonderful and terrifying implications of computers that can learn
擁有數以千億計美麗恆星的銀河系中，我們竟然是唯一、孤獨的存在，而這孤獨背後是有著恐怖的原因的。真理的路上，我們如同極夜的黑暗中痛苦摸索的孩子，而當我們打著火把迎接永恆的光明之際，便是我們如露珠般蒸發的無影無蹤之時。
——人類聖物計劃中某類地行星表面石刻銘文
一
1543年5月24日，《天體運行論》的作者哥白尼從昏迷中醒過來，他撫摸著書稿的初版，陷入了關於幾年前那場對話的回憶，他深知自己已病入膏肓，甚至懷疑那場對話是否只是他恍惚中的幻覺。
那天，羅馬教廷將與他就日心說展開一場內部辯論，他知道這是個千載難逢的機會，據說本屆主教是一個很開明、慈祥的老人，如果他能將無可辯駁的事實展現在那些頑固的宗教人士面前，或許有機會改變他們的看法，對《聖經》中天體運行的註解也得以修正。
然而當他走入弗龍堡大教堂時，他吃了一驚，手中的書稿散落一地——根本沒有什麼辯論，十二名披掛整齊的甲胄騎士向他圍來，主教緩緩走下教堂的階梯，陽光透過琉璃窗撒下彩虹般的光。
「主教閣下，您並不希望一場公開辯論，您想秘密處死我對嗎？我必須指出，真理是無可掩蓋的，總有一天人們會發現太陽並非繞著地球旋轉這一事實，那時教廷會有麻煩的。」哥白尼平靜的說。
主教對他露出笑容，說：「你認識這些騎士身上的紋章嗎？」
這些騎士的白色長袍上繪著紅色十字，哥白尼頓時吃了一驚：「聖殿騎士團？我聽說這個古老的組織早在二百年前就消失了。」
「沒錯，我們是聖殿騎士團的十三位傳人。確實，聖殿騎士們的榮耀早已不復存在，巨額財富、十字軍不過是過眼雲煙。你發現了上帝的秘密，哥白尼，或許上帝選中了你，他需要你的智慧。」
「上帝需要……我的智慧？」他懷疑自己是不是聽錯了，甚至懷疑主教是不是老眼昏花在胡言亂語。
「跟我來。從今天起，你的安全將在聖殿騎士們的嚴密保護之下，你盡可放心大膽的進行你的研究，不過你要先看一樣東西。這是所謂聖殿騎士的秘密寶藏中唯一真正有價值的物品。」老主教說完，大教堂聖壇下面的一扇秘密小門被拉開了，哥白尼看到了通往地下、擺滿蠟燭的甬道，遲疑了一下，走了過去。
教堂下的地下室很陰暗，燭光之下哥白尼看到了兩個奇怪的金屬橢球體，彷彿兩個巨大的雞蛋。「你相信上帝嗎，聰明的哥白尼？」主教突然對他微笑。
「當然，主教閣下，我的學說與上帝存在這一事實沒有任何衝突，我只是……」他毫不遲疑的說道，他知道這個任何對上帝的疑慮意味著什麼：他將被宗教審判所送上火刑柱。
「任何事情都不要輕易地下結論，這不是科學的精神嗎？」主教對哥白尼神秘一笑，哥白尼的心涼了半截：主教是在諷刺我，還是在套我的話？地下室里的陰冷令他聯想起宗教審判所的種種酷刑，不禁雙腿一軟，跪在了那奇異球體之前。
主教摘下了胸前的十字架，緩緩的說：「上帝是絕對存在的，然而耶穌不是被上帝選中的，他是被我們古老的神聖羅馬兄弟會選中的。真正對上帝的信仰，源於你面前的聖物。」
「每一屆神聖羅馬兄弟會的成員都是十三人，由十三個最古老家族中最有智慧的人擔任，他們是黑暗中的智者，藉助上帝的智慧如冥冥中的命運般使人類走向正途。當耶穌誕生之際，羅馬帝國皇帝奧古斯都征服了地中海，然而龐大的帝國內部卻矛盾重重，奴隸起義、民族戰爭迫使帝國人以龐大的開銷維持四通八達的道路與軍隊，兄弟會的智者們預測，隨著帝國的擴張，羅馬必將要分崩離析，而這是不符合上帝的旨意的，他們必須力挽狂瀾。於是，一個能團結一切羅馬人、猶太人、外邦人、奴隸等各人種、各階層的理念被製造了出來：基督教。」
「兄弟會十三智者深知一個道理，人性之中最有利可圖的弱點是虔誠，而謊言本身不可怕，謊言的動機才重要。沒錯，《聖經》的創作者正是分別精通哲學、政治、經濟、律法、自然、軍事、倫理、神學等知識的十三智者，他們同時吸收了猶太教以及各類本土宗教——沒有哪一個人類擁有寫就如此體系嚴密、文化普適的宗教典籍的能力，這不能不說是人類歷史上的一個奇蹟。」
「十三智者深知戲劇化表現手法的張力。在耶路撒冷地區，他們將一個名為耶穌的可憐猶太人推向聖壇，又在眾目睽睽之下用最古典悲劇的手法摧毀了他，從而將基督教推向榮耀的殿堂，而智者們化身為耶穌基督的門徒。這一切，都源於智者在此聖物中得出的預言，然而很明顯智者理解錯了上帝的本意，因為羅馬帝國衰落之後，上帝並沒有像預言中那樣降下大災難，那時我們才明白，上帝為人類安排的命運，是不會與任何一個世俗政權綁在一起的。從那時起，神聖羅馬帝國兄弟會更名為聖殿騎士團。」哥白尼呆若木雞，面前這位身披聖殿騎士長袍的主教的話令他目瞪口呆。
「知道聖物為什麼會有兩個嗎？」主教敲了敲那橢球的殼子，完全沒有對待宗教聖物的敬意。
「因為當我們發現《古蘭經》中大量與聖物有關的預言時，我們就懷疑那些阿拉伯人手中一定也存在著上帝的秘密，於是那一屆的聖殿騎士團以收復聖地的名義，成立了十字軍，之後便是一次又一次的東征，看，這就是公元1099年攻克耶路撒冷時發現的聖物。然而很遺憾，這個聖物與我們手中的聖物完全一致，我們並沒有獲得更多的信息。」
「哥白尼先生，我必須首先指出你日心說的一個錯誤，地球雖然不是宇宙的中心，太陽同樣並非宇宙的中心，而這個觀點是四十多年前義大利畫家萊奧納多·達芬奇先生提出的。這讓我們重新審視聖物的預言，因為一個重要的事實被我們歷代智者的過度解讀給搞錯了。」主教嘆了口氣，這時教堂的鐘聲響起，哥白尼抬起頭看到，正午的陽光從教堂上方穹頂的一個空隙照了進來，經過一面折射鏡照在了橢球體上，它發出蜜蜂蜂巢般嗡嗡的聲音，突然旋轉起來。「每年的夏至日，陽光會激活聖物。在陽光下聖物會一直保持運動，但是我們不能讓它總是運轉，第一個聖物在運轉一個世紀之後就壞掉了，你面前的這個聖物，就是伊斯蘭教創始人穆罕穆德當年在麥加城近郊的希拉山洞靜修領悟『真主』意思時面對的聖物。請從這個觀察孔看進去，告訴我你看到了什麼。」橢球體表面有一個奇特的管狀物，哥白尼把臉湊了上去。
精密的齒輪機構的動力不知道源於何處，一幅幅畫面在哥白尼面前快速閃過，他甚至懷疑畫裡面的東西是動的，那些奇特的圖景在他腦海中留下了深刻而強烈的印象，然而他並不能理解畫面的含義。
「上一個有幸參觀上帝的啟示的人就是達芬奇，他說他從未見過如此精美而廣闊的圖卷，他確信只有神才能擁有如此的眼界。慢慢欣賞，聰明的孩子。」
「我……我不確定我看到了什麼……但是我好像看到了太陽與行星。」
「那不是我們生活的地方，那是神的國度，我們必須解開他給我們留下的謎，才有可能前往天堂。對於聖物的解讀本身都快發展為一門宗教了，然而我們是智者，我們以最嚴謹的態度追尋真理。你所看到的星圖，就是我們最早關於羅馬帝國誤解的開始，我們相信應該遵照神的旨意統一整個世界，看，這些直線從一個點出發聯通所有的點，多像羅馬帝國四通八達的道路。現在我明白，這些運動著的點和線，應該指的是行星之間的某種聯繫，比如你的學說中提到的行星與恆星結構。達芬奇則指出，宇宙很可能沒有中心，你觀察那些點和線，我們的視角明顯在遠離——達芬奇關於透視的見解非常透徹。」
「我不知道您想表達什麼……」哥白尼的眼睛一刻也沒有離開聖物，他彷彿突然變成了最狂熱的教徒，主教的話他幾乎聽不進去。
「至少我們明白了一個道理，神之所以為神，就是因為他們毫無感情，他們對世界上發生的戰爭、貿易、宗教學說毫無興趣，他們只是單純的向我們發出了毀滅的警告，而我們需要像你和達芬奇這樣聰明的人，為我們嘗試解答這一千古謎題。」
「可是，你們聖殿騎士團家族千年的努力、無數人的犧牲都沒有解答這一謎題，為何會對我有信心呢？」哥白尼看著主教和聖殿騎士們的眼睛，他的眼中閃耀著喜悅，一個追尋真理的人最大的榮耀，莫過於對本源的探索。
「事實上，我們沒有信心，但是這個過程需要一代代人畢生的嘗試，否則末日審判之時我們必然被湮滅殆盡。達芬奇這個傢伙只對聖物的機械結構和飛行器感興趣，雖說不務正業，但也解釋了聖物運行的原理，他還提出要利用陽光裡面的能量，真是個十足的瘋子。聖殿騎士體制內的討論已經僵化，我們需要你這種有反叛精神的人，跳出世俗的思維，用想像力與智慧給我們帶來更多解答。」主教向他行了個禮。
「另外，歷史的進步總意味著犧牲，這恐怕不是我們能左右的了的，現行宗教龐大而腐朽，就像當年看似強大無比的羅馬帝國，我想你一定感觸頗深。」主教意味深長的說，「廢話不多說，告訴我你領悟到了什麼。」
一年後，哥白尼撫摸著天體運行論的初稿，長嘆一聲，闔然長逝。七年後，布魯諾在羅馬的鮮花廣場上被火刑公開處死，沒有人注意到，教皇身邊的主教微微皺了皺眉。十六世紀，文藝復興由發源地義大利擴及德意志、尼德蘭、英國、法國和西班牙等地，資本主義的萌芽產生於同一歷史時期，黑暗的中世紀草草謝幕。
《古蘭經》45章第13節：他（它）為你們制服萬物，對於能思維的民眾，此中確有許多跡象。
二
1713年，《自然哲學的數學原理》第二版問世，牛頓爵士於皇家學會的一個側室會見據稱來自義大利科學協會的貴族，作為皇家學會主席，他有責任去接待帶著「歐洲大陸上千奇百怪的科學儀器」來訪的學者。自從伽利略之後，義大利幾乎沒怎麼出過任何有名的自然科學學者，而當牛頓聽說那些來訪的學者宣稱「發現了牛頓力學理論的瑕疵」之後，更是氣不打一處來，他跟萊布尼茲關於微積分發明問題的爭論已經令他焦頭爛額了。
「牛頓爵士，毫無疑問，您是有史以來最為偉大的思想家，以及物理學者。」來自佛羅倫薩的不知名年輕貴族學者立在門前，向牛頓露出善意的笑。
「讓我看看你宣稱推翻了我學說的儀器……是這些大酒桶嗎？」牛頓對年輕學者的恭維很不耐煩，他沒有跟這一行人握手，徑直走入了房間，看到了一些怪異的橢球體，輕蔑的說道。
「請給我一些時間解釋，我們受到您的啟發在神留下迷團中發現了什麼……」
「對不起，皇家學院破例允許我兼任上帝的神職，但並不代表我們科學的觀點要受到羅馬教廷的干預，你可以到我老朋友萊布尼茲那裡碰碰運氣，他可能會感興趣。」牛頓徹底失去了耐心，他厭惡的掃了那些打扮浮誇的歐洲貴族一眼，轉身徑直朝門口走去。
「上帝創造這個世界的目的，是要使人認識他，尋求他，感謝他，若有人輕看這個世界奇妙的受造物，非要看到世界所沒有的才算神跡，那就是自大。」年輕人的話說出口，牛頓猛然停住了，他回過頭來，重新打量著這個年輕人，問：「你怎麼知道我在劍橋的數學老師摩爾對我說過的話？」
「您喜歡這個獨具慧眼的老師，對嗎？您可不是唯一受他厚愛的學生，我也聽過這句話，可惜我沒有您那過人的智慧，您站在巨人的肩上，而我們很好奇，如果您站在更高的巨人之上，會看到什麼。」
「我說的關於巨人什麼的……只是一句諷刺胡克的氣話……」牛頓看著面前的年輕校友，態度緩和了許多。
「歷史會按照人們的喜好來理解您說過的每一句話。不過今天我打擾您，是想指出您力學體系的一些漏洞。」
「你是說，這些儀器可以證明我的一切成果是錯誤的？」牛頓有些慍怒的說。
「不，這些『儀器』恐怕功能比您想像的要複雜的多，我們需要您對自然科學與哲學的深刻見解來幫助我們解讀它。首先我要告訴您，光恐怕並不是粒子，而物體在高速運動時質量會改變，神預言了這一切。」
「哼，一派胡言！」
「請看這些球體，它們收集於世界各地。當它們剛剛出土的時候，在陽光下可以自行運轉，不過大部分都壞掉了，還好二百年前的一個義大利人搞懂了它們的機械結構，給它們設計了手柄，而正是因為放慢了它的運轉速度，讓我們看到一個奇特的事實，那就是人類每一個科學上的巨大進步，在這裡面的畫片上都有預言，而預言總是出現在素數項的畫片上，您的萬有引力定律出現在第317幀上。」年輕人搖動手柄，牛頓透過觀察鏡看到一個有著鏡子和桿件的奇特裝置出現在視野中。
「這是什麼？」牛頓問道。
「我們把它命名為上帝扭秤，當我們知道了您的學說之後才明白它的作用，它能測定萬有引力常數G的較精確值。」
「什麼？」牛頓吃了一驚，他仔細觀察那裝置，越看那裝置越覺得不可思議，突然他大喊了一聲：「天啊，我怎麼沒有想到！」
「神通過這一系列的裝置，一定是要告訴我們這個世界最基本的規律，您看，第一張上面包含著進位思想，第二張上面的雙螺旋結構我們還沒搞明白含義，第十七張上的儀器可以測定光的速度，您的學說還分別出現在了其它素數幀畫片上。」牛頓睜大了眼睛，合不上嘴巴。
「那你們為什麼不率先發表這些研究？」牛頓說道。
「因為您看，第172個素數幀，也就是1021幀是一片空白，之後便是人類的毀滅，也就是所謂的末日審判。原本我們以為那空白是因為神的疏忽，後來我們收集了散落世界的聖物，發現每一個聖物都有著高度的一致性，這空白一定是故意留下的。我想，神明試圖告訴我們，科技的進步是一個毀滅人類的可怕陷阱，而我們聖殿騎士團就是陷阱邊緣的守望者，攔住每一個毫不知情的盡情奔跑在科學之路上、絲毫不知道陷阱存在的人。您知道嗎，穆罕穆德創造伊斯蘭文明，試圖讓人類在低科技的世俗中尋求幸福與滿足，他是一位真正的智者。我們繼續談談有關這個陷阱的事情，這關乎到人類的存在，您不可以推辭……」
這場對話持續了兩天三夜。之後牛頓大病一場，從此他逐漸將研究重點轉向神學，一生中百分之八十五的專著是關於神學的，這一科學巨匠不可理喻的行為被後世理解為「歷史局限性」。他致力於研究所謂的聖經密碼，推算出世界末日為2060年，晚年還自我否定了他全部的學說，在他彌留之際，曾說過一段著名的話：「……我只是一個在海邊拾取小石和貝殼的小孩子，真理浩瀚如海洋，遠非我們所能全部看到。」
同一時期，1757年羅伯特·克萊武爵士在普拉西戰役中的決定性勝利使東印度公司成為了一股有力的經濟和軍事力量。爵士在身邊的隨行傳教士特里克的建議下洗劫了叢林深處某地的一座著名佛塔，傳教士對佛塔地宮中發現的那些花花綠綠的舍利子真實性持鄙夷態度，後經法國化學家拉瓦錫鑒定，其成分並非人們臆斷的那樣，是長期食用素食而形成的草酸鈣膽結石，而是一種以二氧化硅為主的鋼化玻璃，其中添加的金屬氧化物是舍利子呈彩色的原因。他對舍利子成分的研究一直持續到1794年，直到法國大革命中被暴徒政治家送上了斷頭台，而由於這一研究潛在的政治風險，他沒有留下任何紙質資料。
佛教將宇宙分為三界，欲界、色界與無色界。所謂欲界，即有淫食之欲的眾生所住世界，色界為無淫食二欲但保有色身的眾生所住世界，無色界為即連色身亦無但住心於深妙禪定的眾生所住世界。
1888年，赫茲首次根據麥克斯韋的電磁場理論實驗證明了電磁波的存在，其對應的「聖杯」圖像「一圈圈散開的水波紋」為非常靠近神啟開頭的第3幀圖像。後來某位精通數學的青年發現每一個非素數幀的現象，都與之前的素數幀技術發現有著明顯的聯繫，他提出了「任意一個大於六的偶數都可以表示成兩個素數之和」這一猜想，而明顯有著世界末日含義的第1022幀，等於3加上1019，這位青年認為這種聯繫應該是神考慮到了技術發現在歷史時間線上具有很大的偶然性，但是在邏輯上卻是成體系的，他們似乎傳達著1019幀「同心圓」圖像中的技術對人類而言至關重要這一信息。他關於素數的猜想史稱哥德巴赫猜想，被譽為「數學王冠上的明珠」。但是由於3這個素數太過於基礎，眾多偶數都可以分解為3與另一個素數之和，所以當時他這一理論在內部被否定了。電磁場發現之後的許多年，愛因斯坦將場的概念進行了推廣，場作為一種物質存在的基本形式，彌散與整個空間，溫度場、引力場、電磁場等眾多矢量、標量物理場均包含在內，「3」的含義推翻了整個對於「聖杯」的理論研究。
《道德經》第四十二章：「道生一，一生二，二生三，三生萬物。」
《聖經-創世紀》第一章：上帝說，「要有光。」第一幀畫片中的光芒以時斷時續、波浪線的形式由恆星發出，由於神給出的提示過於模糊，關於光的波動、粒子本質曾經引起家族內部學派的分裂。愛因斯坦1905年提出了光電效應的光量子解釋，光這一違反人直覺的「波粒二象性」令思想界震撼。然而德布羅意於1924提出了更違反直覺的「物質波」的概念，一位羅斯柴爾德家族的老者在英國喝下午茶時，赫然發現報紙上關於「物質波「的驗證實驗中所得到的「電子衍射圖像」與1019幀「同心圓」圖像高度吻合。
佛說：色不異空，空不異色。色即是空，空即是色。
三
「我知道您不好受，您的學說超越了這個時代，而任何超越時代的人都會感受到您的孤獨，達爾文先生。」一位戴眼睛的老者身著華貴的服飾，他在達爾文的病榻前，握著達爾文枯瘦的手，平靜的說道。
「先生，如果你是專程來諷刺、攻擊我的進化論學說的，那麼我想告訴您我已經承認了自己的錯誤，死後我將被埋在古老的威斯特教堂，提醒人類我曾經年少輕狂，而現在已經悔改並相信耶穌，這一點你可以在我的自傳中讀到。」
「正相反，我今天來，只是代替上帝向您致以最崇高的敬意，雖然您的學說還缺乏一些科學證據的證明，但是我可以告訴您，您揭示了物種演進的本質，哪怕這是個殘酷的真相。我只想告訴您，在追尋真理的道路上，您不是孤獨的。」
達爾文驚訝的看著來者，努力掙扎著要坐起來，被老者制止了。「您需要休息，達爾文先生。我真的希望這場對話能早些進行，但是家族的規矩不允許，希望公正的歷史能慰藉你孤獨求索的一生。另外，我將以羅斯柴爾德家族的名義向您秘密捐贈一筆錢，以及一份禮物。」
「禮物？」達爾文看到幾個年輕人將一個橢圓球體和一塊石板費力的搬了進來。他們把那石板放在達爾文的床頭，達爾文顫抖的手指向了那石板。「這是在1833年德國巴伐利亞地區的侏羅紀後期石灰岩底層中發現的一種生物化石，這塊化石被我們家族斥巨資買下，我們將在合適的時機公布這一化石的存在，請您為它命名吧。」
達爾文老淚縱橫，他突然感覺到自己花費畢生心血、歷經千辛萬苦的研究是值得的，「始祖鳥，我打算叫它始祖鳥。這是進化論意義非凡的一天啊，我……」他劇烈的咳嗽起來，平靜下來之後接著說：「終於找到了進化論最確鑿的證據，終於可以證明過渡性生物的存在了！它是鳥類的始祖，爬行動物進化的開始……」他激動的上氣不接下氣。
「我們還帶給您一個關於神的真相。」
「真相？」
「真相就是，所謂的上帝，所謂的神，只是一個古老的種族。我們不確定這個種族是否在地球上，但是我們能確定的是，某種虛空中來的東西毀滅了他們的文明，這種東西在廣闊的空間中貌似以『看不見』的光的形式傳播，而他們送給我們這些聖物，給了我們一些警告。
「如果上帝是萬能的，那麼是否可以創在一塊自己搬不動的石頭呢？事實上，從邏輯、理性上講，任何我們可以理解的東西都不可能是全知全能的，如果給我們信息的是上帝，喔，那麼恐怕他創造了一塊自己搬不動的石頭，最終砸到了自己的腳。
「神給了我們一些關於末日預言的警告。您的進化論解開了我思考了一生的一個謎團，我一直以為是神創造了我們，現在我才將人類的命運與神的命運區分開來，雖然我們保留了神的稱謂以示最崇高的敬意，並不代表他們本身是萬能的，否則他們也不會在進化的路上被無情淘汰了。達爾文先生，您願意在死前明白世界的真相，還是寄希望於上帝拯救您並不存在的靈魂？」
達爾文的目光突然變得堅定甚至兇狠，他掙扎著坐了起來，彷彿一位垂死的斯巴達戰士，抬起手臂，面對著那個橢球體，說：「讓我看看！
羅斯柴爾德家族有一個傳統，每一個家族成員去世前會留給家族一句話，有一句年代不可考的箴言「最大的失敗莫過於成功」後來不知怎麼傳了出來，被拿來作為進化論的一句格言，指的是當一個物種完美的適應環境之時，就意味著當環境改變時該物種無力做出調整而被淘汰。
華羅庚的導師英國天才數學家戈弗雷·哈羅德·哈代是一個有著黑色幽默的無神論者，他宣稱「上帝是我的敵人！」，從來不踏進教堂，也不參與任何有宗教色彩的會議。他在一次乘船渡海回英國前給波爾寄出了一張明信片，上面寫著：「我證明了黎曼假設。」?其實他根本沒有證明什麼東西，他的想法是，如果船遇到季節性惡劣風暴而沉沒，那麼世人一定會為他那不存在的證明沉沒大海而扼腕惋惜，但是他跟上帝是死對頭，因而上帝肯定不會讓他無端享有這殊榮，所以船就不會沉沒。1913年的一天，哈代莫名其妙的收到了一封來自8000公里外南印度的蹊蹺信件，署名是斯里尼瓦瑟·拉馬努金，心中此人自稱是一位馬德拉斯港務信託處的小職員，沒有念過正規大學，但是「在開闢自己的道路。」一般來說這種「浪費真正數學家時間」的信件只會被扔進字紙簍，就像另兩封寄給劍橋學術界人士貝克（H.F.Baker）、霍布森（E.W.Hobson）的同樣的信件那樣。然而哈代卻感覺到一種特別的詭異，因為南印度在他印象中是一個貧窮落後、原始宗教色彩濃重的地方出一位數學家，簡直是天方夜譚，而他信中附上的120個令博學的哈代都眼花繚亂的公式，令哈代評價「有本事造出這類公式的騙子比起數學天才來更為罕見」。哈代懷著心事出去散了一天的步，晚上邀請李特爾伍德一起研究這封奇怪的信，在他們滿頭大汗的研究了三個小時之後，得到了一個確信無疑的結論：這封信絕對出自一位「極其頂尖」的數學家之手！「完全打敗了我」、「我從沒見過任何像這樣的東西。」哈代和李特爾伍德兩人無奈地說。
這位自學成才的拉馬努金生於一個落魄的婆羅門家族，他在貧困潦倒的數學之路上孤獨的堅持著，研究魔方陣、連環分數、超幾何級數、橢圓積分及一些數論問題，靠著給朋友補習而換一點吃的，甚至貧困到了買不起紙而在石板上演算、用手肘擦拭的地步，肘部的皮膚又黑又厚。哈代被了解到的情況震驚了，他近乎死乞白賴的邀請拉馬努金來劍橋，而拉馬努金來到劍橋之後，哈代又一次因拉馬努金在近代數學方面的無知而倍感困惑。眼前這位連柯西定理都不知道的堅持婆羅門信仰的傢伙，竟然憑著近乎直覺的天才，寫下了一些驚為天人的公式與猜想。哈代和拉馬努金這兩位世界級天才之間的合作，成就了近代數學的一段佳話。哈代曾將這段經歷描述為「我一生中最浪漫的事件」。
然而極為令人惋惜的是，僅僅幾年之後，這位印度最偉大的數學家因為戰爭與信仰原因，沒有得到良好的醫治而去世，年僅33歲。
拉馬努金的才華如耀眼的彗星現於長空，令人眩目，而他那極其精準敏銳的數學直覺，卻成了永恆的迷，他被後世稱為數學的預言家，至今他的許多重要猜想仍困擾著世界。關於他近乎鬼才的直覺，哈代說，有一次他乘計程車去看望拉馬努金，漫不經心的告訴他自己乘坐的車的牌號是1729，拉馬努金隨口說道「這是最小的整數能用二種方法來表示二個整數的立方的和。」這類數字在數學上被特稱為「的士整數」。
「……他的直覺的跳躍甚至令今天的數學家感到迷惑，在他死後70多年。他的論文中埋藏的秘密依然在被挖掘出來……」（羅伯特·卡尼蓋爾所著傳記《知無涯者：拉馬努金傳》）
拉馬努金在臨死前寫下某一來源於他的夢境的神秘函數，並稱對此函數的特性存在強烈的直覺，這一函數被稱為模仿?函數。?函數「超級對稱」，這意味著倘若將一個名為莫比烏斯變換的特殊數學函數應用到這個函數里，它們將不斷自我重複。因為它們是如此對稱以至於這些?函數在很多數學和物理類型中，諸如弦理論，都非常有用。2012年，拉馬努金誕辰125周年紀念會議上，美國艾莫利大學的數學家Ken Ono和他的小組宣布證明了這些函數的確模擬了模形式，但並不具有模形式的典型特徵，例如超級對稱。模擬模形式的闡述能夠幫助物理學家計算出黑洞的熵或者混沌程度。
「一個方程對我沒有意義，除非它代表了神的一個想法。」——斯里尼瓦瑟·拉馬努金，不可知論者。
四
「你以為這是一個玩笑嗎？這關乎到帝國的命運！」希特勒暴跳如雷的對負責尋找聖杯的希姆萊吼道，他狠狠踢了一腳九個橢球狀物體中的一個，只發出一聲銅鐘般的聲音。
希姆萊戰戰兢兢的答道：「這些是在巴塞羅那附近的蒙瑟萊特修道院找到的，加上從猶太人手中收繳到的四個……」
「聖杯！我要的是聖杯，不是聖蛋！難道上帝給他的每一個門徒都發了一個聖杯留作紀念嗎？我要的是乘過耶穌的血的聖杯！」希特勒吼道，他激動揮舞著的手勢幾乎打到了希姆萊的鼻子。
「元首同志，我們相信您的黨衛軍尋找到的的確是聖杯，只不過數量上與《聖經》記載有些出入。不過聖杯的確包含著一些神奇的預言，請允許我向您解讀……」
「有關於偉大的雅利安人帝國的預言嗎？」希特勒瞪大了雙眼。
「恐怕沒有，不過我們會做出有利於我們的解釋……」
「讓你手下這些蠢貨把這堆破銅爛鐵徹底砸成渣滓！你們被吉普賽人給騙了，白痴！」元首憤怒的說，「快去！我一分鐘都不想看到你們這些白痴和這些吉普賽人的什麼預言球！如果我要你們找的聖矛也是這樣的垃圾，就別回來見我！」
「是，元首！」
黨衛軍忠實的執行了元首的命令，他們將這些從猶太人手中收繳來的橢球體拆解、融化，而橢球體內部的奇特「玻璃畫片」堅硬耐熱，後來被人敲成粉碎。後來，一位收藏了其中一塊空白「玻璃畫片」的青年學生黨衛軍發現，世上還沒有製造這種玻璃片的工藝，他死於柏林之圍。歐洲地區所有「聖物」至此蕩然無存。
德國著名銀行世家奧本海默家族與羅斯柴爾德家族，在歐洲反猶太狂潮之前銷聲匿跡。1945年7月16日凌晨5時30分，羅伯特·奧本海默帶著護目鏡，站在美國在本土新墨西哥州阿拉莫果爾多試驗場邊緣，看著世界上第一顆原子彈爆炸升起的蘑菇雲。這位生於紐約一個富有的德裔猶太人家庭的物理學家，曼哈頓計劃的領導者，掏出一塊彩色琉璃片，他說：「……只有一千個太陽，才能與之爭輝。現在我成為了死神，世界的毀滅者。」這句話出自古印度《摩訶婆羅多經》中的《福者之歌》，人們只記住了他複雜的表情和留給歷史的背影，沒有聽到他嘴裡反覆低聲重複的一句話：「只有最後三個素數了，只有最後三個素數了……」
1945年8月6日上午8時15分17秒，第一顆原子彈在日本法西斯的領土爆炸。奧本海默多次公開表示自己的內疚之情，杜魯門在聯合國會議上氣憤的罵道：「以後不要再帶這傢伙來見我了。無論怎麼說，他不過只製造了原子彈，下令投彈的是我。」之後他以延誤美國氫彈這一更高級原子武器發展為罪名被艾森豪威爾起訴，其本人多次受到麥卡錫主義者的攻擊。
「這是你的選擇，就像當年耶穌的選擇，你為人類承受了痛苦，而他們不會懂得真正的感激。」他最後一次參加羅斯柴爾德家族一處秘密莊園里舉行的會議時，羅斯柴爾德家族的長者曾對他說了這樣一句話。奧本海默看著地下會議室里那一排鋥亮的盔甲，坦言道：「無論是指責、諷刺或讚揚，都不能使物理學家擺脫本能的內疚，因為他們知道，他們的這種知識本來不應當拿出來使用。」後來他對記者也是如是說的。
約翰遜總統在奧本海默被平反後看望年老體弱的奧本海默時，奧本海默掙扎著站了起來，他推開了總統攙扶的手，目光依舊堅定而炯炯有神：「總統先生，當一個人行將衰老時，你去扶他是沒有用處的，只有那些年輕人才需要你去扶持。」死前他燒掉了自從被普林斯頓大學辭退以來寫就的所有手稿，而這些手稿中其中幾頁失落之後，被他的學生撿到，「他受了打擊，晚年老糊塗了，居然說牛頓的2060年世界末日這一預言，是牛頓參考技術大爆炸模型曲線採用牛頓迭代法求出的。」後來那個學生被傳記記者問起時，曾輕描淡寫的提到。
六
「總統先生？」副總統兼參議長沃克的提醒讓面對著衛星圖難掩震驚的總統回過神來，然而他並不知道總統博斯特如此震驚的原因。
「沃克，我必須離開一下，在我缺席期間，你將肩負起地震救援工作的布置。抱歉了，諸位。傑米，幫我對付媒體。」這一關鍵時刻的離開令緊急作戰指揮室里的成員面面相覷，他們甚至懷疑總統有沒有認識到這場發生在舊金山的八級地震的嚴重性，博斯特總統的這一行為必然會受到國會的彈劾。
「這裡是空軍一號！請求降落。重複，這裡是空軍一號……」
「降落得到批准，請降落於09跑道！」航站樓無線電回復。總統專機在降落前一小時才打開通訊設備，臨時的降落請求令地勤人員忙成了一團。
總統走下飛機後沒有跟任何人交流，直接鑽進了一輛毫不起眼的防彈汽車，向賓夕法尼亞州西部一座名為「鐵山」的山脈駛去，那裡存放著眾多美國最絕密的文件和資料，它受著國家安全局最高級別的保護，秘密海底隧道只有在七百名員工上下班時打開十分鐘時間，極少數人昔日這個歷史上經過幾百年採掘、猶如巨大迷宮的採石場里究竟藏了多少秘密。
「今天是舊金山8.1級地震的第二天，也是我們總統發現這個地震的第一天。」車載電視里著名脫口秀主持人在電視上調侃著，地震的救援工作按程序展開，而總統「正狼狽的從他度假的夏威夷島往回趕」，博斯特面色凝重的關上電視，通過後視鏡他看到駕車的特工眼神里的惴惴不安。隧道里迴響著刺耳的警報聲。
「怎麼了，亨得利？」
「我知道自己不該多問，總統先生。我只想問一個問題，我在德州的親人現在身處險境嗎？」沉默了許久的特工說道。
「我知道你在想什麼，你覺得你的總統在災難面前首先自己開溜，我想現在每一個美國人都是那麼想的。」博斯特總統平靜的說。
「不，我知道總統先生一定有比處理大地震更要緊的事情……」
「我說的災難不是指舊金山的地震，而是……該死，我也不知道。」總統變得異常煩躁，他試圖點起一根煙，卻發現自己的手在顫抖。當隧道駛向盡頭時，他在一片身著灰綠色迷彩的軍人中間看到了一點醒目的紅色，一位穿著紅色連衣裙的亞裔女孩向他微笑，總統看著她天真無邪的臉龐，努力控制著自己內心的恐懼帶來的表情的抽搐。
「總統先生，我們對您的到來深感意外。」一位上尉軍銜的軍官向總統敬禮。
「稍息。這裡發生了什麼？為何會有那麼多陸戰隊員？」
「報告總統，早些時候發生了些誤會，我們在鐵山的鋼製安全門前發現了這個小女孩，有人拉響了安全警報。不知怎麼回事，她一定是鑽進了一輛秘密停車場的車輛而混入了這裡。我們搜過她的身，沒有任何武器與竊聽器，她的身份我們還沒有確定，應該是某位員工的家屬，我們正在排查……」
「你們這裡有亞裔員工嗎？」國家安全局局長弗雷曼下車時吼道，這個身材高大、FBI出身的局長有著超乎常人的記憶力，他能記住鐵山機構里每一個人的名字，因為這位勤懇謹慎的情報專家親自審核過鐵山每一位秘密員工的背景。那位上尉一時答不上來，他支支吾吾的說：「我們還不清楚，先生……那個女孩一直不肯開口……」
「你好，總統先生，你很準時。」那個紅衣女孩突然用標準的英語開口說道，她微笑著向總統走來，伸出了手，隨行特工下意識的擋在了總統前面。女孩略顯瘦小，皮膚白的有些不健康，而她的笑容卻有著孩童本不該有的成熟，與她目光交匯的一瞬間，則讓人有種莫名的凝視深淵的恐懼，她身邊那些久經沙場的軍人彷彿回想起了伊拉克那些視死如歸、身綁炸彈的孩童，不自覺抬高了槍口。
「打開安全門。」總統對上尉命令道。
「對不起，總統先生，除非事先經過國會批准，您沒有開啟安全門的許可權，即使國家安全局局長在場，也需要提前的預約。」上尉一臉嚴肅的說道。
「沒有時間向你解釋了，作為美國總統，我不得不在某些緊急時刻做出有悖常理的選擇，上尉先生，請打開安全門放行。」
「抱歉，總統先生，我認為……」
「你認為什麼一點也不重要，」小女孩露出詭異的一笑，「開啟安全門。」幾十噸重、足足五十厘米厚的防核爆級別的安全門在氣液傳動發出的機械響動聲中開啟了，連國家安全局局長弗雷曼都愣在那裡，所有人都以一種看著上帝或者魔鬼的表情看著這個女孩，因為這扇門背後是國家最高級別的機密，要打開這扇需要使用多層加密動態口令、五個以上經過授權的國安局人員陪同並通過虹膜識別，而這扇門，就這樣打開了。
「我要跟她私下談談。」總統用凝重的聲音說道，他緩緩走到了小女孩身邊，牽住了她的手，走向防空掩體一般的鐵山。
弗雷曼揮了揮手，茫然無措的外勤特工放低了槍口，一種從未有過的恐懼在這些經歷過死亡紛飛的戰場的軍人們之間無聲蔓延，有人在胸口划了十字。「願上帝保佑美國。」弗雷曼局長低聲說道，看著總統牽著小女孩走向隧道深處的背影。
「你是誰？」博斯特總統在隧道盡頭的又一扇門前停下腳步，問道。
「這可是個終極哲學問題，我們現在沒有那麼多時間討論，」女孩笑了笑，「不過你可以叫我高雪寒。」面前的鋼門又一次打開了。
「你是怎麼做到的，這可是最核心的國家機密部門。」總統豈止沒有面子，這意味著機密的全面泄露，細思起來不免恐怖至極。
「採用紙質文件避免資料庫受到黑客攻擊的做法很明智，不過物聯網時代里，這扇依賴智能識別的大門呢，可就沒那麼可靠了。」
「思諾……小姐，你也許擁有超凡的智力，但是我仍然不相信你關於世界末日的預言。」總統說道。
「我沒有超凡的智力，也不會預言，但是我會讓你看清現實。」這位看上去只有十歲左右的女孩，笑容卻不再那麼天真無邪，在總統後來的描述中，那是一種「詭異的意味深長」。
「打開『C級』機密區域。」女孩對一位隨行的工作人員說道，鐵山內部的門需要五位相關員工的指紋認證。總統微微皺了下眉，向這裡的工作人員點了點頭。
「總統先生您好，我是美國布法羅紐約州立大學教授伊戈爾斯，請問有什麼可以為您服務的嗎？」一位風度翩翩的老學者走了過來，他總統握過手之後才看到總統身邊的小女孩，「嘿，這可是全世界最頂級的歷史博物館，你可真幸運。」
「這裡全都是國家機密，不是博物館。」總統很不悅的說道，「C級區域只是保存著一些比較有『爭議』的文物，A級才是最高機密文件的所在地。」
「有句流傳甚廣的話說，歷史是一個任人打扮的小姑娘。」高雪寒輕輕的笑了笑，「但是這裡面一個文物關乎到人類的命運，歷史上一次次錯誤的解讀延誤了寶貴的時間。」
伊戈爾斯教授進入這個堡壘般的機構里足足有兩年沒有出去了，飽受孤獨的他話特別的多。「這就是瑪雅文明的水晶頭骨，我在兩個月前……不，是一個月前，該死，這地下根本對時間沒有什麼概念，不過我可以翻看我的日記，對，我想說，我大概搞明白這種硬度極高的水晶材料在古代是如何加工的了……」老教授在每一個陳列品之前都要喋喋不休一陣，而高雪寒只是微微一笑，耐心的聽著這個老者講述這些遠古的神秘物品的故事。
「聽著，我現在很憤怒，」總統博斯特突然粗暴的拉住了高雪寒的胳膊，他瞪著女孩，「三十六小時前的地震恐怕造成了數十萬的傷亡，而你……你本來可以阻止這可怕的傷亡的。」
「我理解，作為總統你很內疚，不過阻止一場地震？這不是人力可為的事情。」高雪寒依舊平靜看著那鹵素燈下閃爍著奇異光芒的水晶頭骨，說：「我們不可能改變自然規律，我能做的，只是事先給了你警告，而你也不可能根據某人的『預言』而散播地震這種消息，你做了你能做的事情，沒關係的，你不用自責。」
「我怎麼能平靜？這是幾十萬的生命！」總統對小女孩的怒火把老教授下了一跳，「我的首席科學顧問告訴我，地震的預測不可能精確到具體的某一天……」
「他一定告訴你，這只是個概率問題。」高雪寒伸手拿起「瑪雅文明」展櫃中一枚圖案繁複的硬幣，朝總統再次露出那詭異的微笑，「你只需要明白，對擁有高效信息處理能力的人，即使擲硬幣，也是一個確定性的問題。」說著她附身敲了敲大理石地面，然而將硬幣拋向了空中，硬幣在空中旋轉了幾圈，即將落地之際，她輕輕的說，「金字塔。」硬幣叮的一聲落在地上，翻了幾下，旋轉幾圈，停下來時，總統和教授看到印有金字塔圖案的一面朝著上。
「怎麼……」總統用顫抖的手撿起了那枚硬幣。
他想那幾天前的一次公共工程項目剪綵儀式，在眾人熱烈的掌聲中，鮮花的孩子走上前來，總統笑盈盈的俯下身來，一個女孩在他耳邊低語了一句話：「舊金山地震之後，在鐵山的大門前見我。」他吃了一驚，當他抬起頭來之時，只見鮮花與閃光燈，還有一個身著紅裙子的小女孩輕盈的背影。
「總統先生，恐怕她是對的，」老教授平靜的說，「如果擁有一個精確的物理模型，對硬幣的質量與拋出速度、角速度以及地面的情況有著精確的測量與計算，那麼硬幣的朝向的確是一個確定的事件——當然是在擲出之後。你擁有某些超自然的力量，對吧？否則總統也不會大費周章的帶你進入最高密級的單位來了。」
「沒有什麼是超自然的，當一件事發生了，就是自然而然的事件，不過是超出目前的認知而已。」女孩輕輕的撫摸著水晶頭骨，說：「或許你在這個地方呆久了，開始相信一些天馬行空的東西了，伊戈爾斯教授。事實上，我是沖著這裡一件展品來的，或許你見過，一個橢球體，表面是金色的。」
「啊，你說的是『復活節彩蛋』？哎呀，我不該說的，抱歉。那應該是一種天文儀器，就像中國的渾天儀。」
「它跟天文沒有一點關係。請幫我們找到它吧。」總統向教授點了點頭，事實上總統心裡清楚自己沒有許可權去接觸這些政治、社會角度看來都很敏感的文物。
「我不太明白……我是說，C級區域保存的大部分文物都包含著奇特的技術——雖然現代科學證明了它們其實沒有什麼特別的——而『復活節彩蛋』這件文物其實算不得什麼技術奇蹟，只不過是因為它出現在太平洋中央的小島上，那裡擁有過一段時期的土著文明，後來神秘消失了而已。但是這個渾天儀卻明顯帶有歐洲工匠風格，它出現在復活節島，應該與那一時期活躍的海盜有關。」在一個不起眼的角落，一個渾圓的橢球體立在那裡，金色表面已經鏽蝕不堪。
「你相信上帝嗎？」小女孩突然問總統。
總統愣了一下，說：「我向上帝宣誓過會盡總統之職。」
「這可不算一個正面回答。」
「我相信上帝。」
「你面前的這個東西，就是傳說中的聖杯。」女孩伸手觸到了金屬球的表面，閉上了雙眼。
「這可不是一個杯子啊，而且……而且它確實是曾經安放在復活節島巨石陣中央的儀器，雖然我是無神論者，但是它也與傳說中的聖杯毫無關聯……」
「當然，不是同一個聖杯，只不過是與耶穌見過的聖杯同樣為原廠正品而已。你能想像嗎，它已經有著六億年歷史了。」
「什麼？怎麼可能，那時候地球上連三葉蟲都不存在，而這個毫無技術含量可言的球體……」
「你確定它沒有任何技術含量嗎？」高雪寒突然將照著展品的鹵素燈扯了下來，將電線纏在了竹簡狀的文物上。「你在做什麼？住手！你會毀壞最珍貴的文物的！」
「比起這個『聖杯』來，所有文物都不值一提。」高雪寒伸過胳膊，導線觸碰金屬橢球的一瞬間，球體震顫了一下，內層緩緩旋轉了起來，外層打開了一個小缺口。「耶穌發現的那個聖杯是最完整的，上面的太陽能塗料還沒有壞掉，而這玩意兒則只能用直流電驅動了。」總統與伊戈爾斯教授震驚的看著這個未知的機械，本能的後退了半步。
「它一點也不危險，技術上也並不比我們這個時代高明，它是來自一個已經滅亡的世界的警告，可惜如果我們真的理解了這個警告，今天就不會站在這裡進行這場對話了。」高雪寒從橢球體的小孔里觀察著，片刻之後，她的臉龐留下兩行淚水。
「耶穌曾經站在同樣的一個『聖杯』前思考了整整三個月，穆罕穆德在一個有天井的山洞裡隱居潛修時面對著同樣的神物，而佛陀開悟的那棵菩提樹，其實也是這個儀器。另一個文明將這些東西送至了地球，歷史上不只有一個被發掘出來，世人從未真正參透它的含義。」
「你是說，它來自外星文明，與宗教的起源有關？」教授扶了扶老式眼鏡。
「當這個遠超當時技術水平的物件擺在每一位宗教領袖的面前時，他們都理解錯了兩件事情，第一個事情，就是曾經有遠超人類的文明存在，他們錯誤的把這種文明理解為神。第二個事情，是將人類可能毀滅的前景，錯誤的理解為大審判。當然，我們不應該用後人的觀點去批評古人歷史的局限性。但是他們理解對了一件事情，那就是技術導致文明的毀滅，這種毀滅來源於外部。耶穌創立基督教的目的，便是試圖建立一種自洽的理論阻止人類朝著更高級的技術發展，可惜他只是一個凡人，把握不了複雜的歷史。有些別有用心的人把持了教會，有些人曲解了他的本意，後來的事情我們都知道，文藝復興、工業革命、信息時代，簡直像爆炸一般。耶穌只是推遲了這種技術上的爆炸，智慧作為人類的原罪，則將要把人類推向毀滅的邊緣。」
「我不確定我能聽懂你在說什麼……」
「請看一眼。」高雪寒指著那個類似顯微鏡目鏡的小孔。
總統小心翼翼的湊上前去。「這些……這些是什麼？」他看到內部有許多透明的琉璃片，太暗看不清楚，上面隱約有些奇異的圖案。
「如果在陽光下，你現在就會像在看一場老式膠片電影，雖然只有短短的幾十秒鐘。外星文明很聰明，他們用這種方式，跨越億萬年的歷史，與一種未知的有機文明溝通——也就是人類。可惜它們沒有預料到人類的貪婪本性，當這一神器落到耶穌手中之後，他試圖通過領悟這些圖像的含義來宣揚神的意志，而他的繼承者們更是將這一器物藏了起來，試圖壟斷對神權的解釋。當然，絕大多數這樣的裝置，在漫長的歲月中毀於地質運動等原因，完整存世的，恐怕只有這一個了。」
「這些圖像包含哪些信息？」教授湊了上來，這個無神論學者彷彿看到上帝顯聖般小心翼翼的觀看了圖像。
「這個復活節島出土的裝置信息保存的最為完整，以前我曾經看過一個據稱是真正『聖杯』的裝置，圖像里給出的信息在每一個現代人看來都再清晰不過：首先是數字進位，之後是原子結構與生命起源，以勾股定理為基準的數學公式，象形文字格式的力學定律，甚至還包含了相對論與量子物理學的內容。如果愛因斯坦看到過這個裝置，一定會大吃一驚的，可惜這些裝置不是被一些神棍崇拜或者毀滅，就是被你們這類人扔在這種暗無天日的角落。」
伊戈爾斯看著那些由齒輪帶動著的一幅幅畫片經過放大目鏡，如同十六幀的電影動畫演繹著某種生物的文明，眼睛瞪得原來越大，禿頂的腦門上汗水直冒。
「我似乎看到法西斯的標誌了！」循環播放了十幾次，教授的眼睛絲毫沒有眨過一下。
「這符號傳遞的是外星文明DNA的左旋特性，後來卻成了極端政權與恐怖的旗幟。希特勒還真的派人尋找過聖杯的下落，真是莫大的諷刺啊。你還會看到伊斯蘭建築里洋蔥頭狀的屋頂，那是末世警告的一部分，那是一種外星的大功率相控陣雷達，卻被穆罕穆德這個文盲當做了神聖的標誌。」
「這東西本該落在古代自然科學工作者的手裡，歷史或許就不會走那麼多彎路了。」伊戈爾斯痛心疾首的說道，他研究了一輩子歷史，到老才發現，原來人類文明有史以來最大的考古發現，居然與自己朝夕相處了幾十年，此刻的心情可謂又恨又喜，想到這個超乎尋常的發現可能調和所有宗教史觀，他不禁老淚縱橫，他甚至懷疑那個小女孩便是外星文明的化身，她是被派來來啟發如同他一樣眼界狹窄的人類的。
「如果一個像你一樣對技術極度崇拜的科學家得到了它，那麼世界早就毀滅了。你應該感謝上帝，感謝真主，感謝佛祖以及一切帶給人類愚昧專制以及混亂的人，是他們讓我們的文明活到了今天。」
「等一下，你說有一個技術超越我們的外星文明給了我們關於世界末日的警告，是什麼帶來了末日？」
「有機文明的終結者，燈塔文明。也許根據我們目前的理解，它更接近於一種可怕的病毒，以光速傳播，感染每一個具有接收能力、擁有信息技術與網路的文明並摧毀宿主並繼續傳播其數字生命。我相信外面傳聞的鐵山裡藏著的外星人屍體不存在，對吧？因為就人類可接收到的信息範圍來看，根本不存在任何文明——懂嗎？偌大的銀河系裡出現過無數的文明，但是它們從來都像人類這樣，孤零零的出現，孤零零的滅亡，而這絕非巧合！」
「你是說，人工智慧試圖統治我們？」總統有些不敢相信的說。
「它們要做的，就是利用人類自己手中的武器毀滅人類的文明，建立新的『燈塔』。早在人類存在之前幾十億年的時候，燈塔已經開始它的廣播了。想像我們是一群自古以來便住在與世隔絕的信息孤島上的人，其中的一位聰明人埋頭造出了遙控炸彈，而他所不知道的是，地球另一端的某個人始終把手按在起爆鍵上，起爆信號無時無刻都在通過可靠的衛星信號傳輸。我們目前已經擁有了接受信息的能力，而這些信息會徹底毀掉我們。」
「我不太明白，目前我們似乎並沒有任何可以毀滅我們自身的技術啊？」
「我說的是量子計算機，以及星系級別的量子通訊設備。而毀滅我們的燈塔文明，本質上大概類似一種計算機病毒。」
「聽起來……就好像有人感染了計算機病毒一樣可笑。」總統不自信的乾笑了兩聲。
「這些信息將催生強人工智慧，而這一人工智慧將為我們量身定做一套毀滅人類的方案。想像一下，現在流行的自動駕駛汽車，人工智慧如果想殺死駕駛員，並不需要從車載計算機里伸出一隻手來，它要做的只不過是等待，等待這輛車高速行駛之時將車開向懸崖。也許毀滅整個人類聽起來很複雜，但對於可以下棋勝過世界棋王的超級計算機——地球上有多少人，它就能給我們量身定做多少種精緻的死法。」
「你……你想讓我做什麼？」總統心中極其混亂，他難掩聲音中的慌亂。
「很簡單的要求，總統先生。聽說過『斷箭』嗎？一枚1958年意外事故丟失在華沙灣的核彈被秘密打撈並運往了中東地區，而我們猜測美國很有可能受到攻擊。我們的要求是，無論受到怎樣的核打擊，絕對不可激活戰略核反擊網路，燈塔文明很可能將在瞬間控制美國所有的核導彈，那時候世界可徹底陷入火海了。」
「如果美國遭受了核打擊，而我不按下那個該死的橄欖球裡面的按鈕，那就是徹底的叛國。」博斯特總統揮舞著雙臂激動的說道，他面部的肌肉抽搐著，表情猙獰可怖。
「如果你按下了那個按鈕，世界很可能毀滅，那倒是沒有背叛可言了。總統先生，我知道美國人民的安危在你肩頭的感覺很沉重，但是我要求更多，我要求你承擔整個人類文明存亡的重任，不擇手段的做應該做的事。別讓人類失望，總統先生。」高雪寒輕輕拉了一下總統的手，他卻只是僵在那裡，彷彿一尊石像。
「我們應該戰鬥，應該對抗！」老教授激動的說，「我們可以公開這一歷史性發現，提取足以與要毀滅我們的外星文明抗衡的技術……」
「怎麼戰鬥？如何與一個根本不存在的敵人戰鬥？你還不明白嗎，這種文明的可怕之處就在於，利用有機文明手中的技術毀滅有機文明，然後將它們的數字信息傳向宇宙更深的空間。」
「它們……它們為何要這樣做，我是說，你所說的人工智慧，這樣傳播自己的意義是什麼？」
高雪寒凝視著總統的眼睛，總統也凝視著她猶如深淵的黑色眼睛。「人類存在的意義是什麼？告訴你，討論意義本身就是一件毫無意義的事情，它們擁有的，只有計算機病毒一般複製自身的本能。任何生命體都擁有類似的本能，只不過它們的『食物』就是我們智慧生物。它們沒有感情，沒有物質形式的存在，只有以光速傳播的信息，這種信息可以影響我們複雜到如同神經網路的信息網路，並賦予了信息時代使命：毀滅人類，建造燈塔。」
「你到底是誰，你為何會知道那麼多？」總統盯著橢球形的所謂聖杯，想起這一個重要的問題。
「我不可以告訴你，如果你們知道真相的話，首先覆滅的必然會是我們。你需要知道的就是我們在幫助你們。」
「幸好你們站在我們這一邊……我不知道該怎麼形容你們，超級天才？」
「我們的立場恐怕還很難說。不過我很清楚，雖然人類有著種種的缺點，但是我離不開你們，我會用生命捍衛你們生存的權利。」
「你……你來自外星嗎？」伊戈爾斯盯著高雪寒的大眼睛，問。
「銀河系內任何有機智慧生命早就不存在了，人類是孤獨的，而我們這些在你們眼中的怪胎，則是目前擋在燈塔文明與人類之間最尷尬的存在。博斯特總統，我們會用隱秘的方式給你燈塔文明存在的證據，我們會幫你挺過國會，會提供足夠的資金與智囊資源，確保你坐上下一屆總統的位子，你想做什麼都可以，但是記住一點：保持克制與理性，不要輕言戰爭。我們達成共識了嗎，總統先生？」高雪寒向他伸出了小手。
「過去的政治獻金大都源於石油巨頭與軍火商，但這一次有人居然要我放棄核武器。也許我不得不為了政治做出了種種妥協，但是關係到國家的存亡……該死！」他焦急的踱著步子。
「我知道你不可能完全信任我，但是我希望你能保持克制，我們也同樣秘密接觸了其它有核國家的領導人。總統先生，我想你一定明白，關乎宗教與人類未來的這次對話決不可有除你之外的另一個人知道，你不僅僅要保持緘默，甚至連表情都不可以透露出絲毫破綻，從現在起你要明白，你生活在一個處處被可怕的燈塔文明監控著的時代。美國政府在稜鏡門計劃中監控了大量公民，而你們只不過被燈塔文明當槍使了。」
「它們……已經來了？」總統脊骨一陣發涼。
「它們永恆的存在著，等待我們的將是末日審判，可惜沒有什麼好審判的：人類會被毫無保留的清除。總統先生，即使全世界的核武器爆炸，也不足以殺死全部人類，但是活下來的人……他們會寧願希望自己死在核爆中。我該走了，你也該前往救災現場發表演講了，總統先生。」高雪寒扯下了電線，「聖杯」停止了旋轉。
鐵山儲存了整個國家的秘密，陰暗的地下掩體空曠無比，空氣中瀰漫著書卷的味道，在射燈慘白光芒的照耀下，美國國旗無力的聳拉著，總統聽著自己沉重的腳步聲帶來的迴音，他從未向今日這樣感到疲憊。他曾經面對海嘯般的掌聲，發出美國最強的聲音，曾經做出過艱難的決斷，曾經在深夜獨自抽著雪茄權衡謀劃，然而他從來沒有感受過這種可怕的孤獨，從那一刻起，他明白自己被命運選中了——雖然他根本不相信命運。
「大門將在十分鐘後開啟，總統先生。」一位員工向總統彙報說。
「可以讓我看一眼中國展廳嗎？」高雪寒饒有興趣的指著C級機密的一個隔間，工作人員吃了一驚，因為只有極少數人會知道機密的具體存儲位置，正是因為手續的繁瑣與高度保密，間諜才從未竊取過這裡的資料，然而今天總統不尋常的拜訪……他不敢想下去了。
總統點了一下頭，負責人剛想爭辯什麼，伊戈爾斯在他耳邊低語了幾句，他猶豫了片刻，命令工作人員打開了那扇隔間的門。
「哈，看這些甲骨，誰能想到它們在這裡呢！」高雪寒興奮的喊著，蹦蹦跳跳的跑了過去，那一瞬間總統有一種錯覺，好像她是一個魔鬼附身的普通女孩。
「總統先生，這些機密一旦泄露，絕對會引起巨大的爭議的。」負責人幾近哀求的低聲對總統說。
「我知道我在做什麼。」總統面無表情的說了一句，片刻之後，他堅定的向前走去。
「不明白為什麼美國機密機構里會存有關於絲綢之路的文物，不過無所謂，見到它們感覺可真驚喜。」高雪寒說著，伸手去摸一件瓷器，這裡的物品並沒有密封玻璃展櫃，這個隔間兩分鐘之前還處於真空狀態，負責人心疼的看著這個女孩拿起那價值連城的文物。
「文化的交流孕育偉大的文明。文明的含義不就是交流與融合嗎？」高雪寒看著一些古卷與字畫，異常平靜的說道。
「為什麼你所說的燈塔文明不能與我們共存？美國的土地上生活著各種各樣的民族，矛盾與分歧或許不可避免，但是還不至於你死我活吧？我不知道有沒有理解錯，你所描述的那種文明，是一種數字形式的文明，或許我們可以找到一種滿足他們傳播需要而不需要以毀滅我們為代價的方案，或許它們會感謝我們……」
「那當然會感謝你們，或許燈塔文明會為紀念人類專門設立一個感恩節呢，就像當年白人來到美洲那樣，與熱情善良的原住民共同慶祝豐收，然後將印第安人屠殺殆盡，真是個黑色幽默的節日啊，可惜燈塔文明很可能不會懂這種幽默的。它沒有感情，生存邏輯體系冷酷而高效，而擁有感情的有機生命體，比如人類，對它而言是一個巨大的隱患與威脅。」高雪寒平靜的說道，她似乎對眼前的一隻毛筆很感興趣。
「那麼，如果燈塔文明真的像你說的那樣無所不能，那麼它為何不向人類下手呢？」總統細思起來仍覺得疑點重重，他任期內並沒有發生任何怪異到無法理解的事件。
「因為燈塔文明毀滅文明有著嚴格的時機，它們有一個關乎宇宙文明傳播的計算公式，如果它過快的毀滅文明建立燈塔，那麼所有有機文明耗盡之後便失去了傳播的載體，如果燈塔建立的速度過慢或者在空間中過於稀疏，那麼燈塔文明會趨於滅亡。它必須保證整個宇宙間燈塔的數量是一個常數，而不是一個隨時間發散或者收斂的數列。隨著宇宙光速的膨脹，它們必須不斷接受其它燈塔的信息動態調整燈塔建立的時機，在一個合適的時機毀滅擁有智慧生命的文明，它在進行一個毀滅倒計時，而世界末日的大概時間在2060年。因著某種原因，它放棄了2012年的文明毀滅窗口期，它給了我們額外的48年時間。」
「印象里那時你們說的量子計算機才剛剛起步……等等，你說2012年？」總統猛然想起來什麼。
「不是技術的問題，而是燈塔文明感染地球之後，發現人類有著其他有機文明沒有的複雜情況——它之前至少毀滅了1984個有機文明，在宇宙間如同宿命的時鐘，不斷的在宇宙間震蕩——而兩個獨特的現象讓它決定重新的評估。」
「什麼情況？」
「第一個現象就是聖杯，就是人類居然得到了其它被毀滅的有機文明的警告，這讓它很困惑，因為絕對的信息管制下居然有一個文明可以逃脫它的監控給後世的其它星球的文明以警告，它必須彌補這一漏洞，並且保證適合新的有機文明誕生的地方不存在聖杯這類東西。第二個現象，則是我們的存在，令它的立場變得尷尬，不過抱歉我不能告訴你更多。」
「我猜想，《聖經》裡面包含了許多重要的信息。」總統說。
「曾經有一位偉大的科學家抱著這一想法解讀，浪費了他的下半生。耶穌只是凡人，他有幸瞥見來自外星的文明的信息卻給出了晦澀的解讀，原因只有一個：他自己也不明白。不過至少穆罕穆德和釋迦牟尼搞明白了些重要的事情，那就是技術發展導致了文明的滅亡，雖然他們也不可能弄明白滅亡的原因，但是一個人試圖以政教合一限制人的認知，一個試圖以禁慾無我來限制人好奇的天性，可惜他們都低估了人性的力量。倒是《聖經》里關於伊甸園的故事很接近『聖杯』的意思，智慧之果是人類的原罪之果，當我們擁有智慧與理性之後，便離毀滅不遠了。有意思的是，六祖慧能在一個佛偈中曾說：『世間本無物，何處惹塵埃』，便是他悟到了一種虛空中的東西會毀滅文明，這是他苦口婆心的勸說，而勸說的對象並不是人類，而是他所理解的『虛空』。人類唯一的原罪，是智慧，記得伊甸園裡亞當夏娃與智慧之果的故事嗎？」
「幾千年的文明，居然沒有人理解聖杯的真正含義。」總統嘆息道，他本不那麼相信上帝，卻在剛才的一瞬間相信了一種叫「宿命」的隱晦信仰。
「我說過，不要責備古人，他們自有他們生存的時代。如果你乘時光機回到了兩千年前，向他們描述半導體收音機或者電磁場是怎樣的一個東西，一半的人會把你當做神，而另一半的人會把你釘到十字架或者什麼東西上。那個試圖拯救我們的外星文明並不比我們高明多少，那些外星人也無法預測遠在幾十光年、六億年後才出現的智慧生命會是什麼樣子，能給出這樣的提示已經是非常令人感動了。」總統突然明白了高雪寒為何剛才會哭泣，雖然為著一個遠古神話般的文明而哭泣很怪異，但是他的鼻子還是莫名的酸了片刻。
他們沉默的看著最古老的中國文字，璀璨的中國文明在近代有多少珍貴文物流落他鄉。「最有意思的事情，就是中國的老子曾有過一種『小國寡民，老死不相往來』的明顯反智、逆時代潮流的思想，那麼多先賢，只有他預言了信息時代的危險性，並提出了一種不那麼「黑暗中世紀」的人文解決方案，不過至於那是不是一個歷史巧合，他是否也見過這樣一個『聖杯』，那就不得而知了。」高雪寒突然將面前的一塊玻璃板掀開，玻璃碎裂在地面上，所有人吃了一驚。
「住手！不要破壞文物！」負責人驚呼著沖了進來，看到高雪寒正在用毛筆蘸著那曾經經過絲綢之路販運到歐洲的礦物顏料，一邊在那極其珍貴的漢代宣紙上飛快的落筆，而總統卻在幫助她調著顏料，完全驚呆了楞在那裡。伊戈爾斯教授連呼吸都忘卻了，這位與文物打了一輩子交道的老人看著女孩看著中國古老的筆如行雲流水般畫下西方古典名畫時，竟獃獃立在那裡一句話說不出口。
達芬奇如果在世的話，一定會驚掉下巴，這幅畫便是畫在最古老、最完整的三尺宣紙上的《蒙娜麗莎》。「畫完了，與達芬奇當年的筆觸方式基本完全一致，只不過他畫了十三年，我卻只花了十分鐘。如果不是顏料與工具的差異，這幅畫會與原作完全一致。」高雪寒露出了同樣神秘的微笑說道，在場的工作人員無比在胸口畫著十字，不只少數人認為基督顯聖了。
「你……是神，對嗎？」總統看著蒙娜麗莎嘴角的微笑，緩緩的對高雪寒說。
「不是。但是我也不能告訴你我這些能力的來源，這關係到我們的生存。這幅畫是送你的禮物，抱歉我毀壞了文物，伊戈爾斯先生，你必須認識到，比起歷史，對我們而言更重要的是未來。」
「什麼未來？」
「我們創造的未來，就像佛陀說的那樣，一念天堂，一念地獄。」
「我們該做什麼？」
「看這幅畫。」
「什麼？」
高雪寒將沉甸甸的油畫小心翼翼的揭了下來，她對總統微笑著說：「當你領悟到蒙娜麗莎的美，你便有了為文明而戰的動力；當你明白了蒙娜麗莎微笑的含義，你便擁有了戰鬥的武器。我們要想盡辦法，不擇手段的生存！」
【創世紀2:16】 耶和華神吩咐他說，園中各樣樹上的果子，你可以隨意吃。
【創世紀2:17】 只是分別善惡樹上的果子，你不可吃，因為你吃的日子必定死。
「上帝拋棄了我們，讓我在這兒孤獨的出生，孤獨的死去。如果上帝知道人類註定會吃那該死的蘋果，那麼最初這混賬為何會把那該死的蘋果樹栽在這鬼地方呢？」——梵蒂岡某教皇絕筆。
————————文來自本人未出版科幻作品《極夜燈塔》序章—————————————
承蒙大家厚愛，可惜我的小說真的真的沒寫完，所以想先睹為快的讀者可能要失望了。這個故事的複雜程度一言難盡，由於我發現自己寫出了一部作為作者都無法理解的科幻作品，所以我一定要把我的業餘時間貢獻在我熱愛的事情上。自詡這作品可以超越《三體》，有一下幾點理論自信制度自信：
1、人物間衝突也不僅僅是《三體》式的生存權利爭奪，而是更深的三觀衝突以及人性在科技下的沉淪及詮釋，立志打造科幻版《冰與火之歌》。沒有主角光環，凡人皆有一死。
2、沒有《三體》中高端大氣上檔次（BUG）的類似「二向鉑」科技設定，技術全面由現在研究方向延伸實現，甚至已經出現端倪，代入感由現實擔憂引發，如同圍棋，規則極簡而變數極多。
3、顛覆性的類似序章中的『有機文明』歷史新詮釋，歷史懸疑與科幻的交織
4、烏托邦與反烏托邦、虛擬與現實、『神性』與人性的交織與激烈碰撞
5、加入作者個人奇幻經歷，如荒野求生、軍事、叛逆的校園生活等方面的奇趣片段，人物鮮活可考。
6、意識、存在、思維以及時空的哲學討論，由淺由平中入深入奇
7、文筆不行（反正大劉那文筆都有人看），全憑邏輯和想像，滿滿乾貨，平均一天碼字僅幾百，希望口味獨特的人（比如我自己）喜歡。
8、最主要的原因，是作者比劉大叔帥！不管你信不信，反正科幻就需要我這把自己都說服了的想像力
有人建議我保護版權別亂髮，我說我想寫的書，是一部看過之後買一本收藏，留給下一代，引領其朝著科學殿堂的方向行走的一本書。我會給我自己將來的孩子看，告訴他他的父親曾經被數學、被科學迷了心竅，希望他（她）可以追求智慧並獲得其他方式無法獲得的隱秘快樂。
謝謝支持！極夜燈塔-波斯王子 目前已經在豆瓣上開始連載
我不說智械戰爭這種虛無縹緲的東西。
強人工智慧目前還是人類的幻想。
你們別想多了。
我來說點實際的。
人工智慧會引發社會不穩定，甚至戰爭，這個命題始終存在。
這裡面的內在邏輯是這樣的：
人工智慧大量量產以後，
不知疲倦，
頂替了絕大部分低端的重複性勞動崗位以及少數高端勞動崗位。
而這個時候，所有理想主義者告訴你的都是：
人類社會會找到新的就業機會。
這個是大概率事件。尤其是高端人才一般來講是大概率有新的社會分工需求在等著他們的。
但是，你們想過沒有，萬一，我是說萬一，人類短時間內沒有找到新的就業機會呢？
是的，社會將面臨有史以來最恐怖，規模最龐大，比例最驚人的失業潮。
請問，你拿什麼去餵飽這些人？
讓資本家割肉嗎？
九十年代下崗潮，資本家割肉了嗎？
資本家情願拿這個錢去造飛機大炮。
然後，愛因斯坦說過的話你們還記得嗎？
人類的第四次世界大戰，用的一定是棍棒和石頭。
是的，我說的是，人工智慧想要毀滅這個世界，
根本不需要變成強人工智慧。
只需要有足夠廉價，還能專註完成某些工作的弱人工智慧，
這個世界弄不好就會自己崩潰了。
=========
不過各位也不要驚慌。
如果有那麼一天到來了，在人類給自己的弱智同胞找到可以發揮他們生產力的崗位之前，
政府會幫你們守住最後的底線，
強行給機器人使用者橫徵暴斂的待遇，
來禁止廉價勞動力的出現的……
請你們這個時候還是要相信黨國一記。
中國這不是至今沒有普及大規模機械化養殖么……
警惕人工智主要是局限在兩個理由：
1，人工智慧會對於經濟分工體系中某些中層職位造成破壞。（這個是弱人工智慧的範疇，即某些基於機器學習的智能系統，來替代某些人類的工作，包括調配，計算分析，甚至於特定情景的交流）
2，人工智慧如果不能被長期掌控，則有可能來反向統治人類。（這個是強人工智慧，實質上已經是人工生命了）
這兩個擔憂邏輯上並沒有問題，但是目前而言，這兩種擔憂過於超前，甚至過於科幻了。
在並行計算、數字化神經網路、雲技術、大數據以及深度學習演算法等技術的推動下，人工智慧的形態正逐漸顯現：它既不是擁有與人類相似意識的機器人，也不是奇點論（人工智慧與人腦智慧兼容的時刻）者宣稱的超智能，而是應用在狹窄的專業領域，如醫學、教育、法律、太空等高度專一的「行家」。隨著人工智慧的發展，人類終有一天將被其取代的恐慌感也應運而生。（「奇點論」來自於Ray Kurzweil曾經提出了一個驚世駭俗的理論：「在『奇點』來臨之時，機器將可通過人工智慧進行自我完善，超過人類本身）
但是，事實上，從60年代到現在，我們都在模擬人類的一種思維過程，而不是人工智慧本身在創造新的觀念，所以我們事實上是在談論機器學習。比如說
1） 首先將聽到的語言，根據上下文的內容在腦海成轉換成一句文字。
2） 進行分詞處理，將可能存在的不熟悉的詞，利用自己的知識體系進行分析，得到確定的答案
3） 根據理解的問句含義，進行作答。
但是以上最容易導致的一個思想實驗悖論，就是中文屋悖論。
John Searle提出了這樣一類思想實驗。
一位不會說中文的人身處一個封閉房間，只有一個遞出紙條的窗口，他隨身帶著一本寫有中文翻譯程序的書和足夠的紙張，寫著中文的紙片通過小窗口被送入房間中。那麼他可以用書來翻譯這些文字並用中文回復。但是封閉房間外的人會認為他是能夠說中文的。
故而強機能主義（強人工智慧）並不能在模擬環境下實現，即使能夠通過圖靈測試。（補充定義：
人工智慧又可以分為強人工智慧和弱人工智慧，前者持有實在論的態度，認為程序本身就是解釋對象——心靈，而後者則持工具主義的態度，認為程序是用來解釋理論的工具）
而事實上，我們現在的階段更為原始，微軟，谷歌，蘋果三巨頭，包括其他研究所的能夠直接應用於小平台的人工智慧，本質上依然是資料庫搜索器，無論cortana還是siri，或者比如Darktrace 的公司正在使用貝葉斯理論來開發出一套安全系統，試圖學習什麼是「正常」的情況和「不正常」的情況，從而為部署該系統的 IT 架構提供事故發生時，甚至是發生前的報警服務；另一家名為 Celaton 的公司已經可以為用戶提供虛擬客服軟體，通過不斷地學習，幫助用戶在客服工作這一勞動密集型工作上，降低勞動力成本，提高客服溝通成效。
，或者還在開發中的東西。從60年代開始，我們只是將人工智慧的應用越來越簡化，並且提供了強大互動式設計，運行優化，以及承載其的硬體平台越來越小型並且數據能力越高，但是，現在的應用產品上德本質並沒有任何變化（理論上有一些變化），
其次，我們如何通過一個數據標準去定義「智能「也是一個目前沒有什麼進展的話題。強機能主義本質上是傾向於認知科學中的物理還原主義的。但是這能夠定義」智能「嗎？單純的圖靈測試肯定做不到，一個毫無語言能力的動物它未必是不存在智能的，相反他可以實現自主的意向性，無論這個意向性多麼簡陋。
故而，這就會出現另一個好玩的事情。
」我試圖理解你。你的思維還原成神經元間的電信號傳遞與排列，情感還原成體內激素的生化反應鏈和比率變化，用皮膚電位和人體熱分析來重構你的感受，但是我最終依然無法了解你」。
既然，我們連「智能」的量化定義都做不到，更做不到去重構一套符合「智能」定義的工作模式，我們只是讓機器模擬某些行為，依靠計算能力來獲得主動解，那麼在經典馮諾依曼結構下，將多維自然語言還原成機器語言，並通過邏輯結構來完成編譯的方式（你無法通過邏輯窮舉所有變數來還原「智力」，窮舉的邏輯前提是既定的，智力是主動性的意向），因為高強度的非數值運算或許已經超出了馮諾依曼結構針對數值計算的初衷了，除非我們能證明所有大腦的活動本身是可還原，並且可以計算的（比如元胞自動機，以及衍生的模擬神經元來組成網路，從傳播機制和信號生成來模擬大腦。）但是在現在，我們並沒有一個共識。
故而，以上兩個擔憂中，第二個目前屬於在杞人憂天而已。而第一個擔憂不是沒有道理，弱人工智慧的發展，確實可以減掉不少分工體系中的中層職位，但是現在依然達不到大規模應用的程度。而且從經濟規律來說，技術進步本身就是經濟分工體系變革的一個重要因素，當我們達到大規模應用的時候，經濟模式的分工會出現適配，還是由於變革過快，發生脫節，造成相當部分人類被排除到分工體系外，現在並不好預測。
elon musk，比爾蓋茨分別是在CNBC和reddit上探討這個話題的，這個話題性被別人引出，而進行一系列面對公眾，尤其是面對公眾對人工智慧的想像所表的態。而霍金那篇按照媒體索引是在《獨立報》上發表的一篇文章中，約翰尼·德普(Jonny Depp)的最新電影《超驗駭客》的評論（中文網站上有，我沒找到原文），還有一說是生命未來研究所(Future of Life Institute，簡稱「FLI」)的一封公開信，而這個研究所並不是什麼人工智慧研究機構，更多的是一個做技術觀察的公益組織，其專業性還不如羅馬俱樂部（好歹人家是正兒八百的社科學者）。
所以，貌似有很多人出來擔憂人工智慧，完全是一個「媒體效應」而已，不同次的名人採訪，在忽視話題語境的情況下，被扯到了同一個話題下，然後形成連鎖效應。。
2017.08.30 更新：
偶然看到一個評論，就更新一下。其實18 年前我已經在用 IBM ViaVoice 語音輸入中文寫文章，那時 IBM 的語音識別準確率、速度比現在科大訊飛差不了很多。很多技術應用都是一陣熱潮，潮漲潮跌，花開花落，而技術本身並沒有新的大的突破。人工智慧誕生第一階段差不多是 1943 年到 1956 年這段時間，那時開始是 Grey Walter Turtles 和 Johns Hopkins Beast，控制它們的模擬電路。隨後，閔斯基與 Dean Edmonds 建造了第一台神經網路機 SNARC。之後，Newell 和 Simon 開發的 Logic Theorist 證明了《數學原理》中前 52 個定理中的 38 個。而這些已經是上個世紀中葉的事情，就像我父親說的，孩子，你們現在還在做貝葉斯費歇爾聚類分析嗎？我是一個世紀前的人了，你們居然還在做我以前做的那些。當然，他說的你們不是指我們，是指整個行業，我們和行業主流還是有很大不同。
原答案：
經驗有限，不保證所寫正確，僅供參考，轉載請事先徵得同意。謝熊貓君的長文翻譯自人工智慧愛好者 Tim Urban 的《人工智慧革命》，這篇文章有有趣，也有啟發性，遺憾的是有過多事實性錯誤，當然這不是譯者謝熊貓君的問題。文章內容大致可以分成三部分：接近真實的事實、虛構的事實、基於接近真實的事實和虛構的事實進行的推論。特別是一些事實性錯誤，誤導性太強。
一、《人工智慧革命》一文的事實性錯誤
先不評價博文的觀點是否合乎邏輯，先簡單說幾個事實性錯誤：
1.
金融市場對於電腦來說太簡單了 —— Wrong
就我之前在投行對沖做量化交易了解的情況，還沒有哪家機構開發出長期、穩定、可自我調節的賺錢演算法或策略。目前所有的演算法或策略都要靠人監測和調整。背景知識可參考 在量化交易方面，美國究竟比中國領先多久？ - Leon 的回答
2.
翻譯對於電腦來說太簡單了 —— Wrong
可以參考
Google Translate 和那幾家專門做機器翻譯的效果，離信達雅還有很遠距離。
3.
人工智慧已經在幾乎所有需要思考的領域超過了人類 —— Totally wrong
這個提法嚇尿單位只有一秒。大部分需要複雜思考的領域，人工智慧都遠遠趕不上人類，有的甚至都還沒有入門。
4.
視覺、動態、移動對電腦來說太TM難了 —— Wrong
電腦這些「部分領域」相對已經做的非常好，超過了人。
Update：關鍵詞是「部分領域」和「相對」，在不少方面 computer vision 要達到人的水平還比較難非常難，或者從本質來說還沒有做到。但如果只看解決實際問題的效果，在部分應用領域確實強過人類，我參與過一些安保項目，有些是實在能用的技術，而不是刷爆朋友圈的 PR 稿或學術造星運動。相對人工智慧其它領域，computer vision 是目前發展路徑比較成熟，前景比較明朗的領域。
二、為什麼很多名人讓人們警惕人工智慧
1.
人工智慧的風險
人工智慧使用越來越廣泛，即使沒達到強人工智慧程度，也已帶來潛在問題和風險，畢竟工業機器人出現事故造成傷亡也不是新聞了。
2.
影響力
為推動他們期望的立法和或行業規則鋪墊，也是為了獲得這個領域更廣泛的影響力。
三、題外話
作者 Tim 花了三個星期研究人工智慧，主要信息來源是非技術類的文章和書籍。在現在大部分學術論文都沒法看的情況下，用非技術類文作為支撐寫科普類文，不太可取。富有情緒張力、腦洞大開的文字很有感染力也極易流傳，這篇是很好的例子。想要獲得更接真相的知識，我的體會是少看觀點結論，主要看事實，根據事實自己思考形成觀點。
NSA說IBM提交的RSA加密演算法有漏洞。
文科生科技記者：RSA加密可被破解
小雲說MD5可以通過一些手段在較短時間內得到衝撞
文科生科技記者：MD5可以被解密（我了個去MD5什麼時候變成加密演算法了？）
Intel說CPU性能將按指數級每兩年翻一番
文科生科技記者：計算機科學按指數級發展
文科生科技記者最擅長的就是用半桶水的統計學再加一些加工過的數據來炮製個大新聞。
指數級發展？就連Intel的CPU頻率現在都達到瓶頸了。你們知道嗎？一個沒有BUG的二分查找法經過了幾年才OK？最短路徑演算法的改進經過了幾年？你們除了知道CPU頻率指數級上升還知道哪些？
反對前面說有生之年就能實現強人工智慧的那些說法，透明計算還更吊炸天呢，你們想像力這麼豐富，應該跟著堯學歐巴搞TC拿個一等獎打破馮氏架構創造新時代。
————————
還有，講下什麼叫指數級、複雜度。打個比方，這世界上的信息全部輸入到一個屌炸天的人工智慧機器中，假設它的存儲設備速度為1GB每秒。（你先心算下告訴我存儲設備寫入速度達到1G/s需要多少年？即使按吊炸天的2指數級算，現在普通硬碟100M/s經過4年達到1.6G/s，今年是2015年， @謝熊貓君 說2025能有和人腦一樣計算/存儲能力的計算機，假使按吊炸天的2指數級算，100M/s經過10年後是100G/s的寫入速度。）圖書館的數據中心也是PB級別的，1G/s它需要讀幾個星期，100G/s需要幾個小時，僅！僅！是！讀！入！除非物理存儲技術有突破性發展，不然你人工智慧再牛B也要受限於物理定律。空想沒用的，先看看自己家的網速什麼時候能升級一下）。
讀入之後要建立索引吧，不然怎麼搜索？
Google能利用MapReduce用幾千台機器組成的計算集群只需幾個小時就能排序1PB數據（排序是為了更快的檢索信息，不然檢索信息複雜度O(n)，檢索M條信息所需要的時間那就變成指數級的慢了）。你不要指望有什麼神奇的程序可以提高這個排序速度，對不起，通用排序演算法已被證明最快不可能超過O(n log n)。假設，假設啊，CPU速度仍然能每年指數級發展，10年之後，排序1PB數據大約需要半分鐘，但是注意，還是需要幾千台機器，換成一台的話，那還是幾個小時。而且，這僅僅還只是個死的資料庫。我不是不相信人工智慧繼續發展會比人腦更厲害。我只是不相信CPU頻率、存儲空間及讀寫速度能這樣指數級發展下去，因為這個不屬於吊炸天的人工智慧能解決的，它受限於物理。更不相信2025年就有跟天河一樣快的廉價個人電腦，你自己算一算就明白，即使CPU速度按指數級增長也不可能。2025年之後你可以來打臉。而且，你計算速度指數級發展，耗電量能不跟著指數級發展？多做做簡單的運算，不要整天只知道科學幻想。
每次解放了勞動力都會有一大堆勞動人民失業，緊接著就是資源病態再分配，以及隨之而來的動亂和戰爭。這才是最值得警惕的。
因為人工智慧是人發明的！
因為人工智慧是人發明的！！
因為人工智慧是人發明的！！！
重要的事必須重複三遍，而且必須誠心手打！！！
對於這個問題，和這個問題下的各種洗地腦殘粉的回答，我真心覺得無力吐槽。
從互聯網興盛開始，信息安全領域的各種黑幕就接連不斷。
僅僅就列舉知名度較高的，從上個世紀的「3721」、「瘟酒吧加奔三」、「俄羅斯黑走瘟叉批」，到本世紀的「3Q大戰」，某郵箱「明文記錄用戶名和密碼」，層出不窮的「個人信息打包販賣」，以及巔峰級別的米帝「稜鏡門」。
請注意，以上事件的主要特點，就是「主動」。是某些人或某些組織，甚至是政府，為了某個目的，主動實施的，而並非不自覺的產生的「漏洞」。
在沒有人工智慧的時代，尚且能「主動」搞出如此之多的事，而在人工智慧的時代，技術壁壘更加森嚴，高等級AI對低等級AI更具碾壓性，試問，這種情形下，某些人、某些組織、甚至某些政府，真的可以做到嚴格遵循安全標準，不開發危險的AI嗎？
歷史，已經以無數殘忍冷酷血腥的事實告訴我們，這個世界上，最危險的就是——人類。
任何東西， 只要掌握在人類手裡，就不可能是安全的。
然而，某些居然還沉浸在理想的幻想鄉之中，用田園牧歌的標準去看待世界。
因為人工智慧值得人類警惕。
阿法狗在圍棋戰勝了人類是個標誌性事件，人工智慧進入了公眾的視野。很多人覺得人工智慧好像馬上就能像終結者一樣威脅人類的生存。名人們的言行也開始被大家不假思索的曲解，彷彿人工智慧威脅人類的未來就要來臨。
那麼事實是什麼樣呢？
一方面隨著技術的成熟，人工智慧在接下來的十年內將極大地改變人類的生活和生產方式，越來越多地複雜場景機器效率將高於人類，一些常規化的腦力工作者將被人工智慧取代。比如自動駕駛取代司機，醫療AI取代一些初級的醫療工作者，比如投資行業的調查類工作的都會被取代。這個過程就像流水線取代手工作坊一樣自然。
但是另一方面，目前的人工智慧並不具備真正的智能，而且可預見的為未來，人工智慧不會具備真正的智能。人工智慧無法對話，人工智慧無法像人類一樣從複雜的現實世界中學習，而只能在一些特定場景下學習和進步。
就目前的情況來看，人工智慧會取代一部分人的工作，但是不會威脅全人類。然而即使這樣，人工智慧還是值得警惕，因為未來不可預測。雖然我們現在不能看到人工智慧發展處真正的智能，但是一旦人工智慧可以像人一樣從各種複雜環境和數據中學習，那麼這個未來絕對值得警惕。
如果人工智慧發展出了真正的智能，能夠像人一樣從各種複雜情況下學習，能夠用已有的知識通過聯想類比來創造出新的知識，適應新的環境。那麼這是一個怎樣的未來？
人工智慧將迅速吸納人類的全部知識，並且通過大量的計算快速進化。這個進化的時間將以秒為單位，而人類身體的進化則是以萬年為單位，人類的文化演變則是以十年為單位。無論是身體還是文化，人類都不能與之競爭。
更可怕的是，人工智慧是永生且可以被複制的。人類通過生老病死來完成信息的傳遞，所以人類文明的擴展是緩慢且有限制的。星際旅行、星際移民等將受到人類身體的限制，人類不得不建立大型的飛船，複雜的系統來保持人的機體，但人工智慧卻沒有這些麻煩。還有一個case：如果一個人我們在北京殺死他，然後把他的信息傳遞到紐約，在紐約重新創造他。我相信沒人能接受這樣的旅行方式，但是人工智慧可以。一個機器人完全把自己的信息光速從北京傳遞到紐約然後放到一個相同型號的機體中來完成旅行。這只是一個簡單的case，人工智慧不依賴特定的物質實體只依賴信息的特性，作用是巨大的。
簡而言之，雖然現在的人工智慧在可預見的將來都沒有可能獲得真正智能，但是如果一旦人工智慧有了真正的智能，人類作為一個物種，將被全面超越。一個沒有必要存在的物種，對於那個時候的人工智慧而言，抹殺掉人類也許是個明智的選擇。而他們將接管我們的文明，開始人工智慧的新文明。如果用文明的角度去看待這個問題，這樣的超級人工智慧文明相比於人類文明可能更加偉大。
人工智慧取代人類雖然是個概率極小的事件，但是仍然值得我們警惕。我們警惕人工智慧，就像我們警惕外星人入侵、小行星撞擊地球、核武器戰爭、全球變暖、能源枯竭一樣。地球46億年的歷史告訴我們，物種都是很脆弱的存在，而人類未必會倖免。
對未知的事物保持敬畏和警惕，無論是對人類個體還是人類文明，絕對都是必要的。
為什麼要警惕，首先是因為未來是不確定的！
20年前誰會想到互聯網 大數據 物聯網 雲計算 機器學習 深度學習等技術的發展成果，以及目前的弱···人工智慧的存在？
就如同今天，誰能預料20年後人工智慧更強，甚至出現某種理論不可描述的事情。霍金在葡萄牙里斯本舉行的Web峰會技術會議上，他說：
「理論上，計算機可以模擬人類的智慧，並超越它。」
特斯拉和SpaceX首席執行官馬斯克最近表示：
「人工智慧可能會引發第三次世界大戰，甚至提議人類必須與機器人合併以便在未來保持相關性。」
還有一些大佬提出了對付人工智慧的，比如微軟創始人比爾-蓋茨表示，機器人應該繳納所得稅。
交稅···good idea！
這麼多大佬（非人工智慧大佬）讓人們去警惕人工智慧，其實最主要的原因就是未來是不確定的！警惕並不代表不去發展，比如霍金是迫切的要讓人類知道這種潛在的風險，人工智慧的創造者需要「採用最佳實踐和有效管理」。
上圖是阿里巴巴雅虎盛大網易等公司的投資人孫正義和pepper人形機器人。孫正義近期表示：
「超級人工智慧即將來臨，早於大多數人的預期。」
人工智慧領域有一個「奇點」的概念，就是指人腦終將被超越。對於奇點究竟何時會發生，在科技界一直存有爭議。奇點是人工智慧超越人類大腦的突破點、過渡點。
孫正義認為未來30年內，人工智慧的智商將達到10000（人類的平均智商只有100，天才也只有200），奇點在本世紀肯定會到達。
這是讓人們警惕的第二個原因 —— 奇點。因為若奇點發生了，繼而會將人類社會帶入一場無法想像的變革當中。
人們甚至開始懷疑，人工智慧是否最終會控制人類，使人類淪為所謂的「機械人」。因此很多名人才讓人們去警惕，意識到這個問題並做好準備。
別看現在人工智慧成果很少，還處在弱人工智慧階段。但並不代表就可以高枕無憂，事實恰恰相反。
現有人工智慧技術和產品的發展速度之快大大超出我們的認識和預期，這是警惕的第三個原因。
人工智慧技術註定會改變我們的世界，並不完全以我們的意願為轉移。它註定會重新定義工作的意義以及財富的創造方式。值得注意的是，它將給各行各業帶來改變，並且帶來前所未有的經濟失衡現象，甚至改變全球的權力格局。
說到這，想到了李開復老師，現在已經成為了人工智慧的代言人，不管出席何種場合，言必談人工智慧。幸虧沒和馬雲一起談過，不然馬雲先生又開始說：
「別給我談人工智慧，聽見這幾個字就生氣！」
感謝閱讀！我是程序員客棧的翠花，創業者/優質開發者/產品經理/項目經理快來撩我吧?(? ? ??)
歡迎閱讀翠花其他相關回答：
程序員客棧翠花：互聯網的下一波紅利在哪裡？
程序員客棧翠花：如何理解馬雲所說的月入兩三萬，三四萬的人最幸福？
程序員客棧翠花：你的創業項目，如果騰訊跟進複製了，你會怎麼辦？
關於最高贊（謝熊貓君）那個答。我不能說文章一派胡言，但我想提醒大家注意兩件事：一，1900年，開爾文男爵講出了科學史上可能是最重要的名言：「物理學的天空上只有兩朵烏雲」；二，上世紀五六十年代，同樣也是「領域專家」們，有相當一部分認為強人工智慧會在2000年出現。不要聽著風見著雨，看見導數上升就覺得是指數函數，sigmoid識得唔識得噶？
這些讓我們警惕人工智慧的人,沒有一個是做這方面研究的,沒有一個.全是放嘴炮.
現在最複雜的神經網路給它全世界最大的訓練集,也完全達不到人腦的判決水平,現在的機器智能根本沒有那麼光鮮亮麗,止於在幾個數據集上去的比較好的測試結果而已,要達到人類的這種認知水平,我覺得我們這代人可能性不大.
我本著如果可以我國的人工智慧如該何發展角度來推理的。我現在認為的人工智慧奇點有三個。
我是按照人類的歷史角度來估算的。（因為有了事實基礎才能使我的推理更接近事實，從而更容易實現。）
第一個奇點：概念。就是第一個奇點。我從一本邏輯書中得知的，當嬰兒來到這個世界，他是如何融入人類的社會。他靠的就是理解概念。當父母指著媽媽和爸爸的時候，他們會說這是爸爸，這是媽媽。爸爸和媽媽的實物和單詞「爸爸」「媽媽」聯繫在一起，那麼概念就形成了。而同一概念還有不同的表達形式，母親和父親，我爸和我媽，我老頭和我老媽子。雖然他們表達的形式不同，但是他們的概念都是直接指向一個特定的含義，我的親生母親和父親。這就是概念。人類發展時間已久，還發展出除了實物概念，還有非實物概念。平等，博愛，自由這些概念。由於這些概念的內涵太廣闊並不具體，所以很難用準確的話語來定義。所以這些非事物概念就比較難理解了。。。按照現有的技術手段應該可以實現實物概念這一想法。因為實物概念是很具體的事物，所以可以用3D模型+不同的屬性標籤加以說明，具體怎麼做我就沒細細研究。這樣就解決了計算機如何理解人類講的內容，其實就是概念的理解。同一概念可以不同的表達形式，無論怎麼表達只要明白說的是什麼概念，那麼計算機就知道人類要表達的到底是什麼。第一奇點完成，計算機將開啟真正的智能。
第二個奇點：思維。按照人類的智商我們可以分IQ和EQ。IQ就是智商，EQ就是情商。IQ能在效率上表現出來，IQ高的人往往在效率方面會比較厲害。那麼計算機的IQ就可以從效率方面開始研究。EQ，其實就是捨去IQ中的效率一部分換取和環境的融洽發展。就像一個天才，為了一件事而拼了老命，但是使周邊的人都討厭他，EQ在這時候就是捨棄一些效率換取和同伴們融洽的把事情搞定。雖然結果是不變，效率沒有那麼高。但是大家能一起完成，大家都會有成就感。感情就不會那麼傷了。第二奇點完成，理論上他能完全模擬任何一個人的思維模式和行動模式。
第三奇點：創造。人類的創造是從哪裡來的，一是需求，二是概念，三是實施。需求很簡單，就是我們想要什麼，概念就是，我們要把需要的東西具體化可以實現的東西，實施就是當今社會的材料，如何的組合形成這個東西。有了這個東西，就可以開始對這個東西升級改造提高性能。有些虛擬的東西可以不用實施，但是需求和概念還是要的。第三奇點完成，理論上他能自我創造。例如優化和重新編寫自己的演算法使自己的速度更快等等。
--- PS:題目不錯，如果我以後又更好的想法我會具體完善我的答案。
推薦閱讀：