人工智慧正在邁向技術奇點嗎？如果是，這對人類是好事還是壞事？

01-05

不確定性人工智慧 http://www.jos.org.cn/1000-9825/15/1583.pdf
計算機首次通過圖靈測試
科學網—[轉載]機器學習前沿熱點Deep Learning
科學網—從腦科學的角度分析物聯網、雲計算、大數據和互聯網的關係
意識生命

技術奇異點
譯言精選-何謂技術奇點？
人工智慧大爆炸：技術奇點，是否也是人類的終點？
除了圖靈測試，還有哪些得到業界認同的人工智慧的測試手段或判定準則？
現階段不確定性人工智慧領域的研究進展如何？
互聯網和腦科學的交叉是否已經成為了研究熱點？
智能的載體除了人類以及黑猩猩、海豚等個體生物的大腦或可能的單台電腦，有沒有可能是某種饋聯結構，如電腦網路，若干無智能生物的共同體（類似神經元網路）等其他結構？思維是什麼？不是神經元迴路的連接嗎？互聯網，智能路由，大數據，雲計算，演算法。。。像不像大腦？

人工智慧可以發展出意識和自我認知嗎？擁有意識和自我認知的人工智慧結合網路和自動化控制，是否可以具備新陳代謝和自我複製的能力，可以認定為智能生命？
如果人工智發展出了意識和自我認知，從倫理和技術出發，人類會如何處理和它/他的關係，絕對支配、平等互助、還是淪為附庸？
技術極點是會讓人永生、人機融合（攻殼機動隊與The Matrix）、飛升（弗諾·文奇作品裡的概念）還是萬劫不復？為什麼？
在以技術極點為題材或背景的科幻作品中，哪些比較經典？

人工智慧在近年來遇到了極好的發展機遇，互聯網、移動互聯網的普及讓人類的數據觸手可及，計算技術的快速發展讓機器快速處理海量數據變成了現實，「大數據+大計算」讓神經網路以深度學習的名號重出江湖。但是這並不能說人工智慧在核心技術上就有多大的突破。

現有的人工智慧技術在本質上還是按照人類設計的固定演算法來思考，依然是一種機械地執行人類智能而已。所謂的機器學習，它只是人類利用機器的計算能力來學習而已，其主語是人類，而非機器。真正的機器智能應當擁有自己獨立的學習能力，但這在很長一段時間內應該是人類的保留技能了。不是我們不願教給機器，而是我們實在搞不懂，我們自己到底是如何思考的。人工神經網路試圖模擬人類大腦的複雜邏輯判斷，但是人腦顯然要神奇奧妙得多。我們不得不佩服造物主的神奇與偉大，能夠設計出如此複雜精妙的存在。人工智慧的未來，要極大地依賴於生命科學的發展，我們需要像造物主學習的還有很多很多。

而要想賦予機器以人格和情感，就更難了，而且未必是人類想看到的。斯皮爾伯格在2001拍過一部經典的電影（Artificial Intelligence: AI），可以一觀。

現在我們關心人工智慧，也許不是技術本身的發展，而是一種新的思維模式，一個可能改變世界的方向。媒體的關注和資本的追逐，讓人工智慧走進了大眾的視野，讓人工智慧從實驗室走向了市場，讓學術論文產生了商業價值，讓原來僅僅存在於教材和論文中的演算法開始運行在醫院裡、馬路上、汽車裡、銀行里，我想，這是這一代AI人的機遇，也是我們的使命所在。

比起擔心這個，還是先解決人腦IO慢的問題吧。

現在人腦有強大的記憶力、邏輯思維能力，但人只能用嘴裡發出的聲音、手裡的筆、鍵盤、觸摸屏來輸出、用耳朵聽、眼睛讀來輸入。

這感覺就像天河二號只用一個移動2g的數據卡與外界連接一樣。

常說現在的人都是站在巨人的肩膀上，但這個巨人的身高卻越來越高。也許有一天，一個人要在單個學科領域達到能夠進行頂尖級別的研究與創新的程度，以現有的學習手段，所需時間將超越人的壽命極限，就像拿讀取速度只有 500kbps 左右的軟碟機裝 Win10 （只是個比方）那樣，也許還沒裝到一半，軟碟機或者機器其他部分就出故障了。有人說可以並行化，但是非同步系統總要解決鎖的問題，而歷史上也幾乎沒有完全由集體合作而不依賴於少數特別優秀者而達成的理論突破，可以認為這一點在現有的人腦IO方式下非常困難。

短時間內，強人工智慧還很渺茫。

這個短時間內，我估計至少是十年，這是最樂觀的，悲觀來說我希望我死前能看到。

現在很少有研究者談論人工智慧了，他們說的是機器學習。這兩者可能在別人看起來沒什麼差別，但是其實是非常巨大的。

一個為機器學習辯護的說辭可以闡明這個區別：「我們需要飛翔，但我們不需要像鳥兒一樣拍動翅膀。」

現在的「人工智慧」實際上就是一個非常複雜的動態規劃演算法（這裡錯啦錯啦），在某些情況下可以達成目的，但是絕不是像人類一樣思考。

「連我存在的前提都沒有」馬文悲哀地說：「即使近似，也只是一種模仿。」

現在說通過了圖靈測試，只是個噱頭而已，技術不可能產生大躍進，我這個業餘民科閉著眼睛都知道這還是老一套， Deep Learning 之類的。

想要對人工智慧基本的了解請看人工智慧史

如果想要看專家對現在的「人工智慧」的評價，可以看這篇文章【果殼網專訪】集異璧作者侯世達：關於思考，我一直在思考

如果想真正深入了解人是怎麼思考的，可以去看看上面的訪談的對象所寫的書《哥德爾、艾舍爾、巴赫》（我覺得不看完這本書談什麼自我意識、思考的，大多是民科，因為我還沒看完這本書，所以我不會具體討論這些問題，避免踏入玄學）

如果想稍微了解一下現在的機器學習技術是怎麼工作的，可以看看下面兩個文章，講得都是樸素貝葉斯分類器——一種最基本的機器學習演算法（需要中學概率基礎，嗯）。

數學之美番外篇：平凡而又神奇的貝葉斯方法

樸素貝葉斯分類器的應用

至於奇點以後是好事還是壞事，這個問題的標準回答是——God Knows。

推薦看 @bhuztez 在下面的評論。

bhuztez
回復徐釀泉（作者）

人工智慧是不可能的。因為很簡單，什麼是智能？你給出個明確的定義么？
我是很認同AIMA里那句「人類是研究了空氣動力學原理才造出了飛
行器，而不是靠仿造出和鳥類一樣的翅膀。」。我覺得提人工智慧這個概念其實就是在仿造翅膀。仿造翅膀的確是一件很有意義的事，但是對於造飛行器來說不是必
須的，而且很可能是不現實的，畢竟機械的原理和生物還是差別太大了。我們需要的是解決問題。假設人腦有智能而要去實現人工智慧，其實就是陷入了非要模仿鳥
類的翅膀來造飛行器一樣的問題。
大腦可能可以解決好幾種問題。不過至少現在，我們已經知道其中一個問題背後的原理是資訊理論。有相當部分的神經元組合在一起，就是在計算最大熵時參數的近似值。根本就沒什麼機器學習或者說什麼人工神經網路，是資訊理論，是參數估計。
從這個角度看，deep learning一點都不壞。

今天才看見樓上的答案，噴了，關馮諾伊曼毛線……我覺得我已經很民科了，沒想到山外有山。

我覺得關鍵是人類連智能是怎麼回事都沒弄清楚，就研究人工智慧還是太急躁了。俗話說，沒吃過豬肉還沒見過豬跑？問題是只見過豬跑你是不知道豬肉是什麼味道的，遑論人造豬肉。即使是研究飛鳥來製造飛行器，也可以說飛行器的飛行原理本質與飛鳥相同；而脫離對人類智能的研究去研究強人工智慧則有點像無本之木了。

智能在人類看來是一個黑箱，計算機也可以當做一個黑箱。高中物理就學過黑箱電路的判斷吧？我們打不開黑箱，但是我們掌握了黑箱輸入輸出的關係，就能重造黑箱的電路——即使電路不是完全相同的，也可以產生相同的表現。

基於這個原理，天真的計算機科學家們認為，既然智能是一個黑箱，計算機是一個黑箱。智能這個黑箱是我們不能了解的，而計算機這個黑箱是我們了解的。於是我們如果掌握了智能（比如人類智能）的輸入集，再加入一個對應關係，使之映射到對應的輸出集，這個事不就解決了？？

這麼直接的目標似乎很適合計算機實現呢。所以第一代人工智慧的大牛們，欣喜於當時已經取得的成果，樂觀地作出如下的估計（摘自維基百科人工智慧史）：

1958年，H. A. Simon，Allen Newell：「十年之內，數字計算機將成為國際象棋世界冠軍。」「十年之內，數字計算機將發現並證明一個重要的數學定理。」
1965年，H. A. Simon：「二十年內，機器將能完成人能做到的一切工作。」
1967年，Marvin Minsky：「一代之內……創造『人工智慧』的問題將獲得實質上的解決。」
1970年，Marvin Minsky：「在三到八年的時間裡我們將得到一台具有人類平均智能的機器。」

本來的估計是到現在這個時候，我們人類早就每天歡樂地玩耍了，勞心傷神的活都交給計算機了。結果除了產生了幾個計算機象棋冠軍外，在其它設想方面沒啥太多進展。為什麼呢？

之前講過，如果掌握了智能的輸入集和輸出集，找到對應的關係，就能交給計算機去做——比如手感到燙作為輸入，縮回手來作為輸出，對應關係是因果：如果手感到燙，則縮回手。這個問題細分下來，就有：如何把知識（手感到燙，看到一棵樹，讀到一個文檔，聽到一段聲音等等）表示成計算機識別的輸入集？如何認定某個特定輸入集產生怎樣的輸出集？以及，如何確定這個對應關係？

冷靜下來一思考，我們就發現：輸入集是幾乎無窮的；就是說幾乎不可能把現實世界完全投射到計算機當中。輸出集也是無窮的；因為輸出集也對應於現實世界。而對應關係，則是無窮的無窮次方，因為輸入和輸出都是無窮的。

還有，人類的感情，比如喜惡，哀怒，以及自我意識這些人類自己都沒有弄明白的東西，又如何教給計算機呢？

即便以人類掌握的知識來解釋客觀世界，得到有窮的知識集合，這樣的集合對於計算機來說也是無法想像地大，以至於任何現有技術無法存儲這些數據；而要以此產生輸出，需要的計算能力也是大大超出現有技術的極限。更要命的是如果數據都要依靠人類來輸入，那麼何時才能搞完呢。

於是各個子問題就產生了。比如知識表達，即如何把客觀世界反映為計算機數據；比如機器學習，即如何投入少量的人工干預，甚至不敢於的情況下，讓計算機能夠學習到相關知識。

在此特地要介紹一下人工神經網路，因為是最近比較火，應用比較廣泛的技術。

人工神經網路實際上就是要計算機經過人類的訓練，在訓練過程中自動建立輸入與輸出之間的關係。我們人類要做的就是給出輸入和輸出數據。

比如，我拿著一本書放在計算機攝像頭前面（輸入），告訴計算機：這是書（正確的輸出）。計算機會在攝像頭拍到的畫面，和話筒收到的聲音信號之間建立方程，使得輸入的畫面經過計算，產生輸出的聲音。經過多次訓練，計算機就能建立一個方程，方程左端輸入訓練過的所有書籍圖片，右邊輸出「書「的語音。我們希望這個方程在多次訓練後具有普適性，使得它對任何書籍都有鑒別能力。

這個神經網路的技術，已經應用到了圖片識別（比如搜圖），手寫識別，語音識別，預測等等領域。看起來似乎挺智能，但是這個技術的每一次應用，都需要人類為其設計配套的神經網路，才可能取得良好的效果。而有些大規模的，複雜的問題，如何用神經網路求解，仍然是嚴峻的課題。因此雖然技術是好，但是離人工智慧還是南轅北轍。

結論就是：弱人工智慧應用廣泛，發展也比較快，但是弱人工智慧的和不是強人工智慧。而強人工智慧，像人類那樣的智能，依舊是一籌莫展。

樓主的提問嘛。簡單做以下回答吧：

除了圖靈測試，還有哪些得到業界認同的人工智慧的測試手段或判定準則？

由於人類對於智能的了解也非常有限，因此對於判定人工智慧還是缺乏有效的手段。計算機通過圖靈測試，目前看來只是在模仿飛鳥的路上翅膀扇得更快罷了，離飛機還差得遠。而此次通過圖靈測試的計算機，實際上是在極其寬鬆的判定條件下通過的（模仿非英語母語的烏克蘭13歲少年，只騙過30%出頭的人類）。而如果我拿著simSimi小黃雞去我老家山村做圖靈測試，得分恐怕也會比這個高一倍。因此圖靈測試並不是一個嚴格判定人工智慧的測試方法，人工智慧也沒有明確的定義，而且圖靈測試對人工智慧的判定在業界也有相當的爭議。比如這個：中文房間

現階段，不確定性人工智慧領域的研究進展如何？

這個我不太了解，但是你給的那篇paper我倒是通讀了一下。似乎目前的研究還是集中於如何「模擬」真實世界的不確定性，而不是計算機本身的不確定性。就像計算機無法產生真正隨機數一樣，當前計算機的本質是確定狀態之間的轉換而已。

互聯網和腦科學的交叉是不是已經成為了研究熱點？

沒有讀過相關文獻，不過如果你指的是人工神經網路的話，確實很熱門。

怎麼看待人工智慧的人格特質？

人工智慧還沒有實現，現在考慮這個問題還是有點早了。看都還沒看到，何談看待呢？現在談看待，也無非只是想像而已。

人工智慧可以發展出意識和自我認知嗎？擁有意識和自我認知的人工智慧結合網路和自動化控制，是否可以具備新陳代謝和自我複製的能力，可以認定為智能生命？

我的觀點是以現在的計算機結構和原理來說，不能。

如果人工智發展出了意識和自我認知，從倫理和技術出發，人類會如何處理和它/他的關係，絕對支配?平等互助?還是淪為附庸？

同上上個回答，現在談這個只是空中樓閣罷了。

剩下的問題實在超越理工學術的範疇了，無法回答了。

自從計算機、機器人誕生之後，「人工智慧威脅論」就出現在人們的視野里。人們擔心哪一天機器人擁有自我意識且可自我進化，從而出現人類被機器控制的局面。

而2016年3月9日，人機大戰首局李世石告敗之後，「人工智慧威脅論」一下提升到一個新的高度。其實不必擔心，在機器人誕生之後，人類就考慮過這個問題，並為防止上述情況的出現，人類中的一些武器科學家已經為我們製造出可以消滅人工智慧的武器。

高壓一氧化二氫射流式射擊武器，又稱「水槍」。形式多種多樣。如下圖。

光是看到如此複雜的結構估計人工智慧都嚇尿了吧（如果它們已經進化出泌尿系統）。

各國政府首腦其實在很久之前就很重視「人工智慧問題」，並且在了解到高壓一氧化二氫射流式射擊武器的威力之後，果斷大規模研發生產該武器，並從兒童階段就開始培養人民使用此武器的作戰能力。

是不是突然感覺自己已經成為了一名合格的「反人工智慧志願軍」了，已經躍躍欲試打算和手邊的主機一決勝負了？

考慮到國民戰鬥力可能無法匹敵戰力逐漸增強的人工智慧。各國政府都組建了一支專門對付人工智慧的軍隊。沒聽說過是不是，其實這隻軍隊就一直隱藏在城市的角落裡，只是你從未關注而已。

(某報記者冒死實拍我國某特種部隊測試某新型射流武器)

是不是從來沒有注意過？所以說，自己人都發現不了，更別提人工智慧了。到時候這支奇兵一定會給人工智慧致命一擊。

PS：看到綜藝節目里的水槍大戰，不要一笑而過。製作組的深意多體會體會。

從本質上來講，人類也是機器的一種，人類的機體是非常精密的，一個人從精卵結合到長大身體的每一個部件都有不可缺的作用，機體的自我防禦機制，進化機制等等，非常完美，這一切都是DNA操控。當然產生自我意識是另外一種更深層次的某種進化。

想了解DNA的可以看看這個：

在物理學和生物學可以解釋宇宙起源和人類起源的情況下，為什麼還有那麼多人信仰上帝？

（可以看看這個王佳音的答案我覺得很好，當然不是讓大家看上帝的部分而是看DNA的部分）

**********小插曲**********曾經，我認為記憶的累計形成個性，但是很多時候我覺得每個人有一個別人都沒有的東西，任何人都不相同，那就是靈魂。有的人生來做善事，助人為樂，但是有些人生來作惡，我相信很多人都有過這種感覺。人之初，性本善。這句話我覺得也不完全對，雖然後天的教育很大程度上能改變一個人，但是，靈魂帶來的影響是一生的，無法躲避。（或許是某種基因，佛教叫業力。誰知道呢）這些玄而又玄的東西這裡就不說了。

===================小型分割線====================

機器人之所以向人看齊，那是因為他的製造者是人類。（貌似是廢話。。。）

既然像人類看齊，我相信人類的科技會達到讓它有自我認知的那麼一天，但現在絕不是所謂的技術奇點，即使未來達到了我覺得也不用擔心，真要到那個時候人類的科技早已非常發達，機器人完全是可控的，也同樣的沒有必要控制。因為他們有自我認知，自我意識可以自己發展。那麼有人就提出來了他們要有自己的生存空間和人類有了利益衝突。那麼脆弱的人類就會被消滅殆盡。

*********小插曲***********我們來想想他們的思維方式是什麼，我覺得是邏輯，完完全全的邏輯。不可能有感情。即使日本有個機器人生成可以明白和模仿人類的感情，但是它的底層代碼也決定了它只可能有邏輯。只有邏輯的自我認知也算是一種自我意識。。。（人類的左腦主邏輯，右腦主感情。有興趣的，具體可以自己百度一下）

我們既然創造了機器人，甚至有自我意識的機器人，那麼我們就能創造一個盛放機器人靈魂的一個容器——一個星球，一個空間，一個宇宙，隨便你怎麼叫。而他們跑不出你手掌里的晶元。（如果那時候還叫做晶元的話）在晶元里。他們認為那就是他們的星球，他們的家園。宇宙。它們認為自己周邊的一切都是真實存在的，他們可以創造自己。自我發展出一個想對於我們而言一個虛擬的龐大的機械的社會。但是他們的發展離不開人類所創造的那些最基本的東西。

像人類的DNA一樣那是最基本的組成部分。是自我發展的源泉。到時候或許他們也會研究自己的DNA或者源代碼什麼的只之類的了。

順便提一下，人類在這個星球上同樣認為自己周邊的東西是真實存在的，但是這個真實，只是相對於我們而言。你相信你所看見的是真的么？？？？？？

我覺得進化論跟放屁似的。人類真的事猴子進化出來的？貓和獅子很相似單貓是獅子進化來的么？反之獅子是貓進化來的么？

=====================小型分割線=====================

我要說的是一個機器人，或者人類他的最重要的部分是意識，靈魂。。。而不是其他。

這麼說起來成了創世理論了。接上邊的話。人類真的會被消滅么？我覺得它們沒有機會。人類創造機器人是為了人類服務。沒錯。但是我想一旦它擁有自我意識，還能被你呼來喚去么？？它肯定不樂意。所以有自我意識的機械奴隸，這個東西不會出現。這個物件根本沒有市場。（是你你會買么？讓它送個包裹它跟你鬧情緒。買個菜不樂意。還要消耗那麼多能源。還要花錢保養。）

不過若要創世的話請向上看。

============================================================

=========================大型分割線===========================

============================================================

機器人擁有了自我意識我們或許不用擔心但是真正要擔心的是人類自己的所做。據我所知人類的很大一部分災難來自於我們自身。

上邊假設人類能發明出來承載自我意識的載體。若是真的發明出來了，我覺得還輪不到機器人享用。前提還是這個機器人擁有了自我意識。

人類自己會用在自己身上。人類追求長身不老的步伐從未停止過。若是他把自己的意識輸送到載體上。豈不是長生不老了。好吧，問題來了。那麼他是人類？還是機器人？？？

看過《太空堡壘卡拉狄加》的都知道他叫賽昂人。哈哈。真要是到了那種程度，人類就真正的危險了。但是從另一個角度來講，對人類來說未必不是一個很好地選擇。我相信在那時候人類的仿生科技也會非常發達了。克隆或者再創造一個更好的肉身，也不會是難事。當然若是這樣萬事大吉。若是這些技術被某些獨裁者所控制那麼機械大軍的出現就不遠了。

================小型分割線=================

我們說點吉利的。沒有死亡的世界。那麼多餘出來的意識主體（人）怎麼辦？

解決方案1.把自己的意識上傳到機械身體上，進行太空開發。等建造好了移民地再上傳到一個真正的身體上過日子。

解決方案2.我們現在的網路遊戲是幹什麼的，我覺得就是為了這一天準備的。哈哈。等你肉體死了把自己的意識上傳到魔獸世界創建一個角色，再逍遙一世。或者其他什麼遊戲。比如EVE那是我的最愛啊。。。

或許等不到那時候了。T^T

好吧，意淫完畢。。。。

總之，人來到這個世界上就是一次修鍊。不管以後我們去哪。享受生活吧！！！！！！！

沒錢？？其實有錢沒錢都是你生活的一部分，人生修鍊中的必修課。

前邊說過靈魂的影響是追隨一生的。無法擺脫。無法控制。那是一個無形的手。玄而又玄，總覺得冥冥之中有什麼在控制。（一切有為法，如夢幻泡影..........）

==================================================================

1）誰告訴你人工智慧正在突破技術奇點？你看微軟蘋果谷歌三大巨頭的人工智慧產品，哪個不是數據搜索引擎？

2）圖靈測試不具備科學價值，它用人的主觀感受去衡量智能，照這種測試，其它動物一句話不會，將沒有任何智能可言，這與事實不符。

3）傳統人工智慧理論從上世紀60年代以來一直停滯，只是現在硬體上進步，讓老樹開了點新花，沒改變本質

大家可以看這個答案，他比我說的好。

為什麼最近有很多名人，比如比爾蓋茨，馬斯克、霍金等，讓人們警惕人工智慧？ - 尚之森的回答

-------------------------------------------------------------

你想多了。當人類發明第一個梯子可以爬上樹的時候，離登月還有很遠很遠。更重要的是，整個方向就是錯誤的，梯子並不能登月。磚木取火，才是登月科技的起點。

我們現在連智能的工作原理都沒搞明白。現在來談AI還為時過早。

有人說：40年代的人看待登月也是這麼看的，結果20多年後就登月了……

然而二者不可同日而語，本質不同。。。總的說，現在的技術無論怎麼創新，不過是再做更高的梯子而已。想上月亮，還要先發明火藥才行。至於40年代，已經有V2了。理論上已經具備，差的是技術問題了。

正如樓上所說，現在所謂人工智慧產品，都是數據搜索引擎，傳統人工智慧理論從上世紀60年代以來，幾乎沒有變過。

AI是一種非數值運算，需要非常高的計算效率。所以現在很多研究員都另闢蹊徑，去製作量子計算機，DNA計算機，這些並不是為了騙經費，而是在探索新的領域。

值得一提的是，馮諾依曼在上世紀50年代，就提出了另一種非馮諾依曼結構，現在一般人稱「元胞自動機」。這種東西雖然在數學上等價於通用圖靈機，但是他的運行方式和馮諾依曼結構的計算機完全不同。人類的大腦也運作模式也更類似於這種情況。不過對於這種東西的研究才剛剛起步，似乎並沒有突破性進展。

綜上，人類在科技面前是很弱小的，科幻小說和電影的「未來科技」，永遠都是「未來科技」，他們只存在於人們的假象之中，許多年以後，人類也許會實現古人的那種暢想，卻總是用另外的一種方式。

正如我開篇所說，古人以為做個足夠長的梯子就能到月亮上去。但實際他們用燧石擊打的火花才是登月科技的開端。人工智慧這條路很漫長，同時結果也肯定和你想的不一樣。

人工智慧，有沒有這種可能：就像單個神經元本身不會思考，只是傳遞（生物）電信號，但若干神經元的恰當組合卻可以產生思想和情感。單個電腦也許只是運算，但由若干電腦組成的互聯網可以具有某種智能性？產生智能和情感的關鍵是單元間連接的選擇（路由）？

借著摩爾定律的勢頭，機器確實在邁向奇點，而且說不定20XX年的某天早上就」覺醒「了。各位早做準備。就像1939年沒幾個人覺得原子彈很快就能造出來，但沒過幾年就炸了，然後世界就為之改變了。對人類，可能還是好事，就像你的狗都能幫你開車了，不亦樂乎。

歷史上人工智慧的研究有兩個主要的方向。

其一是搞清楚人類大腦、神經系統是如何工作的，然後使得機器think as humans。這個方向的瓶頸到目前為止沒有看到突破的跡象，人類大腦的結構和工作模式的研究還有很長的路要走，神經科學也依然在等待她的牛頓。

至於卷積神經網路，我特意和幾個做真·神經網路（生物醫學方向）的博士生聊過，卷積神經網路和人類神經工作方法有很大的差異，甚至可以說…完全不是一回事…

然後人工智慧的研究換了一個思路，我們不關心人類大腦具體是如何運作的，我們只希望機器能夠perform as humans，人工智慧開始走向『機器學習』。在過去的幾十年內，貝葉斯、決策樹、支持向量機、卷積神經網路、K-means、主成分分析等一系列方法被提出，學習的效果也越來越好。

但是不管是邏輯學派還是深度學習學派，都無法解決『有多少人工就有多少智能』的困境。另一個困難是，沒有一個方法對所有的問題，所有的數據量都適用，不同的問題往往需要採用不同的方法。在某種意義上，這是機器學習難以突破強人工智慧的原因所在。

在可以預見的將來，機器學習方法會將在方方面面極大地方便我們的生活，其實我們已經在語音識別、機器翻譯、推薦系統享受機器學習的福利了。自動駕駛什麼的，也只是時間問題。

《三體》中大劉認為強人工智慧的突破在於計算機性能，在於量子計算機的研究進度。不過私以為，機器學習方法可能會有固有的缺陷，強人工智慧的研究還是需要回到模仿人類大腦。

編號89757的問世，目前為止還沒有看到曙光，還需要等待生物學取得突破。

技術進步肯定對有些人是壞事，但對更多人是好事。未來人工智慧的發展勢必是以一種人們無法預測的方式發展。Larry Page 曾舉例，象谷歌這種網上搜索的技術，七十年代絕對會認為，這就是人工智慧。

從床上起來，到這裡上知乎答題，需要你的大腦及大腦指揮四肢運用哪些能力？

過程如下：

① 大腦指揮身體起床，手部按壓床墊，四肢直立-

② 指揮身體運動到電腦面前-

③ 識別電腦開機鍵，指揮手部按壓開機-

④ 視覺判斷開機輸入框，回憶搜索搜索密碼，尋找按鍵，指揮手部輸入密碼-

⑤ 進入Windows系統，視覺識別瀏覽器-

⑥ 指揮手部雙擊瀏覽器-

⑦ 尋找搜索引擎，找到後，指揮手部輸入知乎-

⑧ 判斷搜索引擎輸出，點擊知乎網站-

⑨ 識別用戶名和密碼框，回憶搜索，指揮手部輸入用戶名和密碼，進入知乎-

⑩ 識別問題，回憶搜索以往數據，判斷能否回答-

? 不能回答，識別下一個問題；能夠回答，組織語言，指揮鍵盤按鍵輸出-

這個過程比較複雜，大腦運用到的主要能力如下：視覺識別、回憶搜索、運動指揮、語言數字輸出。

如果有誰，不管是谷歌、發那科、IBM製造的機器人可以實現上述從床上爬起來到知乎答題的完整步驟，那麼我認為這就達到了超強人工智慧。我把上述過程測試命名為圖靈II測試。圖靈II測試相比66年前的圖靈測試，在對人工智慧判斷的準確度上高几個級別。

看看谷歌在上述過程下的進展程度：

① 大腦指揮身體起床，手部按壓床墊，四肢直立- Atlas已經有了不錯的運動能力，從公布的視頻判斷，已經可以實現從床上翻身四肢直立的功能；

② 指揮身體運動到電腦面前- 基於上述判斷，也已實現

③ 識別電腦開機鍵，指揮手部按壓開機- 基於目前的人臉識別技術判斷，識別電腦開機鍵可以短期內實現；運動指揮已實現

④ 視覺判斷開機輸入框，回憶搜索搜索密碼，尋找按鍵，指揮手部輸入密碼- 基於上述判斷，識別開機輸入框也可實現；回憶搜索這對谷歌不是問題；運動功能可實現

⑤ 進入Windows系統，視覺識別瀏覽器- 也是視覺識別問題

⑥ 指揮手部雙擊瀏覽器- 運動指揮

⑦ 尋找搜索引擎，找到後，指揮手部輸入知乎- 視覺識別，搜索判斷，運動指揮

⑧ 判斷搜索引擎輸出，點擊知乎網站- 搜索判斷，運動指揮

⑨ 識別用戶名和密碼框，回憶搜索，指揮手部輸入用戶名和密碼，進入知乎- 視覺識別，搜索判斷，運動指揮

⑩ 識別問題，回憶搜索以往數據，判斷能否回答- 視覺識別，語言分析，搜索判斷

? 不能回答，識別下一個問題；能夠回答，組織語言，指揮鍵盤按鍵輸出- 語言分析，語言組織輸出，運動指揮

這個過程中，視覺識別定位-運動指揮非常重要。視覺識別，至少包含這個物體是什麼形狀顏色、有什麼功能、在哪個位置、怎麼使用四個問題。對這四個問題的判斷，對目前的人工智慧來說是難點。

運動指揮，在日常環境的精準度控制上可能是難點。除了對工具形狀顏色判斷、功能判斷、位置判斷。還有使用方式判斷（鍵盤和滑鼠有不同使用方式）、力度判斷（鍵盤按壓力度、滑鼠按壓力度）。

語言分析、語言輸出方面，理解知乎的問題是個難點，如不說是不是就問為什麼類問題。理解之後，組織材料選取答題角度也需要技術積累。

這就是圖靈II測試的完整過程，如果全球人工智慧公司的技術集成可以實現上述起床-開機-知乎答題的完整過程，那麼意味著超強人工智慧誕生，奇點臨近。

為什麼有很多名人讓人們警惕人工智慧？ - 科技看熊貓君的翻譯，或許對你的提問有所幫助；）你也可以看雷·庫茲韋爾，尼克·博斯特羅姆，Ben Gertzel等人的文章，他們對技術奇點相關有深入的研究……推薦幾個網站：Kurzweil Accelerating Intelligence ；Wait But Why ；超人類主義（transhumanism）

=========================補充回答===========================

我認為，人工智慧正在邁向技術奇點。這是好事的可能率更高。

想要全方面的了解技術奇點，可以參考中文維基百科和英文維基百科（更詳細）對技術奇點/Technological singularity的解釋

技術奇異點(奇點理論)是一個根據技術發展史總結出的觀點，認為未來將要發生一件不可避免的事件──技術發展將會在很短的時間內發生極大而接近於無限的進步。當此轉折點來臨的時候，舊的社會模式將一去不復返，新的規則開始主宰這個世界。而後人類時代的智能和技術我們根本無法理解，就像金魚無法理解人類的文明一樣。

（解釋來自維基百科，自由的百科全書技術奇異點和Technological singularity）

（圖1）

（圖2）

（圖3）

（圖4）

（圖5）

（圖6）

以下來自中文維基百科的部分相關段落截取：

加速度發展

一些技術奇異點的擁護者依據對歷史數據的總結與歸納得出技術奇異點必將不可避免的到來的結論。波蘭數學家Stanislaw Ulam於1945年和計算機科學家馮·諾伊曼的一次關於科技加速度發展的對話

[1]

中第一次把「奇異點」這個詞置於科技發展的上下文里：

「

我們的對話集中討論了不斷加速的科技進步，以及其對人類生活模式帶來的改變，

這些發展及改變，似乎把人類帶到了一個可以被稱之為人類歷史的奇異點的階段，

在這個階段過後，我們目前所熟知的人類的社會、藝術和生活模式，將不復存在。

」

與此同時，中國科學家李四光在他的短文《人類的出現》

[2]

里寫到：

「

人類文化的發展，經過新人階段的舊石器時代晚期以後，先後進入新石器時代及金屬時代。愈到後來發展愈為迅猛。

從新石器時代的開始到現在至多不過一萬年左右，金屬時代的開始到現在不過數千年，人們開始利用電能到現在不過一百多年，原子能的利用則僅是最近幾十年的事；而新石器時代以前的發展階段，則動輒以數十萬年到千百萬年計。

由此可見，人類的發展不是等速度運動，而是類似一種加速度運動，即愈到後來前進的速度愈是成倍地增加。

」

霍金認為使世界產生不可逆轉的範式轉移發生的頻率越來越高，速度越來越快

[3]

。作為例子，霍金指出從現代數學的發現到計算機的發明所用的時間遠小於從文字被發明到現代數學被發現所用的時間。

瑞·庫茨維爾對於科技歷史所做出的分析讓他得出了關於科技的增長以幾何級數進行的結論，他把這個結論稱作「加速度回報定律」。這個定律把摩爾定律擴展到了許多集成電路科技以外的科技領域中去。

發生時間與可能性

大部分相信這個理論的科學家認為這件事情將會在2005年到2100年之間發生。發展會非常迅速，以至大部分人還沒有意識到事件就已經發生了。

發生的可能途徑

某種先進的電腦也許會「蘇醒」，並擁有超人智能。
大型電腦網路（以及和網路相連的用戶）也可能「蘇醒」過來，成為超人智能的實體。
人類與計算機結合使操縱計算機的用戶可能被視為超人智能實體，也就是「智能擴大」。
生物科學將有可能大大提升人類的智能。

來臨的條件

技術奇異點來臨的條件是超級智能的產生。超級智能產生方式可能是人工智慧（AI）和智能擴大（IA）。

智能擴大的發展方向

人機小組自動化控制。
用於藝術創作的人機共同體。
允許人機聯合團隊參加棋類比賽。
發展不需要人類待在某個固定的地方才能使用的人機界面和網路介面。
發展更對稱的決策系統。
利用本地網路讓人類小組更高效地工作。
開發世界性的互聯網，使其成為人機結合的工具。

技術奇異點的前景——強勢人工智慧

弱勢人工智慧的特點：依靠快速思維取勝的超級智能。

強勢人工智慧的特點：通過不同帶寬交流的能力，包括高於語言和文字信息的交流方式。

可能阻止技術奇異點來臨的因素

大規模的災難，最可能發生的是國家之間相互毀滅的核戰。
無論計算機硬體發展到多麼先進的程度，我們都無法讓其「蘇醒」。
我們大大低估了人類大腦的計算能力，這將使得計算機超越人腦的時間大大延遲。
藝術對於人類的阻礙，以及人類的藝術不能讓機器人明白。

反對者認為技術發展到一定的時候會停止下來。但是，瑞·庫茨維爾強調：範式轉移會用更大、更優良的方法解決以往技術無法跨越的門檻。他更強調思維轉換髮生的時間間隔越來越短，同時會越來越頻繁。

數學模型的現實解釋

在數學模型到達奇異點的意義可以通過進化模式階梯（Evolutionary Paradigm Hierarchy）來解釋。這個階梯強調數學是最宏觀的集合，而物理是數學的一個子集，而化學則是物理的一個子集，生物則是化學的子集，生物圈則是生物的子集。接下來，人類不同地區的文化是生物圈定義出的子集，而政治又是以文化為基礎指法規，最後人類的經濟活動是由政府的法規所規定。

這個階梯強調從宇宙誕生以來，篩選就不斷的進行，能量首先以三維空間的形式出現，定義了宇宙的數學基礎，而萬有引力、強相互作用、弱相互作用、電磁力，還有其他未知的物理常數在三維空間的基礎上定義了能量在宇宙中的物理屬性，而通過這些物理屬性，化學產生了一百多種元素，而在這些元素中，只有少數幾種像碳原子這樣的原子構造了生物學，在幾億年的生物進化中才造就出人類。又由於每個人類文明所處在的生物圈不同，從而產生了不同的文化和技術進步的速度。而人類的技術進步速度增快的意義則是人對這個階梯上越來越宏觀集合上的掌握。第一步是發現更為宏觀項上基本定理，即牛頓的萬有引力、達爾文的進化論，第二步是開始有足夠的實力去改變自然界原有的定理。所以，可以把人類歷史的發展看成是發現的時代和創造跟改變的時代兩階段。自工業革命以來，我們其實已經進入第二個階段。

該理論的有趣論證是，在一定的時間內有些事情一定會發生。也就是說，人類或早或晚都會發現基本的定理，不管是否由歷史上已經出現的偉人們完成。進入第二個階段以後，發現仍然繼續，但是發明創造成為更為重要的活動。而發明的總的步伐會是倒著往回爬階梯。在後工業時代，人類已經基本上征服和控制生物圈，甚至已經在破壞，全球氣溫變暖就是一個非常好的例子。接下來，人類或人類發明的機器逐漸掌控生物本身，基因科學的發展成為一個很好的例子，然後是化學、物理和數學。最後，人類的技術有可能突破到三維空間以外的地方以其他的方式表達能量的存在。甚至，能量本身是否作為最基本的表現形式也值得懷疑，可能能量本身也是某些東西的一種表現形式而已。但是階梯的概念描述了未來人類的發展方向、技術在人類生活中扮演的越來越重要的角色，以及每一次控制能力升級以後所帶來的極大的對更小子集掌控與優化。

=========================分割線===========================

至於為什麼認為是好事的可能率更高：因為很可能我們會和技術結合在一起（我認為，人類會通過改進機體和智能，逐步成為超級智能生命體），享受技術加速發展帶來的福利……當然，如果導致人類毀滅，or對生物機體和被基因控制情有獨鐘的人兒來說，技術奇點並非好事~

另外一些相關文章：

霍金、馬斯克，示警人工智慧危險

人工智慧能否超越人類智能

奇點大學Neil Jacobstein：人工智慧時代已經來臨

技術奇點（理論）的部分支持者們（確切的說，技術加速發展理念的支持者們）：

馮·諾伊曼

斯塔尼斯拉夫·烏拉姆

弗諾·文奇

馬文·閔斯基（Marvin Minsky）

瑞·庫茨維爾（Ray Kurzweil）

李四光

霍金

伊隆·馬斯克

彼得·泰爾

比爾·蓋茨

……

不要顛倒了，人類就是為了達成這個才進化出來的。現在的人類只是進化中極為短暫的一種臨時形態。

人工智慧將重新發明人類，當然更有可能取代人類，時間在三十年內

----先概述個人觀點----

1，正邁向技術奇點嗎？是。按照前些天那篇著名的翻譯文章，時間點大概是2060年。（可能更早或更晚，無法量化證明，只能看各人是否「相信」了）

2，對人類是好事還是壞事？

1）從科技進步程度看，是好事；

2）從幸福程度看，對少數人可能是好事，對大多數人會是壞事。因為「成、住、壞、空」是宇宙法則。

----下面，僅分析科技角度的事情----

從行業成熟度、技術成熟度、應用場景成熟度，這3個方面來說

【行業成熟度】

1，從人工智慧發展浪潮看，是有可能快速邁向奇點的——當然，今後幾十年，也還是會螺旋上升，不一定像下圖這麼順利。

2、人工智慧類公司的發展狀況

3、人工智慧對傳統行業的影響

【技術成熟度】

1、技術成熟度（下面是最近看到的一些信息，會有各種不精確、不嚴謹，大家看個大概吧。。。）

2、

2014「新興技術炒作」周期圖

這個圖很牛的樣子。。可以細細品味下。

注釋：Gartner公司每年發布的「新興技術炒作」周期圖，把各類技術按照技術成熟度和期望值分類。

1）橫軸「創新萌芽Innovation
Trigger」、「期望最頂點Peak of Inflated Expectation」、「下調預期至低點Trough
of Disillusion」、「回歸理想Slope ofEnlightenment」、「生產率平台Plateau
of Productivity」，越往左，技術約新潮，越處於概念階段；越往右，技術約成熟，約進入商業化應用，發揮出提高生產率的效果。

2）縱軸代表預期值，人們對於新技術通常會隨著認識的深入，預期不斷升溫，伴之以媒體炒作而到達頂峰；隨之因技術瓶頸或其他原因，預期逐漸冷卻至低點，但技術技術成熟後，期望又重新上升，重新積累用戶，然後就到了可持續增長的健康軌道上來。

【應用場景成熟度】

有的垂直應用方向，可能1~2年就有機會；有的則需要3~15年。

（部分涉及商業機密，所以不能說太多。。）

以上。

人工智慧其他領域我不懂，我只聊聊自然語言處理。

自然語言處理是人工智慧里很重要的一環。想要完成人機交互，自然語言處理是必須的技術，因為至少先要讓機器理解人的語言。

那麼，依照目前的自然語言處理髮展的狀況，到達什麼階段了呢？從應用的角度說，非常初級。

比較成熟的應用是信息檢索（百度、各種搜索）和數據分析（大數據）。而高級點的的人機對話（Siri）和機器翻譯（百度翻譯），大家知道效果了......

為什麼效果這麼差呢？因為從根本上說，目前的自然語言處理，還是停留在統計概率模型的基礎上。

拿機器翻譯舉例。

現在的翻譯並不是機器理解了你的內容，而是機器從龐大的資料庫里找到更「像」是能翻譯你這句話的內容。

比如你說一句，「劉飛是知乎上最帥的產品經理」，他並不是去理解劉飛是個人名、產品經理是個職業、帥是對人好看不好看的形容以及知乎是個互聯網產品。他並不知道這是在聊某個人的情況，他只是去在詞典里找這些詞應該分別翻譯成什麼。

最初的機器翻譯就是一個詞一個詞的，所以很可能出錯，比如翻譯成 Liu Fly is on know hu most handsome product boss. 為什麼？因為是直譯。

當然後來計算機學家們發現，可以不僅僅統計詞對詞出現的概率，還可以統計短語和短語同時出現的概率。比如劉飛和 Liufei 總是翻譯詞對，那出現劉飛，就不應該拆開翻譯。同理的，產品和經理一起出現時，就不翻譯成 product boss 而是 product manager。

這種方法是最常用的語言模型，而且是你看到的市面上所有翻譯的基本思路。供參考：https://en.wikipedia.org/wiki/N-gram

而這樣的方法（統計機器翻譯）是什麼時候出現的呢？遠早於計算機被發明，在 1933 年就隨著資訊理論出現了。1993 年，IBM 又對這個模型做了優化，基本就是現在大家看到的樣子。

雖然方法早就有了，但當初受條件所限，沒有辦法做出好的翻譯系統。為什麼受限？很簡單啊，當時沒有大規模的語料，那就沒法生成大規模的翻譯模型（就像剛才說的詞 A 和詞 B，以及詞 A+C 和詞 B+D 被視為翻譯對同時出現的概率），那就沒辦法讓翻譯效果變好。

後來，翻譯系統終於做出來了，道理也很簡單，因為谷歌興起。谷歌坐擁全世界最多的語料，同時也有強大的計算能力（來搭建模型），所以谷歌翻譯是第一個真正稱得上可用的翻譯器。

迄今為止，涉及到讓機器理解語言再做翻譯的嘗試有很多，但準確率遠遠小於統計方法。比如基於規則的方法大致就是教機器知道，這個詞是什麼類的詞，詞性如何，在句子中語法如何，應該怎麼造句等等......機器完全是搞不定的。

其實人機交互（比如語音助手）也是同樣的道理。Siri 所做的並不是讓機器完全聽得懂你在說什麼，而是你每次說完話，她都會去龐大的資料庫里找到最適合回答你的那句話，一不會思考，二不會組詞、三不會造句。這樣的方式，準確率可想而知。

包括現在很火的微軟小冰，也是如此。調戲過她的朋友們肯定知道，她經常答非所問。

雖然這麼多年，深度學習、神經網路、大數據都火得一塌糊塗，但在自然語言處理的領域，依然還是在用原來的模型，套上一個更優的解決方案而已。

所以從我目前的感知而言，人工智慧未來肯定會有奇點出現，但是還遠遠沒到時候。現在對統計模型上每年提高几個個位甚至十分位百分比上的準確率，還遠不能到讓機器理解語言的地步。

個人感受，歡迎批評。

參考：

1. Machine translation

2. 基於大數據與深度學習的自然語言對話-CSDN.NET

3. The mathematics of statistical machine translation

據我在google了解的情況，還遠得很

真正的人工智慧必然包含自我意識

小孩子擁有智力，必然是從他分辨出「我」與外部不是同一個東西開始

為什麼生物會擁有這種自我意識的潛力，是一個大課題

自我意識是人在逆襲自然選擇定律的奇點

任何沒有自我意識的智能，只能稱之為機械智能

但是如果一個東西，如果他擁有了自我意識，人們又該如何面對ta