AlphaGo 戰勝李世石後，最讓你害怕的是什麼？

11-26

是害怕人類構建的複雜演算法？
是害怕高強度高性能的並行計算網路？
還是害怕自己的工作被取代，導致失業呢？

AlphaGo即便沒有戰勝李世石，我最擔心的依然是一群人出來宣揚人工智慧威脅論。不止這問題，大多數AlphaGo相關問題下的答案都是重災區。

一群人連AlphaGo的基本演算法都不懂，講個machine learning基本概念都一臉懵逼，把自己的腦洞當真知灼見指點人工智慧發展方向，還代表全人類覺得AI要統治人類。科普根本不願聽，反覆說各種「你也不能確定」「誰也不知道未來」。呵呵。為啥崔永元反轉基因招人煩？

我今天不要友善度，不客氣的說一句：所有看不懂AlphaGo那篇Nature論文而借AlphaGo大肆妄議人工智慧的，都是垃圾。

對，包括在各大直播平台上出來講解的大多數IT圈人士和知乎某些自以為懂AI的大V。有多少水平有沒有看過那篇Nature，不要以為大多數人都看不出來就可以胡扯。什麼AlphaGo加了多少硬體智能指數增加這種蠢話，明明那篇nature的數據就已經說明了沒有這回事。知道目前卷積神經網路最廣泛用法是處理圖像，就認為AlphaGo記憶棋盤圖像然後像分析圖像那樣分析計算的，也真的是夠蠢萌。還有看了AlphaGo前三盤表現或某些數據就認為這演算法無懈可擊，因為自己賽前猜李世石會完敗所以自以為自己水平很高的，我很高興李世石第四盤狂打你們的臉。

好好去讀那篇nature會死么？哦，不懂英文和裡面的數學？去看介紹分析這篇nature的中文文章咯。還是看不懂？那還不承認自己無知。

無知不可怕也不是錯，可怕的是對自己的無知一無所知還到處宣揚謬誤，然後帶領著不明謬誤的人一起開腦洞編織陰謀論。

真的，以後不是AI統治人類，只是蠢人會被AI取代。

——————————
補充：

實話說我寫這篇答案時候剛跟人工智慧威脅論支持者撕逼完，此問題當時也沒多少人關注，所以主要是在發泄情緒，行文比較暴躁……幾天得到這麼多點贊和關注，實在是有點出乎意料，也覺得受之有愧。請大家還是主要關注以下乾貨。

人工智慧打臉史 - 假裝在矽谷 - 知乎專欄
以上引文中，扎克伯格已經打了霍金比爾蓋茨馬斯克臉了，計算機科學界泰斗斯圖爾特?羅素駁斥了的奇葩奇點理論，還有摩爾定律已接近失效，2014年所謂「通過圖裡測試」也是大有爭議，請不要再拿以上這些當論據來支持人工智慧威脅論。

另外還有該答案對奇點理論的吐槽：為什麼有很多名人讓人們警惕人工智慧？ - 阿成的回答

想看對AlphaGo那篇nature中文介紹的，請關注這個問題：
DeepMind 研發的圍棋 AI AlphaGo 系統是如何下棋的？
其中幾個高票答案寫的都不錯。真的，看一篇乾貨比看十個所謂擔憂人類被AI統治的答案有意義多了。

還有這篇乾貨很贊：一張圖解AlphaGo原理及弱點（微信公眾號文章，電腦打開可能會有圖片無法顯示的情況。）
下圖出自上文，版權屬於作者鄭宇，張鈞波，是我目前所見的對AlphaGo原理最清晰簡明的中文解析。

至於理論上為什麼實現強人工智慧以及人類被AI奴役的可能性很小，推薦閱讀樓下：
AlphaGo 戰勝李世石後，最讓你害怕的是什麼？ - Goliath Li的回答
以及：
為什麼人工智慧領域的很多專家會認為「人工智慧將對人類存亡造成威脅」是無稽之談？ - 李天宇的回答

估計看懂Goliath Li回答里的理論部分對很多人有難度。看不懂沒關係，我們確定該答案里這種理論上的嚴謹推理的靠譜程度遠高於「你怎麼敢確定……」「你怎麼知道未來不會……」這種cheap的言論就行。
看完李天宇的答案，我相信大家更容易感覺到Machine Learning並不是什麼人類不可控的玄學。我BF數學專業，經常跟我一起討論學習Machine Learning，他說，目前大多數Machine Learning的演算法數學理論難度不會超過數學系本科三年級。

轉個machine learning界大牛Yann LeCun的意見：

翻譯：
Slashdot發表的關於AlphaGo勝利的聲明：「現在我們知道了，我們不需要任何大的新突破就可以做出真正的AI了」
簡直是完全絕對荒謬的錯誤。
就像我之前說過的：絕大多數人類和動物的學習方式是非監督學習。如果智能是個蛋糕，非監督學習才是蛋糕主體，監督學習只能說是蛋糕上的糖霜奶油，而強化學習只是蛋糕上點綴的櫻桃。現在我們知道如何製作「糖霜奶油」和上面的「櫻桃」，但並不知道如何製作蛋糕主體。
我們必須先解決關於非監督學習的問題，才能開始考慮如何做出一個真正的AI。這還僅僅是我們所知的難題之一。更何況那些我們未知的難題呢？

這裡得給個注釋，AlphaGo的演算法里運用了監督學習和強化學習，幾乎沒有用非監督學習。其中監督學習里運用到了模仿人類神經網路和思維方式的「深度卷積神經網路」。而Yann LeCun是卷積神經網路的創始人之一。從這篇深度學習三十年創新路，也可以一窺Yann LeCun在機器學習界的地位。

另外，
田淵棟老師專欄：遠東軼事 - 知乎專欄和南京大學周志華老師的微博：南大周志華的微博
乾貨也不少，不過不都是科普，有些比較專業的討論適合有機器學習基礎的去看。

————2015.3.28補充————
人工智慧三題
這篇文章里提到的人工智慧發展的三條途徑非常有意思，對深度神經網路和自由意志的理解也值得借鑒。

真心希望大家趁這個機會多了解一下人工智慧，少聽一點人工智慧威脅論。

**由於評論區實在太長，我不會再閱讀回複評論。如果這個問題還有人關注點贊，我會把我最近看到的好的答案，文章和資源引用不斷補充進來。

蒸汽機驅動的輪船剛被造出來的時候，就成了天下有識之士的笑柄，當時的帆船支持者和各位一樣樂觀。

我目前在新加坡，參與了一些狗屁倒灶的項目，而項目的目標就是使用演算法來取代人類，減少新加坡企業對外國勞工的依賴。在下不才，用演算法讓六個東南亞兄弟（工程師）失業了，目前正在用演算法取代第二批東南亞兄弟，下半年還要取代一大批需要接受多年訓練的藥劑師。

而我自己寫的代碼，改進的潛力在哪裡，可謂略知一二：如果再加上深度學習的部分，失業的人數可能會翻倍。

面對這樣的攤開在眼前的局面，我真的沒法像各位那麼樂觀，我像那些東南亞工程師一樣為前途深深地憂慮。

我認為最可怕的是未來社會每個人都將會「開掛」，也就是人跟人的競爭將會高度滴依賴人工智慧的協助。以下內容節選自我的最新文章，全文請查看《不要慌！在AlphaGo肩膀上坐好 - 守望者 - 知乎專欄》

偶爾討論一下「人工智慧是否會消滅人類」這樣的科幻話題也蠻有意思的，畢竟這比過去那些關於人工智慧的乾巴巴的技術文章要有趣多了。不過，我覺得大眾或許被「人機大戰」這個標題所誤導，而忽視了一個擺在我們眼前的、更明顯的事實：

在未來的10年內，人與人的綜合智力競爭將會異常迅速地加劇。而導致這一趨勢的直接原因就是：越來越多的人將藉助AlphaGo這樣的人工智慧技術輔助他們的思考和工作。

讓我們看一下「人機大戰」的比賽現場，更容易理解我所說的意思。請仔細看上面比賽現場的照片，棋盤右邊的是李世石，而坐在左邊移動棋子的並不是AlphaGo，是一位活生生的人！ AlphaGo在整個比賽過程中的真實角色是一個在旁邊進行計算並指揮人來行動的「指導系統」。

試想一下，如果沒有「人機大戰」這個標題的影響，單獨來看這張照片的話，你可能會以為這就是一場普通的圍棋比賽，對不對？尤其是如果左邊的選手把他身旁的屏幕隱藏起來的話，你根本就不會知道他是在藉助人工智慧來和圍棋高數過招，是不是這樣呢？

那麼現在，如果有一個在某方面比普通人還聰明的神秘助手來暗中幫你，你會不會使用它呢？…… 恐怕，這才是我們即將面臨的真實場景：人工智慧將會迅速在各個領域成為人們的「隱形助手」，它們將會首先成為我們的幫手而不是競爭對手。

誰會革我們的命

未來，我們面對的真正競爭對手依然是人。區別只是每個人背後都將會有一些「Alpha狗」來協助他們思考！真正可怕的競爭對手不是人工智慧，而是那些懂得駕馭複雜的人工智慧來和我們競爭的人。由此推導出的一個顯而易見的競爭趨勢就是：

未來的知識工作者，對數據和人工智慧的駕馭能力，將上升成為其最核心的競爭技能之一。

這才是未來10～20年影響我們每一個人具體生活的大事件，將會革我們命的並不是機器，而是和機器充分配合工作的人！

人們對數據和人工智慧的駕馭能力，將會成為一項左右競爭成敗的重要技能。這就像是汽車發明以後，司機成為了一個重要的職業；電腦發明以後，使用軟體和程序才成為了一種重要的工作技能。

在李開復最近的一篇文章中，他提到矽谷最近的一個趨勢：「現在，做深度學習的人工智慧博士生，一畢業就能拿到200到300萬美金的年收入的offer，這是有史以來沒有發生過的。」

其實大部分經歷過計算機革命的人都會馬上理解這些現象的意義：過去人們撰寫文檔時是沒有計算機和互聯網的，人們藉助各種類型的打字機來完成文檔的錄入和排版。但是計算機文字處理技術出現以後，短短十幾年的時間，幾乎所有人都更換到計算機的工作流程上來。

這背後的真實原因，並不是學者們所說的「主動迎接科技革命」，而是因為其他人一旦率先開始使用計算機提高效率，我們為了和他們競爭就「必須要趕上」。如今，我們正在經歷的這場人工智慧與人腦的大戰，不就預示著一次近在咫尺的智力工作革命嗎？

在過去的30年間，計算機和互聯網已經徹底顛覆了人們的工作方式，那些重複性的、簡單工作的學習成本降得越來越低，公司越來越少僱傭全職的打字員或翻譯，取而代之的是將語音錄入、文檔校對、文秘、客服等工作充分地外包，從而讓公司的全職員工可以專註於銷售或產品研發等最重要的工作上。

很多人（包括筆者）都已經經歷了計算機和互聯網的革命，因此我們知道這種技術革新浪潮是應該被重視的。

計算機智能的發展並不會就此止步，在未來的20年內，人工智慧將會繼續革那些重複性、低智能的工作的命，用更便宜、更快速、更安全的軟硬體產品，徹底解放人們的工作效率！

如果我們結合著人工智慧領域的革命這個大背景來思考企業效能的問題，就會發現企業裡面的很多基層信息處理工作都只需要比較基本的人工智慧就可以完成。比如文檔的整理，實際上大多數情況就是基於簡單的智能邏輯來對比、整理和刪減文檔。比如語音錄入，就是智能地辨別聲音來轉換成文本……

基於本文當中所提到的不可避免的趨勢，我建議你從現在就開始認真地考慮如下問題：我如何將人工智慧技術引入到我的工作環境當中，來提高我的工作效率呢？

我的觀點是，不要杞人憂天地把人工智慧視作你的敵人，而是要把它看作你未來的可靠幫手，重要的是你能否坐在AlphaGo的頭頂上駕馭它，而不要被它拽著走。在未來幾年之中，你一定要在這方面行動起來，因為一旦競爭對手先想到了藉助人工智慧提高效率的方法，你就會成為競爭中那個被迫在後面追趕的一方。

99%不了解AI的群眾只能通過不了解AI的媒體寫出來的為了博取眼球的文章來了解AI。

=======這麼多贊是否應該更新一下=======
計算機科學始終是一門發展了不到一個世紀的前沿科學。若是想讓廣大群眾像了解牛頓力學那樣來了解計算機科學，還有很長的一段路要走。相比量子力學，相對論之類，絕大多數的人也就只知道一個名稱。這樣的人看了一點胡謅的新聞再加上點自己腦洞大開的想法，就開始散布自己的觀點。連民科都算不上。這種人的觀點基本都是AI威脅論。

再有就是搞AI的人，不了解計算原理。
其實這點更可怕。機器是有極限的，在這個極限之內，你想怎樣就怎樣，若是想越過這個極限，抱歉，請恕機器太笨。但是有些做AI的人完全無視這些事實，行動起來就像是大躍進時期的狂熱份子，妄想著人定勝天超越這個極限，以實現強AI為人生目標。

上面這兩種人遇到一起，這不就要爆發世界大戰了么。

——————
PS. 關於Alphago背後的演算法， @Angie Zhang的答案里有， @安吉的答案雖然簡短，但一擊必中。自己不搞這個方向的研究，就不想多說。附上一些計算原理的內容，不深入討論細節。細節參見計算原理Theory of computation。

世界上所有的「問題」分為兩種：在任意有限的時間內，可以被圖靈機計算的問題和不可以被圖靈機計算的問題。能計算問題的多少，可以定義一個機器的計算能力Computability。和大眾認為的計算能力不同。
所有的「圖靈機可計算問題」又分為兩種：能夠快速解決的問題和不確定可以快速解決的問題。簡單的理解為容易解決的問題和困難解決的問題，也就是熟知的P和NP。解決一問題的速度，可以定義機器的計算速度，翻過來可以定義問題的複雜度Computational complexity theory。計算能力和計算速度是兩個概念，需要分清楚。大眾認為的計算能力是指計算的速度。
圖靈機的計算能力不低於，過去人們造出來的所有計算機的計算能力加上現有所有計算機的計算能力再加上未來人們會造出來所有計算機的計算能力的總和。多紙帶圖靈機Multitape Turing machine和普通圖靈機計算能力等價。還有量子圖靈機Quantum Turing machine的計算能力和普通圖靈機的計算能力等價。所以如果圖靈機無法完成的事情，那麼就請接受這個事實，不要用並行計算和量子計算去做一些無謂的嘗試。
圖靈機計算能力的極限是圖靈可枚舉語言Recursively enumerable set。任何一台機器，等價一個機器接受的語言，等價定義這個語言的語法，詳見動自機原理Automata theory。是不是很有趣，我們從計算機科學，來到了語言學。圖靈可枚舉語言是一種形式語言，形式語言是自然語言的真子集，而人類接受的是自然語言，那麼由此可見人類的計算能力高於機器。
圖靈可計算等價於可計算函數等價於遞歸函數??-recursive function 等價於 Lambda calculus。演算法（演算法是有嚴格定義的喲）等價於軟體等價於硬體等價於圖靈機Universal Turing machine。
既然圖靈機的計算能力不夠，我們是否可以設計超越圖靈機計算能力的機器Hypercomputation ？想法很好，可惜基本不行。根據邱奇圖靈假設，可計算函數等價於可有效計算的函數。「Every effectively calculable function is a computable function.」所以就有這樣的結果，你設計了一個強人工智慧，結果他無法變成演算法。或者這個人工智慧的運行過程無法在機器上實現。

所以你看，這背後的水有多深，若是想讓大眾了解這些確實困難。如果連算盤的計算能力和圖靈機的計算能力是如何等價的都無法理解，就多看點書少說點話，沒壞處。

評論區有人反對，就來澄清一下。
第4條中關於「人類的計算能力高於機器」的結論，這不算是一個嚴格的證明。因為本身自然語言是無法被形式化定義的。但是我可以有不嚴格的證明，一個形式語言在定義的時候就確定好了這個語言中的所有語句，而自然語言的本身是隨著時間的變化而變化的。因此我們無法形式化的定義一個自然語言，來預知未來自然語言中會加入的新的語句。既然如此，形式語言就成為了自然語言的真子集。
還有第6條中的邱奇圖靈假設，當然還只是一個懸而未決的問題。

是崔永元。
如果小崔轉戰人工智慧，轉基因或成最大贏家。

就像有個答案說的，之前有「轉基因食品有害」和「Wi-Fi輻射論」，現在該輪到『人工智慧威脅論』了。

普通人對人工智慧的了解來自以下方面：

科幻電影：

包括但不限於《我，機器人》《2001》《黑客帝國》《終結者》

科幻小說：

包括但不限於《神經漫遊者》，阿西莫夫機器人系列，《海伯利安》

媒體：

每當AI有點進展，媒體就得來個大新聞，動不動就人類藥丸。

但一般不包括，也不會有：
數學基礎（抽代，線代），統計基礎，編程基礎（Python，R，or Matlab )，機器學習基礎。

也不會看這類書：

《數學之美》《機器學習實戰》《統計基礎》等。

小說和戲劇的核心是『衝突』，人物和人物的衝突，人物和環境的『衝突』，『衝突』才是劇情發展的必要條件。

科幻電影和科幻小說，自然就多把『衝突』表現在科技與人之間，科技與社會之間，科技與文明之間。輪到描寫人工智慧的時候，小說家們也會毫不吝惜筆墨。「人工智慧反叛」「人工智慧統治人類」…

小說家會描寫人工智慧和諧發展，造福人類的故事嗎？抱歉，這不是童話，這是小說，要表現『衝突』。

小說可以參考，千萬別把小說當成現實（我知道有人要抬杠說凡爾納，我替您說了）。

我應算是半個科幻小說迷了，但是看到網上動不動就人類藥丸的論調，也挺捉急。

照這個節奏下去，人們會把小說當成學術，把人工智慧技術當成危險且不可控的武器，把研究人工智慧的科學家當做電影里的反派，而自己，才是那個偉光正的主角。

最怕人工智慧在國內的發展受到阻礙

最讓我害怕的是不明真相的老外會以為圍棋是韓國人發明的。

突然覺得自己好狹隘，在人類命運的關口，我居然在關心這種微小的事情(?_?)

謝邀，沒什麼好害怕的，用兩位先賢的話與君共勉。

世界潮流，浩浩蕩蕩，順之則昌，逆之則亡。
——孫文

紅日初升，其道大光。河出伏流，一瀉汪洋。潛龍騰淵，鱗爪飛揚。乳虎嘯谷，百獸震惶。鷹隼試翼，風塵翕張。奇花初胎，矞矞皇皇。幹將發硎，有作其芒

。天戴其蒼，地履其黃。縱有千古，橫有八荒。前途似海，來日方長。美哉我少年AI，與天不老！壯哉我AI少年，與國無疆！

——梁啟超，小改了兩處

最害怕網路不好，人家有什麼新玩具不帶你玩。

我這裡必須反駁@Goliath Li的回答：
AlphaGo 戰勝李世石後，最讓你害怕的是什麼？ - 知乎用戶的回答

並提醒 @Angie Zhang ，請仔細閱讀上面這個回答再表示贊同。

請注意：
現在沒有任何研究證明人腦強於圖靈機
據我所知，現在沒有找到一個機器理論上不能解決，但人卻能解決的問題
@Goliath Li回答中，關於計算原理的說法是對的，但「人強於機器」只是他的主觀判斷

圖靈可枚舉語言是一種形式語言，形式語言是自然語言的真子集，而人類接受的是自然語言，那麼由此可見人類的計算能力高於機器。

「形式語言是自然語言的真子集」這一點並沒有證明，以上論述不成立。

由於目前我們尚未完全弄清楚人腦的機制，所以「人和機器誰更強？」是無法判斷的一個問題。就還原論的角度來看，人腦在物理上沒有機器不能模擬的成分。我們無法保證強人工智慧不會實現。

人工智慧威脅論目前確實是一個沒什麼價值的問題。但在沒有任何科學依據的情況下就說「人腦強於機器」，同樣會對普通人造成誤導，以為科學上已經證明人比機器強。希望上面兩位科班出身的答主注意這一點。

害怕「人工智慧威脅論」成為繼「Wi-Fi致癌」、「轉基因食品有毒」後又一暴露人民群眾姿勢水平的新話題

我他媽怕有天想裝個逼都被電腦給比下去……

我不恐懼AlphaGo，我恐懼其他

人機大戰昨天已經過去了，最終4：1 AlphaGo 戰勝了李世石取得了勝利，老王本來漠不關心了，有賴於朋友圈瘋狂的新聞轉發者，不得不被動接受了很多關於這場比賽的信息。比賽的勝負，我總覺得意義很寥寥。但是透過這場比賽，老王自己有別的看法。

先補充一下背景知識——圖靈測試

From 維基百科

圖靈測試（英語：Turing test，又譯圖靈試驗）是圖靈於1950年提出的一個關於判斷機器是否能夠思考的著名試驗，測試某機器是否能表現出與人等價或無法區分的智能。測試的談話僅限於使用唯一的文本管道，例如計算機鍵盤和屏幕，這樣的結果是不依賴於計算機把單詞轉換為音頻的能力。

狄德羅設定圖靈測試標準：「如果他們發現一隻鸚鵡可以回答一切問題，我會毫不猶豫宣布它存在智慧。」

From 老王百科

圖靈測試：當測試者面對兩個黑箱，一個黑箱背後是機器，一個黑箱背後是人類，測試者無法通過對話區分二者時，那麼意味著這台機器擁有了人工智慧。

所以，面對人工智慧，機器起碼要達到電影《Her》一樣的能力。而眼前這台 Alpha ，僅僅在圍棋策略這一點上超越了人類，甚至於都無法說完全超越。而面對圖靈測試更是遠遠不及。什麼？人工智慧已經到來？標題黨回家要多讀書。

面對這場比賽，機器贏在了性能，而不是智能。倘若，談論性能，手邊的計算器性能就早已超過了人類。這也是我開頭提到了的，為什麼我覺得比賽的勝負，意義很寥寥。人類超越計算機的核心點，不在於強大的運算能力，縝密的邏輯分析能力或者浩瀚的記憶能力，那些是我們已經輸了的能力。真正的核心——在於創造。

聽著很玄乎，然而什麼是創造？

當我給機器幾本書《三體》《湧現》《逆轉》《東周列國志》，他返回我一個結果，面對傳統企業IT架構，雲計算提供商應該如何推出自己的雲產品才能迅速佔領市場，那麼他擁有的不在是性能而是智能了。所以如果你問我什麼是創造的話，我認為創造不是基於本領域的經驗和歷史，搜索出一個對應場景的策略，也不是面對問題或者場景，憑空想出一個解決方案，而是基於我自身的學習，如何『嫁接』知識，通過其他領域，其他不相關的場景，提煉背後的規律，在本領域進行使用。正如互聯網產品經理如何誕生？最初創意來自於日用品公司寶潔的職位設定。

談到創新，老王心裡又想起了一件事。『龍哥』，熟悉一點中國互聯網史的人知道，張小龍成名不在微信，在 Foxmail 。後來因為收購和再收購的原因，他來到了騰訊，主管 QQ郵箱。有時候我心裡琢磨，一個做郵箱的人，怎麼會想到做出微信這種東西，理念從來不是憑空誕生的。我想郵箱和微信必然兩者之間有什麼共通性。後來我注意到郵件訂閱，郵件訂閱的背後是 RSS 閱讀。你去看看兩者之間的產品設定就能明白一切了。所以，當龍哥在內部會議上說，微信要做什麼？我們要制定一個統一的標準，讓企業和個人的消息推送和服務通過一個渠道發給用戶，後來的事情你們都知道了。那天晚上我一個人靜靜的看著郵箱訂閱和公眾號，我猜這就是所謂嫁接和創新。

進到這裡，是否覺得機器學會創新還太遠，人工智慧遙不可及？老王接下來的觀點，可能會讓你覺得人工智慧永遠無法到來。

某個哲人（貌似是黑格爾，不記得了）曾經說過，當兩個A和B呈現出完全一樣的表現的時候，那A和B就是一樣的。現在我們面對兩件事，第一件事A，面對傳統IT架構推出雲產品的市場策略，第二件事B，面對魏國，齊國在桂陵之戰中採取的戰術策略。我為了解決A，借鑒了B的規律，但是A和B策略必定不是一個策略，這個嫁接的過程，或者說模仿的過程，會有一個轉變，這個轉變包含了『主動優化』和『隨機誤差』（就是模仿的不完全一樣）。這就是為什麼人類社會不斷有新的事物湧現的最核心的點。某個廚師的一次烹飪失誤，發明了薯條。優化和誤差帶來變化和增量。注意是增量。注意是增量。注意是增量。為什麼人工智慧永遠無法到來？是否能『主動優化』我們暫且不談，光是『隨機誤差』機器就無法做到這個。機器的隨機來自於循環周期很長的隨機函數，這是有窮盡和有邊界的，並做不到真正的隨機。恰恰是對手太縝密，所以他不出錯，不出錯意味著他的邊界不會增長，機器會在設定的邊界里，發揮出巨大的價值，但是跳不出這個邊界，機器永遠是機器。

所以什麼時候應該恐懼？當機器學會了真正隨機，學會了主動拓展邊界，那可怕的事情才開始來臨。

Alpha還差的太遠。

文章敘述了這麼多，也僅僅是像各位看官解釋了標題的前半段，為什麼我不恐懼Alpha。然而我在恐懼其他的什麼？

Alpha在提醒我，也是在提醒所有人：我們的職業是不是會被機器替代？

這個話題，被提起來很多次了，這一次比以往強烈。上文中，老王聊了什麼是計算機無法替代的能力，那什麼是計算機可以替代的能力呢？除去很多簡單重複勞動，這些富士康已經在做了。其餘的是什麼呢？是那些由依靠豐富行業知識點和深厚行業經驗構成的工作。我們復盤這場比賽，Alpha學習了大量的歷史棋譜，然後做到了4：1。同樣，醫生呢，律師呢，軟體工程師呢，會不會有可能呢？我只是簡單列舉，並不是說這些職業會完全被替代，這些領域裡必然有大量有待創新的部分，我也更無意冒犯這些職業的從業者。我意在所有人重估自身的價值。兩個事例可以幫助大家思考。第一個事例，在美國有關公司破產清算，因為業務涉及面廣，對知識點要求高，一直是律師界最複雜最賺錢的領域之一。然而最近IBM出了一個系統，意在依靠這個系統完全解決這個問題，令人擔憂的是，這個系統推出以後，對應律師的收入大大減少，明顯人員需求在萎縮。第二個事例，我所在領域推出的雲產品，打出的概念之一，就是減少運維成本，這個成本包括了物的成本和人的成本。這意味著我們做的越成功，就有越多運維工程師就會失去工作，商業世界的衍化就是如此。強大的運算能力，縝密的邏輯分析能力或者浩瀚的記憶能力，你的職業是否依靠這三點。如果是的話，就值得重估自身價值

歡迎關注微信公眾號：王煜奕

http://weixin.qq.com/r/bEW7owrEkFfvrU7A9xB_ (二維碼自動識別)

仍然是害怕有生之年看不到AI淘汰人類，太慢了太慢了啊！！！

害怕中國計算機學界繼續落後, 以及媒體繼續無良亂扯。

不知道距離人工智慧寫的小說得文學獎還要幾年。

害怕？我就害怕網上這些陰謀論誤導群眾啊

沒注意是打什麼時間開始，人工智慧威脅論變得甚囂塵上。總覺得這跟《奇點臨近》那本書有些許關係。

對於奇點臨近這四個字，前兩個字我部分認同，後兩個字我完全不認同。

奇點臨近讓我第一次知道了原來還有未來科學家這麼一種頭銜。考慮到作者科茲威爾本人又是一個每天吃一百多種營養藥丸等待奇點的神奇存在，我更願意把這本書歸類為科幻小說。他在科學界的地位應該和經濟學界的宋鴻兵、生物學界的崔永元大致相當吧。

回到人工智慧的話題，深藍擊敗人類國際象棋冠軍是在1997年，AlphaGo擊敗人類世界冠軍是19年後的2016。

19年，從目前透露出的一些技術細節，我能看到的進步主要集中在具體演算法和運算能力方面。這種進步對於發展真正具有自主意識的人工智慧而言實在是小的可憐。

先說演算法方面，最值得關注的應該是其中的深度學習演算法。機器學習領域技術發展直到2006年才在理論層面獲得重要的突破，而在那之前的幾十年間取得的進展乏善可陳。即便是在2006年之後，我們所能看到的成果也僅僅是一些在相比人類而言十分低級的學習能力。比如IBM的Watson、Google的圖像識別系統等。對於一個真正的人工智慧所需要的自我學習能力，這些進展只能說是有趣的，而不是令人激動的。我無意貶低那些科學家們在此領域取得的成就，只是想強調這些研究目前所處的階段與目標究竟還有多大的距離。深度學習系統迄今仍不能幫助人們良好的完成不同語種之間的翻譯，我始終認為這是一個應該在人工智慧發展的早期階段就解決的問題。

再說運算能力方面，近年來計算機的運算能力在不斷的提升，但是摩爾定律似乎早已被打破。其實單說計算機在數學方面的運算能力，早在它誕生之初就已經超過了人類，而現在人腦早就不知道被甩了多少條街了。然而這些對於人工智慧而言並沒有什麼卵用。人的大腦跟我們目前所製造的計算機根本就不是在用同一種方式工作，或者更準確的說人類目前還並不了解自己的大腦究竟是怎麼工作的。我們都不了解它，如何去創造它？所以我並不認為計算能力的穩步提升與人工智慧的發展之間存在什麼必然聯繫。奇點臨近的作者或者很多其他抱有類似觀點的人，依據CPU的運算能力的提升速度來假設人工智慧到來的時間點是一種十分粗暴而無理的做法。

我相信真正人工智慧在遙遠的某一天終將到來，但就目前的發展現狀我們還遠未到需要警惕其危險性的程度。希望這些過早出現的威脅論不會把人工智慧的研究也帶入到轉基因那樣的紛爭當中。

謝邀
作為一個不那麼擅長research的AI PhD
看到別人已經用Convolutoinal Neural Nets做出了那麼牛逼的系統而我還每天在苦逼的調參數
我最害怕的事情大概是我這樣的研究水平到底能不能順利畢業吧