為何大家對AlphaGo比人類棋手強大的可能性這麼恐懼？

01-03

還老是有人談到什麼人工智慧，但是阿爾法狗不是只是通過建模，計算這樣的程序來學習的嗎？根本沒有半點人工智慧的樣子啊(??ˇ?ˇ??)。個人認為就算阿爾法狗很厲害，也不過就是人類擁有了一項更強大的工具而已，整件事給我的感覺就像是，有人發明了一輛跑車說可以跑的比人類更快，人類不服，讓博爾特和他比5場，失敗了以後悲痛的疾呼：人工智慧已經打敗人類了！但是我們有更強的工具了耶，難道不應該高興嗎。況且人類的大腦本來就不單單是為了計算而生的，要是哪一天機器在交流上也比人類更厲害了（我瞎說說的，這個似乎無法量化，可是比如撩妹也算吧），那我覺得可能有點恐怖(? ??_??)?

做人工智慧研究的人一直很鬱悶，因為不管做出一個什麼，就會被別人覺得「這算什麼人工智慧，只不過是什麼什麼而已」。似乎人工智慧非得是什麼神奇的、神秘的、人無法理解的東西似的。

人對它的恐懼就來自於這裡。如果人能夠理解它的運作，它還比人強，那說明人類還不如它神奇，人類的某種尊貴地位也就沒有了，安全感也隨之沒有了。

這個問題主要是由於一個思維誤區：

由於圍棋是對人來說很難的遊戲，圍棋高手智商非常高，因此圍棋代表了人類智能的最高水平。如果現在AI在圍棋上超越了人類，那麼它就超越了人類智能的最高水平，也就整體超越了人類智能。

持這種邏輯的人請考慮一下，非常大腦里那些速算和記憶項目對人來說難不難？然而電腦從出現那天起就可以在這些項目上碾壓非常大腦里的世界冠軍。圍棋在這個推理裡面和這些項目（或者說和國際象棋）的根本區別是什麼？其實僅僅是電腦超過人類的時間點有早晚罷了。AI領域有一句玩笑：當電腦掌握某項任務的瞬間，這項任務就被從「智能」的定義里除名了。圍棋在深藍擊敗世界冠軍之後獨享了若干年「人類智慧巔峰」的名頭，如今結束了，僅此而已。如果實現AI之後回顧歷史，這應該是一個重要，但並非決定性的事件。

實際上圍棋（以及其它棋類）並不是人腦能力的一個好的代表。因為它們被設計出來，就是要對人類來說很難的。「為難自己」是所有遊戲的共性。棋類要求的比較深的搜索並不是人腦的日常任務（假設/搜索/路徑規劃是，但日常要求的搜索很淺）。棋類體現出的，與其說是智能的本質，不如說是人腦的高度靈活性：可以通過訓練掌握一種被有意設計成不適合人腦特點的任務。

那麼，現在機器經過訓練也掌握了同一（不適合人腦特點的，不一定適合機器特點）任務，並且能力超過人腦，很奇怪嗎？能說明機器全面擁有了智能嗎？至少能說明機器在全面擁有智能的道路上跨過了最大（或者最後）的障礙嗎？

我對前兩問的回答是明確的「否」。第三問的回答是「不知道，但不大可能」。

現在對機器來說最難的，仍然是那些每個人都擅長的，擅長到我們都不把它們當做智能的一部分，意識不到它們的過程的（下意識）任務：視覺和語言。

這裡面邏輯也很簡單：人腦和機器構造和設計目的非常不同。因此人腦擅長的任務，對機器來說通常不擅長。而人腦不擅長的任務，機器做到和人腦相當的水平應該相對容易。類比一下：一個普通人，是學圍棋到和李世石相同水平容易呢，還是學烹飪到和李世石相同水平容易？（假設李世石不是隱藏的天才廚師）

深度學習在視覺和語言方面都有進展，但這兩個領域要達到人的水平，讓機器擁有人類的常識（我們對世界的建模）是必須的。這方面應該還很遠。

另一方面，如果機器真的能在語言方面達到人類水平 --- 比如通過圖靈測試，後續的AI研究也可能已經沒有必要了 --- 這樣的機器應該可以自己進行AI研究了。

據我所知，我身邊的人沒有因為阿爾法狗下贏李世石而感覺到恐懼的。

大家說恐懼啊，智能可怕啊之類的，都只是為了開開玩笑的。

就好像大家時常會把「嚇死寶寶了」這句話掛在嘴邊。

其實不是為了表達真的害怕。

而是為了賣萌。

一種層面上來說，普通人，或者非計算機領域的人，把現在人工智慧（或者說可自我學習的演算法）看的太低了。

一種層面上來講，他們把圍棋這個遊戲看的太高了。

簡單來說就是，無知。

瀉藥。

大清國禁止火車通行，理由是怕驚擾大清國的龍脈。

人類在科技進步面前，總是愚昧的。

這次AlphaGo和人類的圍棋對戰，不僅僅給人類特別是中國普及了AI，而且也測了一次智商。

[轉貼]人類應該怕AlphaGo嗎？

作者：慕溪

（原載《境界》2016-03-15，微信號 ijingjie）

這場與會自己學習的AlphaGo的對戰失敗，引發人類對自己身份的焦慮和對未來的擔憂---機器會變得比人聰明嗎？人的尊嚴何在？如果機器可以模擬人的神經，進而具有推理抽象思維甚至情感的能力，人和機器的區別在哪？人工智慧會在未來的某一天統治我們的生活嗎？

人類一向不喜歡失敗，尤其是敗給自己所創造出來的東西。而這幾天世界圍棋冠軍李世石與AlphaGo交戰中連輸3局，儘管13日舉行的比賽李世石扳回一局，但比賽取5局3勝制，不管15日的結果如何，其實人類已經輸掉了比賽，而這樣的失敗並不偶然。

一個月前，AlphaGo以5:0的勝績擊敗歐洲圍棋冠軍樊麾，早在1997年，IBM公司的國際象棋電腦「深藍」就戰勝了當時國際象棋的世界冠軍卡斯帕羅夫。2011年電腦沃森在美國電視智力問答節目中戰勝歷代冠軍；2012年被封為永世棋聖的米長邦雄被軟體Bonkras擊敗……

而這次的失敗卻引起了不小轟動，因為在圍棋這個「人類最後的智力驕傲」上遭遇了慘敗。AlphaGo的演算法相比之前大大優化，不再單單依靠摸索所有可能的暴力演算法，而是在此基礎上加入了模仿人類神經網路的能進行抽象思維的「深度學習」演算法，「它不是一個設計完就結束了的程序，AlphaGo會自己學習，觀察它學習各種技能真是太美妙了。」DeepMind公司聯合創始人德米斯·哈薩比斯如是說。

這場與會自己學習的機器「狗」的對戰失敗，無疑觸動了人們的神經，再次引發了人類對自己身份的焦慮和對未來的擔憂和恐慌---機器會變得和人一樣嗎？甚至比人聰明嗎？那麼人的尊嚴何在？如果機器可以達到人的水平，可以模擬人的神經，進而具有推理抽象思維甚至情感的能力，那麼人和機器的區別在哪？正如在很多科幻小說、科幻電影想像和渲染的一樣，人工智慧會在未來的某一天統治我們的生活嗎？

到底是什麼定義我們為人？

在人類與人工智慧互動中，人們一直所經歷的「身份危機」的根源，就是智能定義了人的身份和尊嚴嗎？僅僅是智能使人從動物中脫離出來嗎？人類的文明僅僅由人類自己的智能造成的嗎？如果是這樣，機器人會是比人還要尊貴高級的新物種嗎？

要回答這個問題，不妨讓我們看看基督教是如何看待人的尊嚴和身份的。

Imago Dei (「image of God」——神的形象)，是一個神學辭彙，專門用來形容人類，象徵神和人之間的特殊關係。基督教認為人類是神按著形象和樣式所造的。「神說：『我們要照著我們的形像、按著我們的樣式造人，使他們管理海里的魚、空中的鳥、地上的牲畜、和全地、並地上所爬的一切昆蟲。』」（創世紀1：26）。

舉世聞名的荷蘭改革宗神學家赫爾曼·巴文克（Herman Bavinck）認為，我們不是擁有或承擔著「神的形象」，而是我們本身就是「神的形象」。所以神的形象不是一個特徵，而是我們成為人的本質，是將人從動物界區分的根本標誌。作為人類，我們是神的兒子、樣式和後裔。那麼，如何定義「神的形象」呢？

「神的形象」從本質上體現在神賜給我們的靈魂和身體上。宗教改革家加爾文認為，上帝的形象，雖然表現在人的外形上，可是他真正的形像，無疑是在靈魂中。（《基督教要義》）人既被稱為是按神的形象所造，必然與神的品性相似（彼後一：4），所以他還認為，「神的形象」還包括了聖潔、公義和真理的知識。而奧古斯丁認為「神的形象」存在於人的靈魂中，有著神「三位一體的遺迹」，即記憶，理性和意志。托馬斯·阿奎那也認為，神的形象體現在人認識上帝並愛他的能力上。

人與神的親密關係彰顯著「神的形象」；人與人之間建立和維持複雜關係的能力也使人更像神。（改革宗神學家卡爾·巴特和艾米爾?布魯內爾）

所以「神的形象」不僅是指人的智慧，理智，還包含情感、聖潔、公義、愛人的能力、自由的意志、真理的知識和管理的使命，更重要的是與神難以割捨的關係。這是人區別於動物的根本屬性。儘管所有的被造物都展現神的痕迹，但只有人是「神的形象」。（巴文克）這是人的尊嚴和身份，是神一開始就賜給我們的最好的禮物，是我們享受與他同在的親密關係的前提。

既然「神的形象」如此美好完善，為什麼我們在生活中體會不到？這是因為人類始祖亞當和夏娃在墮落之前，本來擁有上帝的形象，可以時刻按照上帝的旨意生活，享受與神同在的親密和自由。但始祖的墮落，使所有人都不自覺地違抗上帝的吩咐，上帝的形象也受到了虧損。

人不但沒有正確反射上帝的形象，反而用這個扭曲了的上帝的形象來反對上帝。保羅稱這種情況為罪（《羅馬書》3：9），人在罪中，會驅使我們老是以自我為中心，喪失了全心、全意、全力愛神和愛人如己的能力。

陷在罪中的人，在形式上雖仍保有神的形象，但已失去此形象的實質──在我們裡面的能力，所以我們才會看不清自己的真實形象，對自己的身份產生焦慮。我們不再享有自由，反而被自己的私慾捆綁轄制，極度渴求物質，極度渴望接納和愛，在慾望循環的沼澤中一次次掙扎，在人際交往的圈子裡一次次受傷。

只有給予正確引導，才可以使被扭曲的上帝的形象得到更正，每個人裡面獨特的尊嚴也可以被重新恢復，得到尊敬。「重生」是我們開始恢復上帝形象的第一步。上帝藉著聖靈重生我們，使我們穿上新我，在聖潔和公義中重造，然後逐漸被改造成耶穌基督的形象。這正是上帝要賜給我們的禮物。所以，人工智慧縱使計算超能，縱然可以在一次次比賽中打敗我們，但它永遠無法奪去人的尊嚴和身份，因為它，從本質上講，終究只是一台人造的機器而已。

機器會產生情感嗎？

長久以來，科幻小說和電影為我們提供了太多關於智能機器人的想像。相信大家都看過詹姆斯·卡梅隆的《終結者》，裡面的「天網」就是一項由人類開發的智慧系統，但後來天網產生自我意識，釋放核彈造成人類世界完全崩壞，又製造出了大量的機械軍團以及智能機器人「終結者」，打算將剩下的人類趕盡殺絕。

比之「天網」的冷酷的理智，大導演斯皮爾伯格的《人工智慧》卻給我們展示了一個有愛的機器人「大衛」。通過與收養它的人類媽媽的互動，它開始有了人的情感，甚至比常人更加熱烈和執著，哪怕它媽媽去世後它還一直苦苦找尋。「大衛」對媽媽的愛感動了許許多多的人，因為透過大衛，我們似乎看到了自己所丟失的愛的本來面貌，而它恰恰是人本質的東西。

雖然科幻電影和小說塑造著我們對機器人能擁有人類情感的想像，它們在實際生活中的應用，也似乎一次次給我們帶來機器能讀懂我們的想法和情感的幻覺。

機器學習、圖像識別這些人工智慧技術在我們實際生活中被廣泛應用，我們可以和Siri聊天，可以讓Google Now自動推送給我可能需要的信息，可以讓 Inbox 自動撰寫郵件回復。此外，人性化的谷歌搜索引擎、蘋果的語音助理Siri，科幻色彩更濃的谷歌眼鏡、無人駕駛汽車等層出不窮的新發明，也讓我們認識到它們擁有感知周圍的環境，分析處理信息、識別人的要求，甚至自主學習的能力。

然而，在背後支撐它們的「智能」的，並非人類思維層面的智慧，而是廉價、可靠、工業級的數字智慧。這樣的數字智慧註定了人工智慧無法解決的一大難題，就是人的情感。它始終是橫跨在人腦與電腦之間一條無法愈越的鴻溝。

雖然現在的智能電腦和機器人具有非常高的智商，但其情商和意商幾乎為零，這極大地限制了其使用功能和應用範圍。近年來，科學家意識到這樣的問題，所以一次次嘗試著將情感轉化成科技，其中一個最有可能實踐的方法就是「情感信息數據化」。

2008年4月美國麻省理工學院的科學家們，展示了他們最新開發出的情感機器人「Nexi」，該機器人不僅能理解人的語言，識別人的表情，還能夠對不同語言做出相應的喜怒哀樂反應，還能夠通過轉動和睜閉眼睛、皺眉、張嘴、打手勢等形式表達其豐富的情感。

然而實際上它只是收集了人表露的外在的情感信號，並模仿了人類的某種情感表達，只是一種低級的、零碎的、表面的、機械的信息處理過程。它並沒有真正理解人的情感的內涵，它甚至只能解讀某種情緒，而不知道這種情緒的來源和影響。

它不知何為憐憫，何為無條件的愛。AlphaGo第一場就戰勝了李世石，但是它不會感覺高興，不會理解贏的感受，也不知道自己今天為什麼要下棋，甚至自己喜不喜歡下棋也都說不上。它完全無法理解人的喜怒哀樂、七情六慾的情感以及信任尊重、誠實守信的品格，它更是絲毫不懂什麼是人文藝術、美和愛。

舉個簡單的例子，一對母子在湖面划船，兒子因為玩耍不小心掉入湖中，母親自知不會游泳，但四周無人情勢又危急，因為對兒子的愛，自己還是跳了下去。

換作機器人母親，不可否認的是，它也可能會做同樣的事，但它是由被設定的程序造成。遇到這樣的情況，它可能會捕捉到兒子危險的信號，分析各種營救的可能，它可能被設定要營救的對象應該給予最高的優先權，哪怕冒著使自己報廢的危險，所以在經歷一系列的分析思考，選擇判斷之後它也跳了下去。

那麼問題來了，它對這個男孩有愛的情感嗎？有撇除利弊由心發出的憐惜嗎？它會不經分析無條件的做出選擇嗎？同樣的情況，換作另外一個並不在乎兒子的繼母，她並不想施救但又面對道德的煎熬，陷入兩難的境地。機器人能同時擁有這樣複雜的狡黠的情感嗎?

這種將情感、意志「數據化」進而使機器人擁有獨立的意識和人格的設想，無疑是源於對人的機械論和原子論的認知。其實人類從來沒停止過這樣的設想，甚至在古希臘時期，畢達哥拉斯就提出了「萬物皆數」的哲學理念。最近的醫學、心理學和唯物主義都試圖把靈魂看作是人大腦的一部分，將人本身看作是一台由力和因果操縱的機械，所以都在思考著如何將人的思考、意識和情感還原成大腦和神經系統活動的方法。

如果是建立在這樣對人的認知上，那麼人們對人工智慧最終會超越人類統治人類的擔憂就無可厚非，因為這是人自己甘願紆尊降卑，妄自菲薄的後果。這種機械主義只會讓我們越來越迷失，越來越彼此看輕，越來越冷漠、功利和物質化。

更該擔心的是過度依賴科技

人創造了機器人，機器人在拚命地模仿人，而人又在拚命崇拜機器人。究其本質，不過是人類群體對自我的一種智能崇拜而已。

人看不清自己本來的身份和尊貴，看不清自己的思想、情感、意志和愛神愛人的心是如何完美和諧組合到一起。機器人因為沒有情感，所以高智能，所以人們感到強大可畏。當它有了情感，同時就有了脆弱的可能，因為它就會影響理智和判斷，會在與人的互動，愛與被愛間受傷。它會同時具有兩者嗎？人類會創造出比自己在思想、意志、情感和靈魂上還要高級的物種嗎？這不僅不符合我們的經驗，在邏輯上也絕無可能。

最終，讓人們一直羨慕、恐懼、和焦慮的，其實都是自己已失去的形象。相較機器人會威脅我們未來的擔憂，人們更應該擔心的是對它的過度依賴。

這種對科技的依賴正在逐漸退化著我們的各種能力，極大地影響著我們的生活。這種負面的影響，一次次被研究所證實，一次次被我們的經驗所確認。

美國密蘇里大學研究人員對科技是否會對人類的決策行為產生反作用進行研究，結果顯示，過分依賴科技或會影響人類的決策過程，如人們在投資時，往往會因過於信賴科技而產生誤判。

韓國有專家發現，越來越多人過度依賴科技，使右腦退化，出現記憶力和專註力下降等早期痴呆症跡象，科學家稱之為「數碼痴呆症」（digital dementia），對腦部仍處於發育階段的青少年影響尤其嚴重。他透露有病人年僅15歲，卻連大門六位數的密碼都無法記住。

除去這些，各種病症也在我們生活中層出不窮---「手機依賴症、微信成癮症、無wifi恐慌症」等，我們生活在這樣一種依賴的狀態下，生活在手機和應用程序的牢籠里。我們都有這樣的經歷，時不時感覺到自己有些字已不想不起怎麼寫，文字書寫能力退化，手機沒電心理會不自主恐慌，出門哪怕熟悉路也用GPS導航，習慣於微信聊天見面卻無話可說……

科技的發展，無疑極大方便了我們的生活，這本身是好事，但對它過分依賴就會演變成偶像崇拜。我們變得一刻離不開它，甚至賦予它情感，每天親近它甚於親近自己的心，也希望能靠著它一步步走向強大。而人的自身的能力卻在一步步退化，被其捆綁束縛。雖然無需徹底和手機、電腦、智能產品絕緣，但必須有意識地減少對它們的依賴性，有意識地鍛煉自己正在退化中的能力。

「日光之下，並無新事。」（傳1：9）看似出現的新事物和我們對待它的態度，不過折射出人類離棄神之後寄託的偶像崇拜與身份焦慮。要擺脫對高科技的過分依賴和偶像崇拜，只有反思自己的身份和尊嚴，迴轉向創造我們的主，恢復與神與自然的關係，才能找到真自由和真平安。

到那一刻，人類才會瀟洒地面對失敗，對這隻機器「狗」說，「不下了，今天天氣這麼好，帶你出去遛遛吧。」

（來自《境界》，微信號newjingjie）

==============================

「講古論今，談天說地」，歡迎收聽【基甸聊天】（每期7-10分鐘）

基甸聊天 | OC社區

說到底就是機器知道你在想什麼，但是你不知道機器在想什麼，你拿汽車的例子不太恰當，因為人知道汽車會達到什麼程度，超過人類的體能不可怕，超過人的智力才可怕！

大家太看得起人類的大腦了

『這玩意有啥可怕的？』

『我更怕雙十一的到來』

『因為我的信用卡在我媳婦手裡』

因為人工智慧不是你理解的那樣，人工智慧實際上是一個黑盒子，創造者也沒辦法清楚的了解到內部的每一種情況和演算法，內部的工作原理是不可知的。你非要用汽車比的話就是：你給這個機器一個要求，讓他儘可能的提高移動速度，然後它根據你的需求造出了輪子或者其他推進裝置，跑過了短跑冠軍。

深度學習目前最令人恐懼的是，人類把數據交給機器去學習，學習出的結果人類無從解釋，也就是說，機器的『思考』方式人類無從得知。拿圍棋來說，人與人對弈高手之間猜出對方某步棋的目的應該是常見的，而人與機器對弈時，機器只是單純計算落點的優劣，至於為何優劣，連一眾職業九段也無法得知。

之前關於阿法狗勝李世石的答案中我提到『三體』中情節，現在看來大劉確實有超前的意識。單就圍棋來說，目前人類的思維對於電腦來講幾乎是透明的了，無論人走什麼招，阿法狗不在乎。

而阿法狗的學習方式在最近幾十年甚至十幾年中，必將滲透到人類生活中的各個領域。但是，由於人類無法了解機器的『思考』方式，一旦機器有了真正的智能，對人來講是滅頂之災並非杞人憂天。

慶幸的是，機器是否會擁有真正的智能，目前來看還是完全取決於人類的，機器通過自我學習來獲取認知的可能性應該是不存在的。而人類在不斷探索自我認知的機理，不排除在明了之後會在機器人身上做實驗的可能。希望到時能謹慎些吧。

這次比賽可怕的不是阿爾法狗戰勝了李世石。

而是阿爾法狗使用了人類棋手不會使用的下法戰勝了李世石。

這意味著什麼？它不受人類思維的局限，有更多的想法，意味著我們曾經想像過的，人類相對於想像中的強人工智慧的唯一優勢，創新能力其實也是不存在的。人工智慧對所謂定式的突破遠遠超乎想想。

幸好阿爾法狗只是一個弱人工智慧。

幸好。

—————————————————————

說幸好是因為阿爾法狗能涉足的範圍還小，還涉足不了更多的創意領域，不會斷了我的飯碗。

至於人工智慧毀滅人類？我覺得哪怕強人工智慧誕生了，它也沒什麼興趣毀滅人類。

在看棋的同時，讓我直面自己的恐懼。

先交代我自己，小時訓練過圍棋，現在是名程序猿。

再來分析下我的恐懼，不是恐懼alphago本身，我知道它只是通過自學習在圍棋上無敵（是的，我覺得柯傑上也沒戲），即使它第一盤下完就預言自己第二盤會贏。

它在圍棋造詣上恐怖的進步速度，讓我確確實實感覺到了一個嶄新的硅基物種的雛形緩緩站起來了。當有一天更多的它不僅僅只會圍棋，當它接入互聯網，人類千年文明它在很短的時間內就消化乾淨，並通過自學習繼續大步前進…還要人類幹嘛？

我希望我這腦洞不會出現在現實里，我希望是我無知，我希望大家來罵醒我。

我要匿名了。

---

輸到天上了，

看到李嘆氣了么？能感受到這種絕望嗎？實力根本不是一個維度的。

說此時的李在棋盤前接受凌遲也不為過啊。

我已經奔潰了，我若是他現在直接就哭出來了。

也許真就像上學時調侃的，

我們考95分，因為實力就是95分。

學霸考100分，是因為卷面只有100分。

因為不了解只是看過電影了解人工智慧瞎擔心

還有一部分怕失去工作這種人上次出現在工業革命

因為AlphaGo意味著人類在人工智慧領域又邁出了一大步。為什麼人工智慧贏了圍棋就轟動世界呢？因為圍棋可以說是最複雜的棋類，所謂「千古無重局」，圍棋棋局狀態數極大，原來的窮舉法行不通（任你電腦運算速度高几個數量級也相當於沒有進步），而人類更不是以窮舉法下棋的，而是通過「大局觀」「棋感」這種無法量化的途徑。這也是人工智慧與人腦之間的巨大鴻溝。現在DeepMind改進了演算法，攻破了「最後的堡壘」，當然會引起震驚了。

汽車最多讓馬車夫失業，AlphaGo代表的人工智慧，一旦進化到強人工智慧狀態，可是會讓人類滅亡的。

我能說我一點也不恐懼，反而覺得是好事嗎……

因為人類智慧再進化，也達不到所謂後無來者的程度。

但任何事如果交給機器，就成了一切皆有可能。

啊一言以蔽之就是，人類創造的機器為人類自己打開了新世界。

什麼時候AI玩詐金花戰勝人類我才會覺得恐懼

alphago哪有怎麼恐怖。。。和題主說的一樣，現階段只是強大的工具。

完全不恐懼…AI又不搶我吃的