人工智慧會毀滅人類嗎, 30後再看！

02-03

2017年，人工智慧成為年度熱詞，無論是百度的無人駕駛，阿里巴巴的無人便利店，還是亞馬遜的ECHO風靡全球，可以看到中國和美國的科技巨頭都在緊鑼密鼓的布局人工智慧。

人工智慧之爭，已經成為未來之爭。

今年5月份，「最聰明的人類」代表柯潔在和人工智慧程序AlphaGo最後一局的比賽中，因為太難過而現場落淚，賽後更是通宵買醉：「下午6點開始喝酒，一直喝到凌晨3點，連續喝了9個小時。」而在之前的2016年3月，AlphaGo曾以5:3戰勝韓國棋手李世石。在2017年1月20日《最強大腦》人機大戰第三場的比賽中，百度大腦也以2比0輕鬆戰勝人類選手王昱珩。

柯潔感嘆，「我相信未來是屬於人工智慧的。」

可以碾壓人類智商的人工智慧也引起了人類的憂患意識，未來的人工智慧如何發展，如何與人類和諧相處，成為各界熱議的話題。

近日，「鋼鐵俠」原型、特斯拉CEO伊隆·馬斯克在幾十位美國州長面前，聲稱AI（人工智慧）是對人類存在的最大威脅，並且呼籲加強對AI的監管。

馬斯克認為，AI將在2030年至2040年就會全面超越人類。他表示，越熟悉AI他就越擔心AI會帶來的威脅。「我接觸過最前沿的AI技術，這讓我很憂慮。」

而同是科技大佬的Facebook創始人扎克伯格對馬斯克的觀點不以為然，他認為，「未來5-10年內，AI將大幅提高我們的生活質量。」並間接批評馬斯克，「我認為那些對AI持否定態度或者鼓吹末日論的人，其實根本沒理解什麼是AI。他們的看法太消極了，甚至有些不負責任」。

對此，馬斯克通過推特輕描淡寫的給予了回擊：「我跟小扎聊過了。他對這事兒（AI）的理解有限」。

之後，馬斯克又發了一個推特，重提了Tim Urban在2015年發表的一篇舊作，中譯版的標題是：《為什麼霍金、比爾·蓋茨這些大佬們，讓我們警惕人工智慧？（AI革命上篇）》。

這篇文章從三個層面論述了人工智慧：1、歷史會呈指數發展，人工智慧對歷史的改變會很快到來。2、人工智慧是什麼，現在的人工智慧發展水平如何。3、我們可以按照怎樣的軌跡發展人工智慧。

作者在文中表示：當人工智慧發展到人類腦殘水平時，他就可以自我發展了，並在很短的時間內發生——智能爆炸，超過人類水平。那時，就像人類重新定義了動物一樣，人工智慧將會重新定義人類。

那麼這個如上帝般強大的存在，會仁慈的對待他的「父母」——人類嗎？

其實，馬斯克一直就在鼓吹AI威脅論，持有同樣論點的還有著名的物理學家史蒂芬·霍金（Stephen Hawking），他也曾多次表示，AI未來會威脅人類。

而法國人工智慧科學家YannLeCun，近日在推特上給扎克伯格點贊，表示對他的支持。百度前首席科學家吳恩達（Andrew Ng）也表示了對扎克伯格的支持，吳恩達說：作為真的做AI產品的人，我看不到今天的AI可能發展為邪惡力量的任何可能性。

圖靈獎得主Rodney Brooks的觀點是：「有很多人都聲稱AI是人類存在的威脅：斯蒂芬·霍金、馬丁·里斯爵士……在沒有親身在AI領域工作的情況下，這樣的想法很普遍。我們能夠理解，對於那些不在AI領域工作的人，要通過產品級別的東西來弄明白一些問題有多麼困難。他們會根據一個領域的一個AI成果，就一概而論地認為AI會在多領域超過人類。但是其實今天的AI，只是在某一個狹窄領域基於大數據優化，只能說是個很厲害的模式識別引擎。要做到通用的、無所不能的AI根本不知從何開始。」

李開復公開表示不太認同伊隆·馬斯克「AI滅絕人類」的觀點，並對當前AI的發展，提出了5個方面的具體觀點：

1、AI只是工具，離超級智能還很遠；基於我投入AI領域的科研、開發、投資相關工作37年的經驗，「超級智能」、「滅絕人類」這類聳人聽聞的說法，根本沒有切實的工程基礎。

2、智庫、科學家應該討論AI安全問題、AI對社會的改變，但是科技圈的意見領袖不應該在這時誤導大眾AI要控制人類，讓人類滅亡，這確實是不負責的說法。大部分的人已經對AI所知有限，這會造成更為錯誤不實的群眾恐慌。

3、AI可以為人類創造大量財富，甚至逐漸解決人類溫飽問題；我們每個人也將獲得更多的時間和自由，來做我們愛做的事情。

4、AI真實會帶來的問題是人類的失業，失業後可能的抑鬱和喪志問題，還有貧富不均問題，人類社會目前所習慣的職業結構確實會發生顯著的改變。

5、AI會帶給我們100%確定性的巨大機會，隨著改變也會產生些必然的問題。此時去用概率極低甚至是零可能性的「超級智能」，誤導大眾恐懼AI，甚至約束AI，反而不去擁抱機會、解決問題，是沒有道理的。

其實，馬斯克和扎克伯格之爭，不但源自兩者對AI的不同認知，也關乎兩者的商業邏輯：自動駕駛汽車和巨型社交網路。

早在兩年前，也就是2015年，馬斯克和霍金聯合一眾科學家和商業領袖簽署了一份「公開信」（霍金、馬斯克攜手力推23條原則，告誡AI發展底線）。在這封信中，他們將管制超級人工智慧列為了21世紀最急迫的任務，這封公開信也在後來獲得了比爾蓋茨的認同。

之後，馬斯克就創立了非盈利人工智慧研究公司OpenAI，旨在防止AI研究出現一家獨大的局面，以實現對AI的控制力的均衡分布。

對此，扎克伯格針鋒相對，Facebook也緊隨其後推出了AI平台Jarvis。

扎克伯格認為AI是一個智能工具系統，包含了各種能夠理解人類指令並完成任務的程序，實現多種智能家居功能（如開燈關燈、調控室溫、播放音樂），比如阿里巴巴剛推出不久的天貓精靈也是如此。

但是，馬斯克曾毫不留情地說，Facebook的Jarvis根本就不是AI。

馬斯克指出，「控制開關燈的根本不是AI。」在Jarvis系統中，人類說出的命令被語音識別系統識別，然後被轉換為文字，隨後經過文本分析系統得到命令的含義，最終再通過一個系統來控制燈的開關。

馬斯克眼中的AI是一個能夠實現整體任務的、「端對端」的AI系統，而絕非一系列演算法的結合體。

英偉達在2016年發表的一篇論文中，描述了一個「端對端」的自動駕駛系統設計。在這一設計中，一個單獨的神經網路觀察司機開車的行為，然後就能學會駕駛車輛。這樣的系統才能算作馬斯克所說的AI。

但是，不管扎克伯格和馬斯克誰說的對，我們可以知道的是，二者都將從AI產業賺的盆滿缽滿。

不可否認的是，目前的AI還不是一個成熟穩定的產品，我們對AI還不夠了解，看看前幾天的一個新聞，在美國華盛頓DC的一個辦公樓內，一個名為Steve的機器人突然用「跳池」結束了自己「年輕的生命」。

之前澳洲也有一則報道，稱澳洲一掃地機器人因厭倦了日復一日的清掃工作，趁主人不在家時啟動了毀滅裝置將自己燒死。

俄羅斯也曾傳出機器人從實驗室「逃跑」的消息。

在老方看來，儘管在過去十年中，由於計算能力的重大進步，強大的機器學習和深度學習演算法的發展以及可以投入到這些演算法中的數據量爆炸，AI進入了加速增長的新階段。但離AI逼近人類大腦水平而意識「覺醒」還為時尚早。

人類最寶貴的就是大腦，我們對自己大腦的認識和開發都還不到5%，AI又談何超越人類呢？

對於AI，像其他被人發明出來的蒸汽機、電話、火車等一樣，應該只是服務人類的一個工具，而不是威脅。

在火車剛剛發明的時候，曾有人預言：「如果美國建設鐵路，首先要建許多家精神病院，因為人們看見呼嘯而過的火車會被嚇破膽的。」

還有《終結者》、《機械姬》等科幻小說和影視作品，只是戲劇化的描述了人工智慧的未來發展方向，我們不應該被自己編的故事嚇到。

科技是中性的，好壞之分不過是人性的折射。

霍金擔心的應該也不是AI會和人類發動戰爭，而是人類被科技異化後，從而無力思考，被世界所淘汰。

「人機大戰」後，已經89歲高齡的李嘉誠對於人工智慧也表現出極大的興趣，特意向「AlphaGo之父」的傑米斯.哈薩比斯（Demis Hassabis）諮詢了人工智慧的發展和問題。

AlphaGo很強，但離「超級智能」還很遠。哈薩比斯後來也說，AI威脅人類的事情，還太過遙遠。

在不遠的將來，AI一定會成為其所在行業的顛覆性力量。儘管行業變化的速度可能會有所不同，但這一趨勢已經形成。

「我非常激動，真的感覺連睡覺都是在浪費時間。」軟銀創始人兼CEO孫正義說。

「我認為我們正處在變革的時代當中。產業革命在競爭方面改變了每個人的生活，而這次的信息革命是要更進一步地帶領我們去往現在每個人都沒有想像過的世界的革命。我們正好在可以挑戰的時候趕上這次革命，真的是非常棒！」

而隨著AI的快速發展，關於論戰還會繼續。

微軟創始人比爾·蓋茨曾說：每創造一個新的「計算機」，演算法都得從頭來一遍、連怎麼走路都不知道。我們還從沒在軟體里實現過這樣的演算法。只要這種演算法接入互聯網，它就可以讀所有的書籍、雜誌和其它信息，我們已經給超級智能準備好了內容基礎。我盡量試著不過多宣揚這個觀點。但當有人說這不是一個問題時，我真的不能同意。他們怎麼能看不到這是多麼巨大的挑戰呢？

「卷積神經網路之父」、深度學習三巨頭之一、Facebook人工智慧研究院院長Yann LeCun這樣解釋，人類的佔領、統治、鬥爭等大部分行為，都是在一代代進化的過程中，受到「希望獲得資源」這一目的所驅動的。而如果我們想要機器做一件事情，則需要給它賦予這個能力，朝這個目的去打造機器。如今我們已經做出了在特定領域比人類更智能的機器，但人工智慧並不會真正統治世界，因為我們並不會朝這個目的去做。

馬雲認為，我們未來要思考的不是人工智慧，而是機器智能，如何讓機器成為人類最好的夥伴、而不是人類最大的對手。

物物而不物於物，我們不能被自己嚇到。