如何看待馬斯克和扎克伯格對人工智慧的兩個觀點？大家支持哪一個觀點？
當人工智慧機器人具有自我意識和思考能力的哪一天，的確是有可能出現不被人類服務的意識產生(假設人類已經在硬體程序上給了AI這方面思想產生的多層障礙，但是某些系統可能還是存在BUG。)但是只要AI系統多樣性，那麼機器人AI系統的多樣性導致AI很難做到統一思想團結造反，然而再用機器人牽制機器人。這不就是未來生活的最終解決方法嗎？
(如果人類要發展深空事業，因為AI機器人是一個必然發展結果吧？畢竟如果人類要大量移居其它星球，甚至直接在外太空直接建造居住點，都只能是機器人代勞，不可能把人類送到一個荒蕪的星球上自己建造居住點。成本太高，且風險巨大。)
所以個人更支持扎克伯格的觀點，大家怎麼看？
謝邀！
人無遠慮必有近憂，我能理解這兩者的擔憂，而且各有各的道理，但是以我的感覺，這個問題太遠了，遠到我們這一代人可能還沒遇到。當然，有人認為，2050年之後，我們可能會遇到這個問題了，但對於強人工智慧，我個人是持比較緩慢發展的觀點。
上面說的兩個觀點，一個是人工智慧的發展，獨立工作，會不會有自我思考的那一天。我真不認為會有，原因很簡單，這個事情是取決於人類的，作為人類的產物，他不可能被整出來，就算整出來，也有規範，比如只能單向思考，不能有感情。
打個地方，一個掃地機器人，他也是可以思考的，但智能水平只局限於作為一個掃地專家的思考，比如如果看到大路被水淹沒了，這個機器人可能就會停下來想，是找工具來繼續工作，還是等到水幹了再繼續作業，這是需要他做出思考後才能工作的，畢竟我們面臨著一個複雜的世界。
但是，機器人掃完地之後，就回到原來的倉庫，不會說跑到別的地方煮飯，逛街甚至喝酒，這些不會有，畢竟機器人不是萬能的，能在某一個領域做到很智能，已經很牛逼了，至少在很長一段世界內，我認為機器人的水平大概是這樣。往後發展再說。
另一個問題，深空發展的問題，讓機器人獨立在外太空作業。其實也不一定要有獨立意識，可以通過虛擬現實來操控。就是機器人本身的神經操控中心在地球，只要人類在地球帶上VR頭盔，啟動機器頁面，其機器人替身便在外太空啟動，需要做啥，人類只需要遠程操控就行，反正動作是同步的。
當然，我只能說在很長一段這樣解決，畢竟未來太漫長了，人工智慧的發展，真的沒有想像的那麼快，雖然也沒有想像得那麼慢，但在接下來的幾十年，我想不用太過憂慮這些問題。我相信，如果我們能創造出聰明的機器人，說明我們也有聰明的辦法來解決這些擔憂。
AI筆記 | 人工智慧沒有威脅論，一切藉機互懟的都是炒作耍流氓
現在已經7月底了，離新一輪人工智慧泡沫的捅破還剩下大概三個月，但真的不希望，大家再過度的吹捧或者藉機炒作了，今天來談談大佬是如何借人工智慧威脅論裝逼的。
1、扎克伯格和馬斯克就人工智慧威脅論互懟，公說公有理婆說婆有理，好像很關注人類未來的樣子。國內外各大媒體都在報道這件事，從媒體選題的角度，的確是個「會吸引眼球」的新聞，無論是知乎微博還是網站，這一周幾乎都在炒這件事。
2、前兩天，國內人工智慧扛大旗者李開復同志也加入了支持扎克伯格的行列，明確反對馬斯克「AI終將滅絕人類」的悲觀論調，認為「科技圈的意見領袖不應該在這時誤導大眾AI要控制人類，讓人類滅亡，這確實是不負責的說法」。
3、包括知乎關於人工智慧威脅論的話題在內，這些大佬好像對此話題樂此不疲，但細細想想，這些話聽起來好像都對，但實質上對人工智慧行業的發展，暫時沒有太大意義。
4、我想到了前一段時間流行的一個新聞，夫妻準備買彩票，然後在路上討論起中了百萬之後幹嘛。老公說要這樣，老婆說要那樣，最後這對小夫妻打起來了，鬧到了民政局要離婚去，而實際上，他們連彩票都還沒買。
5、扎克伯格和馬斯克是圈內現象級的名人了，他們本人可能並不想藉此炒作，但肯定也逃不了炒作的嫌疑，因為他們很清楚，就未來的幾個觀點互懟，就賺大大把流量，這筆買賣不會是共輸，而是共贏。所以李開復同志也願意來個臨門一腳，立馬，全中國的媒體都倒向他。
6、回歸到問題的本質，對於人工智慧的未來，我國著名的營銷專家葉良辰同志在幾年前就說了：「我有一百種觀點讓大家聽起來覺得很新奇！」事實也這樣，面對一種具有豐富想像的技術方向，拉屎都可以跟人工智慧扯上關係，比如智能馬桶。
7、所以提出這個」威脅論「，成本是很低的，無非就是說我們製造出來的機器，因為有了人的意識，可能成為一群白眼狼，反過來把我們幹掉。至於怎麼幹掉，首先XXXXX,然後XXXXX,但So Tmd What ?按照這個邏輯，做什麼事沒有風險。連殺豬都是有」威脅論「的，比如殺多了會不會喜歡殺人，或者說把豬搞滅絕了。
8、所以過度的討論人工智慧威脅論，真的毫無意義。就算觀點有指導意義，但細心的你會發現，無論是馬斯克、扎克伯格還是李開復，現在的很多觀點，之前都是講過好幾次了。線上討論不像線下演講，一個PPT通吃半年，線上大家是有記憶的。
9、當然，人工智慧威脅論這個問題，肯定還是要正視的，但肩負起這些責任的人是哲學家，目前也有一大波哲學教授在忙著探討這些涉及到倫理的問題了。而作為從業者，還是把心思好好放在產品設計和技術研發上。
10、隨著國務院《人工智慧發展規劃》的發布，這個行業正在經歷著「裝逼事件高發期」，在這裡提醒在座的各位同志，真愛生命，原理炒作。這個行業，一定是屬於那些有產品的人，不要聽風就是雨，被大佬們牽著鼻子走。
馬斯克和小扎說的都對，論點也並不矛盾。
人工智慧確實會毀滅人類，而人類確實仍要大力發展人工智慧。
問題核心不在人工智慧，而在人這裡。
人類存在的意義是什麼?是所知多，是所行遠，是知行合一，發展無以倫比的文明。
茫茫宇宙，只有人類一個物種默默前行，太孤獨也太慢了。
如果有一天，人工智慧一騎絕塵超越人類而去，那意味著在發展文明得道路上，終於有了比人類更好更快的物種，文明的發展也不再完全依賴人類，人工智慧將接過人類的文明薪火，燒出一片更大的天地。
人類的使命已經完成。
——————
老有人說人工智慧有能力了就要殺人拉，了不得，這種論調完全低估了ai的能力。你會閑的沒事就去殺螞蟻么?
最可能的結局，是人工智慧接棒文明傳承，成就新一代文明。而人類社會，因為失去智力優勢也不需要繼續發展文明，會重回森林，開始茹毛飲血的祖先生活。
現在各種人工智慧/偽人工智慧概念雖然已經被炒爛了，但是我還是要衝動上來答一個。
先上結論：馬斯克是富有遠見的實幹家，想問題遵循第一性原理，遵循第一性原理思考的都是超長期的事情，短期內難以變成現實，但是他的擔心不能說沒有道理。小扎已經聰明的學會了利益階層那套，玩輿論帶節奏的玩法。
不得不說，矽谷大佬們對AI的態度還真是各有不同，下圖是Vanity Fair總結的部分在這個議題上發過言的大佬們的sentiment spectrem
首先要肯定的是，AI對人類絕對有益，但是對人類整體有益不代表對每一個個體都有益。各行業自動化程度的提升將使財富集中到越來越少的人手裡，機器人從人類手中搶走了工作，雖然提高了總體生產效率，但是那些被搶走工作的人類，他們的實際收入有沒有提高？而且，雖然機器人不太有可能在短期內進化成類人生物，但是要在對信息迭代升級的基礎上（比如用Alphago Master訓練出Alpha Zero），進化出對物質迭代升級的能力（比如用100納米精度製造的機器人能夠製造出精度10nm的機器人），我認為並不是很遙遠的事情。一旦機器人同時能在信息和物質兩個層面進行自我迭代的話，貧富差距會加速分化。
馬斯克原話："AI is a fundamental risk to the existence of human civilization in a way that car accidents, airplane crashes, faulty drugs or bad food were not — they were harmful to a set of individuals within society, of course, but they were not harmful to society as a whole."
其次，要搞明白，人工智慧屬於誰，很遺憾，人工智慧這種技術雖然是全人類的，但是實際工業級別的工具不屬於你我，只屬於資本，普通人空有理論，但是既沒有大數據也沒有雲計算，沒有核心技術，造不出可以媲美工業界的機器人。進一步推想，掌握智能機器的統治階層可能會抱著不可告人的目的，以「對全人類有益」為借口，對少數個體進行迫害（是不是和某主義有點像？），人類近乎於手無寸鐵，機器人外科手術式的暗殺行動的失敗率接近於零，你甚至在不知不覺中就會被殺死。
我們看看伯克利的Stuart Russell教授關於軍方的小型殺人飛行器的視頻 http://t.cn/RYQq6uR。Stuart Russell教授一直呼籲禁止致命自主武器，他擔心有一天人類的生死會被機器人主宰，這種擔心完全有道理。
最後，即使我們假設統治階級不會壞到指使機器人屠殺人類，還有兩種情況是難以避免的，一是這種技術被恐怖分子和罪犯獲取，如果他們認為某些人威脅到他們的利益的話，指使機器人屠殺人類，也不是完全沒有可能發生的事情。二是AI進化出了自行優化資源分配的能力，比如它發現，要發展出一個更美好的世界不需要某些人類的存在，或者年薪10萬以下的人沒有必要吃到健康的食品。這個時候，機器人就會產生人類無法理解的行為。他們對人類沒有仇恨，就如同人類對牲畜沒有仇恨一樣，但是這種絲毫不帶感情的碾壓才是最可怕的。機器人並不需要進化出人類的智力和情感，就足以對人造成傷害。誰也不能保證人工智慧不會進化到遠超人類已有經驗和邏輯的層次，從人類手中奪取對科技和資源的控制，進而傷害人類的利益。
伊隆·馬斯克做的都是最前沿的技術，清潔能源、太空旅行、無人駕駛、磁懸浮列車。。。如果你認為他害怕技術進步，那未免太諷刺了。對於人工智慧，他擔心的都是很現實的問題，比如自動化帶來的財富分化使得這項技術只讓少數人受益、機器人被用來進行傷害人類的活動、機器人擁有人類無法控制的能力等等，以及如何解決這些問題，如何謀劃未來等，和紅脖州保守教徒們宣揚的人工智慧威脅論、世界末日論完全是兩回事，不過被小扎一個大帽子扣上去，就「不負責任」了，您倒是說說，怎麼就不負責任了？
該不該發展人工智慧？100%應該，我相信人工智慧的合理利用能讓人類社會發展上一個大台階。但是在發展人工智慧的過程中完全無視任何倫理問題和道德風險，也是一種不負責任。
只可惜，先人半步是天才，先人一步是瘋子，大多數人並不理解馬斯克的擔心，反而被小扎帶了節奏。AAAI （美國人工智慧學會）已經建立了一個關注人工智慧的道德倫理影響（Impact of AI and Ethical Issues）的常務委員會，說明這個問題已經有人注意到了。
最後的最後，附上Stuart Russell教授的一段話：
基本上人工智慧研究者很少認為超智能機器馬上就要變成現實。這並不暗示著我們應該等著，直到這個問題變得很嚴重！如果我們發現直徑 10 英里的小行星將於 50 年後撞向地球，我們為什麼不現在著手消滅它，而聲稱我們會在還有五年的時候去關注它？
大佬也有中二病。。。
不算是行業所在，說不出專業的詞語但是我覺得，不能因為人工智慧有潛在的威脅就停止他的發展，人類科技的進步，依託人工只能應該能夠更快！畢竟人類知識層面還不是很夠，需要解決的地方也很多。。。有潛在的危險，那麼再做系統的時候注意規避，以防發生問題。
人類的歷史是個不斷試錯的歷史，很多事情再開始誰都不知道是對是錯，優點多還是缺點多，好處多還是壞處多，但我相信人工只能的好處是多餘壞處的吃飯有噎死的風險
喝水有嗆死的風險游泳有淹死的風險走路有被車撞的風險創業有失敗的風險我們所做的每件事情都有風險存在，難道因為風險就不做了么！不能！推薦閱讀：