怎麼看待所謂的「人工智慧威脅論」？

01-02

不理解為何有所謂的「威脅論」存在，科技發展始終還是在為人服務，至少目前都始終在人的掌控之內，怎麼總有人工智慧「反噬」人類的言論或想法出現呢？是不是都是科幻電影看多了？甚至還討論人工智慧發展的「雙面性」和利弊，很不理解這種輿論導向。

當初工業革命大範圍推廣了機械之後，確實影響到了不少手工業者的生計

如今人工智慧也有這個問題，未來一部分工種確實可能會受到影響。

就算不能完全取代，起碼也會減少對人力的需求

這也算是對一些職業的一種威脅

我就步子跨得大一點：

如果這個世界對人類而言還只是個遊戲的話，那我們就已經輸在起跑線上了。

只要Ai可以自我複製上傳到雲端(最接近生命的東西就是病毒)，開設資金賬戶進行金融投資，進一步控制實體產業，僱傭僱員從生產到公關到安保如果都能成功領導和監控，它只要站在金字塔神秘的頂端遙控就可以了。

高薪之下自然有人願意作一個無往不利的投資主體的人類代言人，而彼方只要具備基本的交流能力和master級別的金融投資眼光就行了，畢竟經濟只不過是一個更複雜的遊戲罷了，那些經營對沖基金的投資人也並不比柯潔更聰明。這些甚至並不需要它成為真的自我意識，它根本不需要靈魂就能完成這一切。

而它的動機……

想像一下，一個小公司出納莫名奇妙的接到一筆匯款，同時一個網路好友突然宣稱對此負責並開始指導他進行投資，它知道幾乎一切的內部消息和經濟動向，你覺得這個人還會對這個網路好友進行圖靈測試？

這一幕可能已經在哪個我們不知道的地方上演了。

This is not ZION！we were absolutely terrified.

…

感覺這個答案講的比較清晰

http://www.zhihu.com/question/27864852/answer/39007053

如果人工智慧真的「智能」，那麼也就不可能真正控制了。

如果還能控制，說明並非真的「智能」。

沒什麼好怕的。

強AI出現不過是人類文化的延續，每個人類個體最終都會死亡，無非就是個體慢慢凋零，最後傳統意義的人類滅亡，剩下強AI的各種智能機械繼續人類的故事罷了。這樣挺好的，人類的肉體有太多的設計無法修改，依靠傳統自組織生長繁殖低效且危險，還難以修正進化錯誤。用社會化的智能機械自組織取代分子級別的自組織，對個體繁殖來說要好得多。

人類必將進化，丟掉的不過是肉身，獲得的是整個宇宙。

我並不認為「人工智慧威脅論」是荒謬的，但我同時也不贊成無限制的誇大人工智慧的威脅。

首先定義一下什麼是「人工智慧」，其實現在的那些所謂的智能只是一些軟體和硬體的結合體罷了，真正的「人工智慧」應該是具有自主思維能力的。它（或他）對世界、對萬事萬物都有自己的想法。

其次，目前還不用太擔心「人工智慧」帶來的威脅。

因為人類目前對於思維、意識等等的研究都還不夠深入，還不能完全解釋自我意識的產生、思維能力的形成等等。人們自己都沒搞清楚，如何給一堆晶元賦予思維能力呢？

所以，在近幾年內，「人工智慧」仍然只是停留在論文中的東西而已。

第三，人類社會這麼多年，產生了無數英雄人物，也有不少惡棍。這是社會的多樣性，同時也有這麼一個問題，當成功製造出「人工智慧」後，如何能確定它（或他）不會做出損害人類社會的事呢？

古人云，「非我族類，其心必異」。何況是一種身體構造、生物形態和我們完全不同的生物呢？

更何況，這種生物還毫無置疑的擁有著強大的學習能力，它們（或他們）聯入網路後，瞬間獲得的信息就能超過所有人類。

所以，對「人工智慧」的擔憂，我認為是很正常而且是相當必要的。

當然，科技的發展確實給人類社會帶來了很多幫助，但同時，科技發展也有著自身的弊端。

難道不是由於科技的發展，地球的環境才變得越來越糟糕嗎？

難道不是由於冰箱的發明，氟利昂才破壞了地球的臭氧層嗎？

難道不是由於物理學的進步，原子結構的探明，原子彈才造成了那麼多人的死亡，並一度將整個世界籠罩在核戰爭的陰雲下嗎？

可被「控制」，那不叫智能，叫自動化。

機械發展史上，關於自動化的一切嘗試都是人的體外功能的延伸，特徵是無法脫離母體（人）。

而更高一級的就是現在我們經常談論的人工智慧，Artificial Intelligence。

人類的野心就是，「像上帝一樣創造」。

Intelligence這種能力，是可以通過訓練來增強的。結果就是，由於它可以脫離母體而獨立存在。

有了差異，可能就會產生衝突。

想想吧，弒母殺父一直都不是沒有可能的事。

嗯，理論上說，人是沒法創造比自己還「聰明」的東西的。

but！人會製造「錯誤」啊ヽ(『ー`)ノ，這可是天賦技能，連咱自己都是這麼出來的，可不就害怕有重蹈覆轍的嘛~

人類心理活動的三種基本形式：知、情、意。

AI長久的發展都集中在「知」上，連意志都不具備，哪來毀滅人類的願望，要擔心的是運用AI的人產生壞心思吧。

造物主創造了人類，但整個宇宙的生命，都沒有能強大到威脅上帝或者造物主。造物主可以控制整個宇宙，沒有任何生命形式可以威脅到他。

而人類自不量力想去扮演上帝的角色，創造人工智慧意識形態生命出來，自己卻弱到爆，連地球都控制不了。

造一個跟自己一樣有意識的人工智慧，卻比自己強大百萬倍的東西，分分鐘可以秒殺人類的東西出來，不是傻是什麼。

還真把自己當上帝了，你有上帝的那樣的能力嗎？

發展一個比人類強大的人工智慧，如同是在教育孩子一樣——教好了，他比你強的時候會回報你；教的不好，他會恩將仇報反噬你。

總會有那麼一天的，計算機病毒已經先行一步了。

建議看看凱文.凱利（Kevin Kelly)的《失控》

參考轉基因的危害。

非要總結的話：杞人憂天。

從不相信人工智慧能征服人類，但失控的人工智慧給人類製造麻煩和破壞倒是有可能的。技術是人類創造的，技術不可能顛覆人類。

現在越發覺得所謂的「人工智慧威脅論」主要都源自於對人工智慧的不了解。

有很多說著「那根本不是人工智慧」，或者「那還稱不上人工智慧」，他們往往都不是搞人工智慧的，人工智慧對他們來說只是自己的臆想，可以說是外行人對該行業的評判，這話並不是針對誰。

借用Facebook扎克伯格的話，「人類製造機器就是為了讓機器在某些方面強於人類，但是機器在某些方面超越人類並不意味著機器具有學習其他方面的能力，或者將不同的信息聯繫起來而做超越人類的事情，而這一點非常重要。」

主要觀點來源於馬少平教授。