AI 真的很危險嗎？

01-27

只有智能的機器人沒有意識，難道會理解存在的意義？智能必定會產生意識嗎？智能與意識之間是什麼關係？

謝邀……

我不相信AI是危險的……除非我們自己跟AI一樣危險……

哦……對了……我也不相信我們自己是有意識的……包括我自己在內……存在的意義？真有這東西？……

智能會不會一定有意識……僅僅從行為的效果來看，我們都在一定程度上有智能，但我們沒有一個有所謂的意識……

智能與意識的關係是朝廷與天庭的關係……

題主已經把問題「AI真的很危險嗎？「分解，那就按分解項說一下。

1.只有智能的機器人沒有意識，難道會理解存在的意義？

怎麼說」只有智能的機器人沒有意識「？」高級智能的機器人應該具有意識。個人認為人類具有的意識，以後的高級智能機器人也會具有。「理解存在的意義」難以界定是指什麼？但個人認為人類具有的這方面的「理解」，高級智能機器人也會具有。

2.智能必定會產生意識嗎？

從趨勢上來說，是的。

3.智能與意識之間是什麼關係？

意識是智能（廣義）的高級功能，自我意識就更高級。

最後，如果題主擔心「AI真的很危險「，那麼也應該擔心「「人類真的很危險「」。

AI早晚會有，但是危不危險很難說，至少不是題主以為的「危險」。

真實的AI不會像電影里那樣一誕生就總想毀滅人類，那個是因為不那麼設定電影沒的可拍；事實上一個達到了人類智力的AI真想滅掉人類的話，人類沒有勝算的。

沒人知道AI是如何思考的。不過目前基本認為AI不會有善惡之分，而是作為一個程序，按照其設定不斷地運行下去，什麼毀掉人類啊都是副作用，是完成其最初設定的目標的必要一步。所謂「隔壁老王簽字機」就是這麼毀掉人類的。

出現這種問題是因為程序里有bug，就像程序員寫代碼一樣，一不留神就會有，很難清除並且相當具有毀滅性。這種bug難除的情況才是目前理論中真實AI真正的可怕之處。

不知道機器學習和神經網路能不能在一定程度上避免這個。

應該這麼想：既然科技在發展，那麼AI早晚會出現，所以出現是一個必然，那麼人類要和AI相處就也是一種必然。這個必然所導致的結果我們還不知道，或許它早已悄悄埋藏在邏輯深處的某個角落裡只是等待我們去發現，但我們卻認為還有可能改變它，讓它不那麼壞——找到一個不會有bug的初始設定——但是它很可能也是一個必然。既然是必然，滅絕也罷，繁榮昌盛也罷，都沒什麼好怕的。

隨便扯幾個，參考了上面一些回答

危險度1：人類可替代性

現在一些車間光是機器臂組裝都已經和人類搶了不少飯碗了，而且工業化也使得很多傳統職業都很難生存了。

所以，如果一個更強大的AI，甚至能做一些需要智能的工作，那麼可以預計失業率會更大。

簡單幾個例子，比如文案類的，利用大數據，讓電腦去書寫新聞

比如前台類的，機器人接待員

上面只是兩個例子，但是未來很多工種都是有可能被替代的

這樣一來，會造成一定程度上的社會問題。

知道中國人為什麼在世界範圍內有些地區受到欺負嗎，中國人搶了很多人的工作也是一個重要的原因

+++++

危險度2：無善惡觀

有些科幻電影里，說最理想的士兵就是那種不需要善惡觀念的

以2015年《新機械戰警》為例，那些高層就認為有了人類情感的機器人在判斷的時候總會有細微的延遲

但是，如果一個機器人，沒有了善惡觀念，然後又渾身大殺器，光是想一想都是一件很危險的事情

這和什麼戰鬥機坦克還不一樣，畢竟載具需要人駕駛

但是機器人卻可以自主活動

一旦被黑了，效果是什麼你懂的。

當然這個太偏科幻了

+++++

危險度3：對社會體系的影響

如果我們再進一步說，AI甚至真實程度已經和人一樣了

那麼肯定會有一類人，更願意與AI交往而不是與人類。因為AI是可以無限趨近於使用者心中最想要的那個「人」的

就如同現在新聞上總在說的什麼「低頭族」、「網癮症」之類的，如果未來再出現什麼「機器人依賴症」之類的，那個可能更難治癒了，因為那個的危害程度甚至不亞於毒品了

+++++

危險度4：機器人的崛起

這個也是一部分甚至大科學家和名人（霍金、馬斯克等等）最擔心的問題

這其實是兩個問題，我們拆開說

單單只是機器人有了意識和反抗，這並不是最可怕的

最可怕的地方在於：他們掌握了太多人類的數據

進入互聯網時代以來，只要你在網上留下些痕迹，總能或多或少對你進行分析

這也是網路時代人肉搜索的依據之一

試想一下，如果AI有了真正的自主意識，它們可以獲取互聯網上絕大多數的信息（甚至說AI在黑客技術上遠超人類水平，他們具備了訪問任何互聯網數據的能力）

這樣的話，除非你的資料都是紙質保存或者不用電腦聯網存儲的，不然的話他們都有方法去分析

當然因為這個問題過於扯淡，很難去分析。所以只能說有這方面的擔憂，但是又無法用非常確切的理論去證實

+++++

我個人感覺我們這一輩就洗洗睡了，上面這些和我們其實沒多大關係

謝邀！

我看到的問題是這樣的：

AI真的很危險嗎？修改
只有智能的機器人沒有意識，難道會理解存在的意義？智能必定會產生意識嗎？智能與意識之間是什麼關係？

和智能手機危險度差不多。

AI危險。倒不是因為AI會在智能上超過人類，實際上AI根本不可能產生真正的智能，更不可能產生意識。而是現在的AI演算法基於人工神經網路和深度學習，其過程是個黑箱。可能產生不可預期的結果。一個結果不能預期的自動化機器，如果應用在高危領域，可能產生嚴重後果。比如說Ai戰鬥機器人，如果真有這玩意，它的行為模式可能是不可預期的，本質就是隨時可能失控在自動化殺人機器，你說危險不危險？

啥是意識呢。。。。(?? . ??) 最怕就是有人工智慧然後卻木有靈魂那種

能控制的就不能稱之為AI，AI如果成真，它既有智力，又有影響世界的能力，可以以自己的判斷影響和改造世界，與人的衝突是難免的，豈不危險。

日本旋風特工隊，共產國家的炮灰人海，還有伊斯蘭聖戰人肉炸彈，這些都是很高級很危險的人工智慧AI。

不危險，你想多了

當年尼安德特人也提出過相似的問題：智人真的很危險嗎？

感覺不會有危險。以現在的計算機技術，人類永遠不可能創造出真正智慧的AI。現如今的AI，以及現在計算機技術框架下的AI，只能是通過越來越精確的人工模擬和機器學習來提升「智能」。

就算有一天真的實現了真正的智慧有情感的AI，以那時的科技也絕對能做到完全控制它們，一個小開關給它斷電（或者斷什麼能源）都是分分鐘的事情。

至於AI今後能幹出來的事有可能會違背道德、社會秩序（智能無人機殺人，智能警察自動開罰單，替代勞動力，與AI談戀愛等）的問題，歸根結底都是人類自己的抉擇和社會的準則的演化，因為我們有對AI絕對的控制權。

人工智慧是不會有自主意識的。直到今天，我們人類對於我們自身的大腦都沒有研究明白，還能指望人類自己來創造一個人工大腦嗎？

AI完全不用發展到如此哲學的程度就能夠使大多數人的生存處境變得很危險。

未來10-20年的失業率為證~

至於題主說的那種~反而發生的概率不高，科技越發達，發生的概率越不高~