隨著科技的發展，機器人會成為人類的朋友還是敵人？
如題。雖然是沒有知乎賬戶的同學讓我幫他問的，我覺得這個問題也蠻有意思的。希望大家點撥思路。
人工智慧是人類最後一次發明。霍金說的。我是做演算法的，我肯定地答人工智慧遠未實現。但那些認為機器人就是按程序跑怎麼可能造反的，應該都是沒搞過模式識別和機器學習的。要知道，這個時代正在搞的正是給機器一個認知的框架，讓機器自己學習事物，人類越來越搞不清楚機器學到了什麼，而且它們卻又實在地能實現一些我們想要的功能。如果機器智能了，不見得一定要消滅人類，就像人類沒必要消滅狗一樣，呵呵
哥德爾證明了不完備定理，給出了類似這種問題的答案：不管你是什麼樣的形式化體系，只要是在形式化體系下，就無法製造自動機實現能對應解決任何問題的演算法。也就是說除非能對人腦的計算架構超越形式化的約束建模，也就是超越近代數學基礎，否則不可能成為真正的AI。
所以，既然機器人在現有架構下不可能實現真正的AI，也就不可能成為超越人類的存在，只能是人類的一種工具。所以這樣的機器人不可能成為人類的敵人，最多最多可以勉強稱為「朋友」。機器人能不能進化出智能還是一個問題呢
假設不能，那就永遠是人類控制，程序控制，那麼除非我們自己作死。。。。。
假設能，能脫離人類的控制（我不知道這兩個概念是否等同），以機器人的機智。。。智商上碾壓人類是遲早的嗯。但是在我看來，人類有自身的部分優勢，然後機器人會認識到人類的價值，會出現人類與機器人和平共處社會交融而非對立或者奴役的局面，當然，這是要有代價的。
假設機器人能進化出人性。。。那麼人類的安全無憂，但是。。。社會會不穩定，而且趨勢應該是機器人逐漸強勢。。。不過到時候還叫做機器人？
以上。。。全是瞎猜當機器人有思想時，便是人類災難之日。
機器人，人工智慧的終結目的是人類的長生不老，智力的大幅提升，生命的下一種型態。
如果一個機器人可以跟人一樣思考，那麼人和機器人間就沒有了邊界，大腦電子化，彧大腦可以完全可以模擬，for backup，那麼就沒有人跟機械分，只有人或你可以叫機器人。
當智人進化成機器人，我們不但將長生不老，且智力，計算能力也將升級。到時的問題是如何保個人，自由，還有就是新的人類應該是怎麼產生？
(我一直認為科技的發展最終將會消滅自由和個人，還有真實的)到時候真實跟虛擬世界也消失了生活上的界線，人類的進化將是進向虛幻。摩爾定律如果可以再維持四十年那麼就可以達到人腦的神經元數目，不過人腦是三維連接，所以這方面模擬至少還要上百年，而量子電腦如果有突破發展那就不好說了。
長生不老，跟智力提升的另一方向是生物化學，我個人更傾向這方面，這樣個人和自由還是得以保存的，那些人類原始的快樂還是得以以真實地感受。機器人跟人類的關係應該是一個發展的過程：
最開始，也就是現在，機器人是人類的工具，然後成為人類的助手，然後成為人類的朋友，再然後在各個領域成為人類的競爭對手並完美的擊敗人類，最後機器人成為人類肉體的掘墓人和智慧的繼承者。一切事物有生必有死，有興盛就必有滅亡。人類再聰明也逃不出這個輪迴。
而在我看來最有可能送人類進入墳墓的，就是人類自己創造的機器人。雖然計算機執行的程序是人類編寫的，但是人類並不能完全控制程序，BUG一直伴隨著編程。如果人真的能夠完全控制程序的話，就不會有那麼多奇怪的BUG。
微軟聚集了大量的全世界最優秀的計算機人才，windows也是其最重要的產品，但是WINDOWS依然會奇怪的死機，程序各種閃退。隨著程序的複雜話，互聯網，雲計算將無數的計算機聯繫在一起，形成的超級龐大的，複雜的計算能力，人類的智慧會想要完全駕馭是更加不可能。所以在我看來，隨著人工智慧，和機器人技術的發展，人類想完全控制機器人是不可能的。機器人一定會擺脫人類的控制。那麼人類和機器人爆發戰爭的話人類不是死定了？
科幻小說家為人類想了一個很不錯的辦法面對人類自己創造的力量龐大，計算能力超凡的機器人，將三大原則寫入所有機器人最核心的代碼中，絕對不允許反抗。
1：機器人不得傷害人，也不得見人受到傷害而袖手旁觀2：機器人應服從人的一切命令，但不得違反第一定律3：機器人應保護自身的安全，但不得違反第一、第二定律。所以應該是不會直接爆發戰爭，人類的各種工作會逐漸被機器人取代。因為機器人的生產力很大，人類不需要從事生產工作，機器人也能養活全世界所有的人口，人類開始轉而投向藝術方面的工作。創造物質財富的工作逐漸都被機器人取代，人類自身更多的從事精神財富的創造。這時候會出現一個超越文藝復興的，文藝超級發展的時代。因為人類每天只需要研究哲學，繪畫，音樂，舞蹈，體育。但是好景不長。未來隨著機器的生產力無限發展，人類的藝術行為將完全被取代，機器人也許沒有發展出多麼高超的藝術能力，但是機器人可以直接刺激人類的感官，產生各種神奇的感覺，並右身體各種激素產生激素進而產生各種心理變化。而人類自己創造的藝術在相比之下，再也引不起任何人的任何興趣。再後來機器人將人類保護的太好了，人類開始無所事事，覺得生命沒有意義，但是想死，自殺是絕對不行的，機器人不能對此秀手旁觀，他們會拯救無數的覺得人生沒有意義想要自殺的人。
這個時候，要麼人類自己放棄編如所以機器人最核心裡的三大原則，自己選擇滅亡。要麼人類成為機器人圈養的物種，人類的智力，體力都微不足道，甚至比現在還退化了，因為不需要進行勞動，思考也是沒有意義沒有價值的。沒有人知道機器人為什麼要圈養這些物種，機器人自己也不知道，只是內心深處覺得自己必須要保護這個物種。
人類要麼自己取消掉三大原則，選擇滅亡。
要麼在不斷的圈養中，退化，遺忘。雖然依然存在，卻沒有任何意義。天地不仁，以萬物為芻狗。
本屌不才，只做了一年多的程序員，我覺得還是可以回答一下。我覺得題主說的朋友和敵人都不可能，只能是作為工具，對，就只是工具。如果有人非要把自己的思維具象化到機器上把它當朋友還是可以的。說一下我為什麼這樣說的原因，因為程序是不會騙程序員的，光這一點就能保證機器是不可能具有思維的(大的不敢說，最近十幾年的時間，我估計也沒人能編出騙人的軟體)，任何程序只要一出問題，查看源碼，進行調試，都是可以找出問題的節點。對了，我們平時用的軟體有很多假象，對程序員來說都設定好了的。
機器人三原則已然註定機器人作為程序容器的目的性，，，
建議樓主去看The Matrix
只要機器擁有了自我進化的意識，終將取代人類。負責只能是人類的工具而已。
我只想說明一點中心：
當機器人的智能超越人類的時刻，機器人就脫離人類的控制。一山不能容兩虎
機器人能完全獨立思考以後，是不會甘心於做人類的工具人類也不可能接受以前的「工具」 獲得和人類平等的「人權」 甚至是凌駕於人類之上。是不是毀滅戰 以後的事情都不好說
至少類似美國獨立戰爭那種性質的 我認為不可避免和人類相比，現代計算機優勢在於計算速度和記憶存儲量。
和人類相比，計算機的劣勢在於沒有情感，不會主動犯錯。計算機是電化學反應產物，人也是。
人是上帝、女媧捏出來的，計算機是人鼓搗出來的。
計算機有感情就可謂智能，我想他們會尊重膜拜人。PS.我是IT人士推薦閱讀：