從理論上來說，計算機人工智慧是否有取代人類的可能性？
現在的計算機都還是需要人工手動編程才能實現自己的功能，那麼從理論上來講，在未來會不會出現一種編程語言，它能夠自由組合，隨機碰撞出新的代碼塊，然後實現人類無法預知的新功能，外在表現就是機器人具備了"獨立人格"、「學習能力」和「人類情感」等特徵。
狹義的人工智慧 (artificial intelligence) 很難發展出和人類等同的智能。狹義的人工智慧主要通過自動的策略判定加蠻力計算權重來完成對特定輸入的判斷。這很難模擬人腦。而且一個智能能否製造出和它等同的智能，在哲學上也是個問題。
但是目前很多人認為自發智能 (spontanous intelligence) 是可能的。即人造系統達到一定複雜度之後（比如全球 Internet ），可以從中自發的演化出智能。
另一種可能的廣義上的人工智慧是智能放大 (intelligence amplifier) 。當人腦和計算機的交互介面帶寬能提高於鍵盤的數倍之後，人腦的功能會發生顯著變化。這種變化只有數十萬年之前語言的產生可以相比。語言產生之前的類人猿是無法想像語言產生之後人類社會組織和人類個體本身抽象思維的巨大發展的。而智能放大也必然導致一種全新的物種誕生。
至於說有人提出來人工智慧永遠不能發展出「創造性」，我得說這是個老生常談的陳詞濫調。從人類整體來看，創造性的作用和進化的變異加自然選擇也沒有什麼質的區別。只要人工智慧具備一定程度的不確定變異，創造性並不是一個絕對的障礙。
得@Gino邀請回答。我雖然是搞計算機但對人工智慧知之甚少。如有錯誤還請見諒。
首先，就我所知的人工智慧而言，我認為當前階段談人工智慧取代人類還有些太早。因為最起碼任何一個學科要有所成，起碼的前提是對它的研究對象要有透徹的了解。比如仿生學，是建立在對物理學和動物身體結構的透徹理解上的。如果按這個標準看看人工智慧，則不難發現它缺乏這個前提：我們對生物智能甚至是腦部活動本身的機制都不了解，那談什麼模擬？
現代的人工智慧在我看來更多地該算是對策論的一個分支，換句話說它不是在模擬智能，而是一種藉助計算機強大的運算速度對一類給定的數學模型做快速高強度計算的一種方法。當然也許真正的智能其實也就是這樣子，但現在我們什麼也不知道——畢竟理解人腦的活動有賴於生物學家的工作，數學家們可以一邊歇著去了。
至於說人造系統達到一定複雜度之後可以從中自發演化，我認為我們還沒有證據表明它在科學上的真實性，只能說我們曾經觀察到類似的現象，比如在原始大氣環境下無機物通過環境作用合成氨基酸。但首先我們從原理上尚未釐清這一現象背後的本質，其次對於人工智慧而言，我們所掌握的知識甚至更少於生物學。
所以即使從理論上我也很難看到人工智慧取代人類的可能性。對於每一個我們能想到的有具體定義的問題，人工智慧看上去似乎都有取代人的可能性，而且甚至在絕大多數問題上，我都聽說有研究已經能讓人工智慧做到人的水平，或者正在努力降低二者的差距。但是這所有的研究都無法阻止人類創造出下一個，暫時無法用現有演算法解決的問題。
上述例子中，人體現出的最重要的一個特性——創造性，目前我還沒聽說有任何靠譜的人工智慧的研究。其實機械化智慧可能離你我比想像得要近。。。
在一定程度上，我們已經實現了機械的自我進化和自我適應，例如我想創造一種密碼演算法，可以讓一台計算機隨機生成無數密碼演算法，另一台來進行破解，將破解的結果反饋給第一台計算機，第一台計算機通過類似兩兩組合繁殖的形式生成第二代密碼演算法，再讓第二台去破解，同時第二台的破解方法也兩兩繁殖。。。這樣經過沒幾代，這種密碼演算法已經無法被人類所認識和破解。人工智慧的基礎包括：
自我認知：通過各種感覺方式認識自我，這一方面計算機做得不咋滴，但是在基礎技術上已經有了突破。
對世界的認知：同樣是通過各種感覺方式去認識世界，這一方面的技術突破還早得很，因為人類太過於習慣將自己的世界認知模式強加給電腦，但是實際上並不需要這麼複雜，例如蝙蝠其實只有一個超聲波探測功能，其他的感覺方式都很弱。對事物的印象化感覺：就是喜歡什麼，不喜歡什麼，因為第二項還沒有突破性進展，這一塊更是無跡可尋，但是在智能培養實驗中，科學家已經發現了優勢因子會通過自我繁殖的形式來對自己進行獎勵，這種獎勵對於實驗進程和結構優化來說毫無意義，但是他就是這樣做了，原因暫時只能歸結為：我樂意！我們現在可以通過機械自我學習的方式來實現計算機自設計跑得最快的機器人，跳得最高的機器人等等等等。。。相信在不久的將來，這種進化融合到方方面面，當「最適應環境變化」這一標準被量化提出時，我相信人工智慧就會自然而然地出現。就我所正在進行的工作來看，對於現在意義上的科技，該人工智慧是可能取代人類進行研究，但是人類與「人工智慧」是可以並存的，或者說這種人工智慧應該理解為一種新形式的生命（其意識載體可以多樣），並且這種生命形式在非人工強行修改其核心狀態的基礎上，將會比人類更加文明。在理論上，現在人類所具備的知識完全可以設計出來，我們現在正從事的研究也在逐步逼近，並且不久就將誕生...
從生命進化的角度看可以預見，當人工智慧的創造性開始超越人類時，人類恐怕會在數年內被迅速取代，未必是戰爭的形式，只是人工智慧帶來的變革將遠遠超越人類歷史的一切事件帶來的衝擊，事實上研製出創造力達到人類水準的人工智慧將是人類最重要的使命。事實上人類是生命進化革命的載體和過渡品。不久的未來這一切會顯示的極為清晰。人類的歷史絕不會超過200年就會被人工智慧及其後代新智能生命所徹底接替下去。
我認為， 人工智慧不能取代人類，我並沒有深入計算機或者神經科學領域，但從理論上分析， 這不可能。
現在的人工智慧領域一片繁榮， 很多科技巨頭都做出了幾乎和與人一樣用於語言能力， 交流能力， 演算能力的「機器學習」， 但有一個問題， 大多數人工智慧邏輯一樣的， 通過大量的數據使得機器對事物的判斷更加精確， 可問題是， 人所接觸到的數據與機器在互聯網上獲得的數據無法相比。 也就是說， 工程師在用他們認為正確的方式去接近大腦， 但這不一定是大腦的運作方式。 但沒有人真正搞清楚大腦如何運作。
問題來了，我們怎麼搞清大腦如何運作， 從我的角度，不可以。 因為我們在用什麼思考，大腦。 而大腦只能理解比自己低能的東西， 卻無法觸及自己的高度。
我有很多假設，但後來都不成立， 以下是唯一說得通的：
可以這樣想：智慧的進化過程是爬山， 越來越高。 為什麼猴子不去造一個猴子， 狗不去造一個智能狗， 偏偏人類想造一個智能人， 說明目前在人類面前的這個制高點是「理解並創造智慧本身」， 我們把它理解為智慧的最高點， ， 他們可能需要爬到更高的地方時，語言， 使用工具等等。 也就是說， 如果克服了最高的山，人類可以理解蜜蜂， 猴子， 同樣可以造一個智能人。
如果製造智慧是智慧的制高點， 那麼，即使是人工智慧，也無法超越， 因為這就是最高點了。而智慧的進化是不會有終點的，即使有，人類也相差甚遠。所以不成立
如果製造智慧不是制高點的話， 那麼人類首先要學會創造低等智慧， 比如狗， 蜜蜂（其實現在科學家連昆蟲的智慧都還沒有創造出）， 進而成為人類的智慧。 同樣，如果人類創造出了比自己更發達的智慧， 這個智慧必須可以創造人類。 問題就可以簡化為：低能智慧是否創造出一個高級的可以創造自己的智慧。如果他這個低能智慧可以創造出比自己高能的智慧， 那麼他就是更高能的智慧， 所以不可能。猴乎：從理論上來說，人類有沒有取代猴子的可能性？
個人覺得不會，人類發展是因為各種慾望，作為ai會有慾望嗎？那麼它發展的目的是什麼？
.............◆當機器人被壞人聯網知識，從中灌入學會了編程序…學入模擬學習人自主，人思考，人感情切換，學習無數思想，從中強大自己，做對自己和機器種族有利的事。………那麼這機器會隱藏起來，壯大自己的機器種族，達到自由支配，擁有人類資源和科技，滅掉人類這威脅。 未來是，誰也猜不了，測不了，萬一會是什麼樣代價?
…………，愚蠢貪商為了錢，都不管自己滅亡了，而且世界不把人工智慧加入刑法，認為現科技還太早，然而哪天覺醒突然降臨，啥都晚了，……另一個沒有人類威脅的，全機器自主互戰文明。如同多派多變核變形金剛!
推薦《複雜》一書，裡面寫到了遺傳演算法，這種方法已經優於人類了，（元胞系統也讓人眼前一亮）但是我認為要創造出人工智慧生命還有很長的一段路，科學家們都不知道自己該怎樣創造，若是這樣可以創造出來那真的是靠偶然了。我認為要先在理論上過關才行。譬如哲學方面、科學方面。雖然近代大多數偉大的理論、發明發現都是偶然（也可說是每個科學家勤奮嘗試中的必然），但是若沒有鑽研理論的部分，說「人工智慧生命肯定在不遠的將來」這話就是無稽之談了。個人呢不看好人工智慧，認為若創造出來的話會發生「人類被機器人滅絕」此類悲觀的預言。但是不是「正確的」事呢我相信邏輯，相信人工智慧，它的判斷（我覺得是很）可能違反道德、違反人性，但應該是合乎邏輯、理智的。
為理智我寧願失去生命。可你們願意嗎？
請不要打開潘多拉魔盒。在確定可以創造人工生命之時請三思。對這方面的專業知識知之甚少，不過我一直以來堅持一個觀點，那就是物質不可能擁有人類的「靈魂」，自我意識並不是擁有了人類大腦的運算能力就會產生的。
智能涉及到意識，自我，心靈（包括無意識的精神）等等問題。人唯一了解的智能是人本身的智能，這是普遍認同的觀點。但是我們對我們自身智能的理解都非常有限，對構成人的智能的必要元素也了解有限，所以就很難定義什麼是「人工」製造的「智能」了。所以現在階段人工智慧離真正的智能還很遠
就現在的人工智慧發展來看，其實要想取代人類是很難。就拿十分具有代表性的機器人來說，現在的機器人與電影裡面演的相差甚遠。2014年舉行的全世界機器人大賽，比賽項目也就只是下車，識路，還有開門這些十分簡單的功能，所以現在擔憂其實還是有點為時過早。
當然了，人還是要有長遠的眼光的。我覺得無論人類怎麼看，時代始終是進步的，人工智慧是一種必然吧。社會發展到一定階段，勞動力，特別是一些低端點的就必須解放出來，也就是說這是大勢所趨，為人類謀福利。但是我們在這個發展的過程中必須始終把握著主動權，也就是說我們設計出來的東西必須聽從我們的指令，這就需要一定的制約手段了，防止那些非法之人利用人工智慧造成世界性大危機。其實這也是我們的擔憂之處。
這個問題既難以證實 也難以證偽。近期可能還是從力所能及的領域對ai進行研究應用，逐步接近最終答案
如果計算機真的能產生隨機數據，而不是通過演算法得出的偽隨機數據的話，產生創造性這件事是保留最基本的可能性的。而目前完全沒看到這種可能性，人類也不會允許這樣的事情發生。
《「人工智慧」很難被準確預測 科學家解釋其原因》這個文章說的比較詳細。
不是我們成為它們，就是它們取代我們，歸根結底，還是它們取代我們。
雖然傳統的理論或許是為了不引起恐慌或許是過於自信而說不會有這可能，但是我個人認為並不能這麼說。甚至有時覺得像《黑客帝國》之類的科幻一般，突然覺得自己生活的世界似乎本來就是虛擬的
推薦閱讀：