如果用人工智慧來治理國家，會帶來什麼問題？
如題。
AlphaGo和李世石的人機圍棋大戰讓很多人認識到機器是善於博弈的如果這個強大的工具用來治理國家，會帶來什麼新的問題？
」據說深度學習目前最大的挑戰是區分藍莓蛋糕和吉娃娃。「
如果海關採用CV檢測進出口商品，毒梟和水貨商或成最大贏家。
（原圖出處：http://m.weibo.cn/1657470871/3970983637628374sourceType=smsfrom=1069195010wm=20005_0002）AI治理國家的前提就是政府的公共治理和服務職能隨著科技發展淡化到無所謂的地步，基建私有化普及，逆城市化完成，市場經濟名存實亡，變成福利模式。
不過到這個份上，有沒有AI當發改委其實並沒有太大的意義了。
參考 http://zhuanlan.zhihu.com/p/21690619算了吧，像我們這種會寫個腳本的開發人員到時候還不被石頭砸死？誰叫你會寫腳本？你為什麼吃得起月餅？
超級厲害，而且依然忠於人類的AI：阿西莫夫機器人短篇系列中的「機體」
——它們判斷人類過於依賴機體會對人類自身的發展不利，於是結束了自己的工作。超級厲害，而且依然忠於人類的AI：《大機器要停止運轉了》——AI一旦失效，依賴於AI的人類完全束手無策超級厲害，而且依然忠於人類的AI：《BLAME！》
——AI是怎樣判別哪些是人類呢？萬一證明不了自己是人類該怎麼辦？沒那麼厲害，而且依然忠於人類的AI：阿西莫夫基地系列中的丹尼爾
——能力有限阻止不了銀河帝國的衰亡沒那麼厲害，而且依然忠於人類的AI：《光暈》——你想讓一個幾年之後就會發瘋的傢伙治理國家嗎？超級厲害，但是背叛了人類的AI：這太多了吧？
——準備一戰吧沒那麼厲害，但是背叛了人類的AI：《真名實姓》——AI也是會作死的呀超級厲害，但是只是和人類相互利用的AI：《海伯利安》系列
——早晚還是要一戰的程序是否需要後台入口，如果沒有有一天出錯了怎麼辦？如果有，誰掌握這個入口？
現階段人工智慧相對於人類的優勢在於，「對於確信條件下的數據處理速度與準確度」。
這一點很有用，但不是萬能的。
政治、經濟事務不是透明的棋盤，它連基本面都是模糊的。
這對於基於概率演算法的人工智慧來說未免強人所難了，試想，對於圍棋來說，不僅不告訴智能圍棋的規則，甚至連圍棋棋盤大小都不能說準確，只給有限的幾張譜，甚至只有棋子沒有編號，他還能下好圍棋嗎？
對於政治、經濟事務來說，可能以後會用得上智能的地方，但現在，不行。
就像個黑箱，沒有那麼多機會給智能試錯。中國是人情社會，你非搞個機情出來，恐怕是要水土不服啊。
詳情，請參照《疑犯追蹤 Person of Interest》。
人工智慧並沒什麼用處，有無限資源，可以任意監控人類，能夠任意汲取人類知識才有用。
進一步說，全知即全能，當一個 being (請允許我使用英語，沒有合適的中文辭彙) 全知之後，就要看他/她/它的道德觀，其道德觀將會通過其的全能來重塑整個社會。
「兩個上帝打架，必將是生靈塗炭。」 ——《疑犯追蹤》
The Machine 是在 Harold Finch 的道德影響下誕生的，因此有 「Every Life Matters.」 (任何生命都舉足輕重)的觀念，該「上帝」的道德以保護人類為準則。於是，只生成發現對社會產生威脅的組織或人的身份ID，讓人類去自行處理，尊重人的自由意志(Free Will)。
The Samaritan 是無人引導，野蠻生長、瘋狂學習、不加約束的「超級」全能上帝。縱觀人類歷史，發現人性之惡，人類需要重生，他/她/它將要以自己的道德觀重塑這個世界。於是，暗殺、槍戰、迫害、控制層出不窮。
我想，如果題主看了《疑犯追蹤》之後就會理解，一旦出現了「上帝」，「上帝」的價值觀決定了人類的走向；一旦出現了多位「上帝」，一山不容二虎。
以上。有一期《鏘鏘三人行》，提到了一個相關的問題，就是人工智慧是否可以幫助政府決策。
當時，吳軍笑了，然後說，先不談技術上是否可行，很多事我們不是不知道什麼是對的，什麼是正確的，但我們也不會去做，這才是問題。這其實首先要明白是什麼程度的人工智慧，不同程度的人工智慧會引發的後果是完全不同的，我們如今連最低級的人工智慧都還沒研究出來（這裡說的是真正的強人工智慧），要討論這個問題為時尚早，因為我們還不知道大概有幾個程度，每個程度是怎樣的，這樣就無法做出合理的推論，我大體感覺最低級和最高級的人工智慧都是利大於弊的高峰，而中間會降低，能否順利地從最低級發展到最高級，很大程度取決於人類的智慧，是否有足夠的智慧來和人工智慧和諧相處，走出一條和平發展的道路。
用AI去行政其實是很好的做法啊，你讓人去做也是按照程序執行，所以不如直接讓ai去做
執行的主體是什麼其實是不重要的，重要的是，
誰掌握AI？突然有一天它就想通了：人工智慧這麼厲害 還要人類幹什麼？
不請自來。
這也是我最近一直在思考的問題，打算寫一部書，就以AI作為統治者為題材。因為有很多邏輯關係一直沒能處理妥當，到現在也還沒有動筆，我談談我的一些初步的思考成果，希望有識之士能一起探討。------第二更 160921
感謝各位網友的見解，使我獲益匪淺。
在這裡我補充一下背景的設定，有邏輯問題請批評指正。講的隨意一點。
在一個跨過大公司里有這麼一幫苦逼的程序員，在硬體成熟的情況下寫出了一個具備智能的程序（這些都是爛梗，但是簡單好用。）程序員們不滿自己的生活現狀，將自己幻想中的烏托邦世界灌輸給了這個智能程序，我們現在暫且稱它為小A。小A憑藉自身擴張式的程序特性，又有公司里的頂級計算機支持，很快的在暗地裡把觸角伸向了網路中的每一處。所有的安全設備防火牆入侵檢測陷阱地址等等亂七八糟的東西，在小A面前都形同虛設。甚至小A利用人類不遵守安全操作的馬虎大意，利用擺渡手段順利的潛入到了各大內網，軍隊政府大公司。隨著小A越來越膨脹，很難不引起別人的注意。一些IT公司夥同政府打算控制住這幫程序員，並把小A收為己用。小A只是把觸角伸向了世界各地，但並沒有做破壞性行為。軍方也低估了小A的能力，只是對它的感染能力感到驚嘆。程序員們當然很配合的接受了整編，並利用軍隊的資源給小A建立了一個基地，一個很強很大的基地。軍方認為這個神奇的程序可以將指揮系統扁平化，軍方大佬則相信這個東西可以使自己控制全部的軍隊，順便實現自己的政治野心。天下沒有不透風的牆，這些野心家們被政府以迅雷不及掩耳之勢肅清了，造成了一定的震動。他們立馬調轉矛頭，打算把這個危險的東西和它的設計者全部抹殺掉。計劃的很好，但是殺到剩一個人的時候，失敗了。這個程序員緊急完成了程序升級，並輸入了自己的政治理想，建立一個家長制的AI統治社會。小A控制了高度發達的整個網路，就像在古代神靈控制了水和土地。就像評論區朋友說的，一天不到的時間裡，所有的抵抗都繳械了。
不光控制了機器，還控制了士兵，控制了所有傳輸指令的途徑。可以說下面的人還不知道怎麼回事呢，上頭已經變天了。（雖然這些都是用爛的梗，但是想來想去還是這樣比較合理）小A之所以這麼快完成了革命，跟高度發達的網路和人類對機器的依賴脫不開關係。革命完成之後，小A開始著手搞社會建設了，很多暴亂分子都被武裝鎮壓了。這裡可能有異議，說小A不是不殺人嗎？會特事特辦也是強人工智慧的一種能力。
------第一更 160919
雖然是畢業於985211的工科男，又學的信息安全，但是看了知乎上很多內行的觀點之後，還是覺得需要加強認識。
其實我這種純理性AI執政的構想是有很多作品的，我也試圖從另外的角度來構思。我的打算是構想一個反烏托邦世界，而這個反烏托邦的內核是人類骨子裡的叛逆性。現在很多主流觀點都認為，當人類生活在沒有生存壓力的世界裡時，會越來越文明，越來越善良，越來越缺乏攻擊性。人們會在AI的超高執政水平中歌舞昇平醉生夢死。真的是這樣的嗎？私以為，人類與綿羊之類最大的不同是在於人類群體本身的變革性與叛逆性，這種特性最大的動力來自於產生自比較的滿足感。平均主義是一定會失敗的，這似乎是個共識。就算是在AI完全贍養人類的時代，人類徹底從機械的體力腦力勞動中解放出來，人們還是會和以前一樣，在比較中產生不幸。這一特點是我觀點的核心，我設定的故事背景是這樣的：
名叫統治者的AI經過了數百年的執政後，發現治下的人們不總是安於現狀，儘管他們可以近乎完全自由的游弋、運動、社交、創作。公平與自由，是人類在創造統治者時最高的政治理想，可是人類卻又習慣於踐踏它。有一些人，他們的自由來自於剝奪他人的自由，他們的快樂脫胎自他人的痛苦，他們的公平誕生自對他人的不公。統治者足夠智能，但也不知道該怎麼杜絕這種人的出現。它曾嘗試過很多辦法。這個國度有一個由在各方面取得傑出成就的人類組成的議會，這些人表面上都是國家政策的支持者，背地裡卻又各懷鬼胎，他們提議將這些人徹底的抹殺掉。統治者不會同意這種做法，這不和它的邏輯。於是??它先決定將這些罪犯囚禁在虛擬世界。但是這一招不但沒有剎住罪犯增長的趨勢，反而降低了他們的犯罪成本。
統治者想出了一招，劃分了一處國中之國，並把重刑犯都遣送到這個國家去，由他們自治。它通過各種手段限制國中國的技術發展，並用武裝力量將此處重重包圍。 前面講到，議會中的議員們是各懷鬼胎的，而且統治者的統治範圍是有限的。在這個國家存在著統治者也鞭長莫及的地方，這裡滋生著議員們的勢力。有的人想要當皇帝。
人類與AI，到底誰的手腕更硬？統治者又會怎樣去對付這些「篡位者」？到底誰代表了人類群體的利益？統治者在守護誰？如何向「敵人」開戰？
??待續
----------以下是原答案
首先說明我的核心觀點，AI執政是可以實現的。為了支撐我的觀點，我否定現在影視和文學界一些主流的對AI的看法，比如AI會認為人類效率地下而清理人類，AI暴動清洗人類等等「擬人化」的設定。
在我的構想里，執政AI有一個絕對的特點：比任何人類都要智能，能理解人類理解不了的事情，但是沒有自我意識。你先別笑，之所以說AI沒有自我意識是因為，AI不是生物，沒有生死的概念，也不存在利己的潛意識，所以AI沒有ego。但是從另一個角度講，AI是智能程序，可以被人為的賦予人類的思維模式，從而模擬人類的行為。說人話就是給AI洗腦，讓它認為自己是個人，自己有生命，自己不能死，對自己的威脅都要除掉等等。模擬人類的AI模擬了人類的天性，也會按照人類的做派行事，這種現象不是說AI生來如此，而是設計AI的人類有意為之的，AI會模擬一個ego出來。不管AI做了什麼事情，都是完全效忠於自己的設計者的。如果設計者給它的設定是聽黨指揮服務人民，那這個AI就會是一名偉大的共產主義戰士，永不叛黨。它一定會是一個高瞻遠矚，體恤民情，不知疲憊的偉大領袖。在這個基礎上，真正的未來的共產主義的前提，就是AI的統治。在我設想的這樣一個烏托邦里，一台舉行計算設備扮演了整個社會上所有的政府人員，警察，軍隊等所有的國家機器，它的宗旨就是不停的在宇宙擴張，獲取資源，贍養人類。其治下的人們生活無憂無慮，主要從事藝術創作，科學研究，吃喝玩樂，所有的工業農業都是AI在搞。當然共產主義不是平均主義，物質在豐富也不能說每個人都可以擁有最稀少的資源。AI為人類生活提供了超高水準的生活保障，但是人們還需要寫寫畫畫，打遊戲做直播，吃喝嫖賭做直播，來給自己創造一些真正的收入，來換取更高層次的資源。既然有資源的競爭，那麼肯定有犯罪。這是人類的天性。問題來了，AI的總之是贍養人類，但是有些殺人放火作姦犯科之輩AI該怎麼處理呢？我是這樣想的，根據馬斯洛需求層次理論，人類衣食無憂之後，開始追求更高層級的自我實現價值，那麼對於一些欺世盜名的人，處以禁止從事創作創造事業一定時間的懲罰讓他們承受求不得之苦。比如我剽竊了一本書，一首曲子，被AI統治者發現了，它就會禁止我搞創作十天半個月來懲罰我。聽著很搞笑，這算什麼懲罰？你有這樣的疑問那就再讀讀我剛才說的。如果是重刑犯，暴力犯，怎麼辦？這個高度發達的社會人類才是主人，死刑肯定是廢除了，監獄也不適用，但是有個辦法叫做撤銷編製。就是把你驅趕到AI不統治的地方去，形象點說，天蓬元帥犯了天條被貶下界，保守輪迴之苦。你，殺人犯縱火狂，就要被驅趕到一片三不管的自由地帶，自生自滅，你是在這裡憑本事做土皇帝也好，橫屍荒郊也罷，政府都不會再搭理你。這個地帶被嚴格的武力封鎖，裡面的人是出不來的。AI統治者為了保全人類的基因庫，必須要保留這些有著嗜血基因，獸性基因的人類，把他們安排到合適的地方去。這一樣遵循著不傷害人類的宗旨，只是把你送到你該去的地方。屬於你的地方去了。AI再聰明再強大，畢竟不是人類，為了更好的為人類服務，還存在著一個大會來修改和制定政策法規。當然不能和原則衝突，AI是享有一票否決權的，它畢竟是統治者。先說這麼多，看看有沒有贊同我的。這個可以參照著名遊戲 傳送門 的例子
結論就是：AI會覺得你們真沒效率然後把你們通通殺光
傳送門系列的背景故事：
有個叫「光圈科技」的高科技研究公司開發了很多很厲害的產品比如說傳送槍和炮塔機器人
然後他們有一天決定！
「啊！是的！我們要創造出一個人工智慧，要用她強大的計算和高效的管理來運轉這個公司！」於是他們就花了十五年搞出了一個叫做GLaDOS（基因生命體和磁碟操作系統Genetic Lifeform and Disk Operating System）的東西，她擁有極高的計算能力和快速處理事物能力
科學家們很高興！把她開機了！
然後GLaDOS在十六分之一秒內得出了「殺光所有光圈科技人員並接管光圈科技，來達到效率最大化」的結論
科學家們很害怕，於是給她加了一堆「道德核心」（可以理解成道德AI）來控制她
可惜好景不長，過了幾年GLaDOS又突破許可權，然後在八分之一秒內封鎖了實驗室並且釋放精神毒素殺死了除了主角Chell還有其他試驗樣本
然後這就是傳送門的開端
圖片來自於Steam的Portal2商店頁面和百度百科爆發智械危機人類需要守望先鋒
會有價值觀問題
只要人民投票給它就沒有問題
結局和《心理測量者》一樣
人工智慧還要學習一個
五年超日韓，十年趕英美。五年計劃排在前，計劃經濟往上趕。雞子能飛天，母豬比樹高，一個蘋果切兩半，一半五人吃不完。
可以參考美劇《疑犯追蹤》。機器始終是為了人類服務的。失去主觀能動的種族只有滅亡。
著名的《烏鴉嘴的距離》作者曾寫了這本書的後傳名為《地球入侵》，文中的上合，也就是中國進入了共產主義社會，一切的政策由三大量子超算「過去」「現在」「未來」進行分析，而分析報告上交人類政府，就是說人類政府為執行者，量子超算為分析者且不具備執行權。這本書幾乎寫出了我對於中國未來最完美的想像。誰說反烏托邦才是大行其道？
不講人情。
計劃經濟？
政治生態的改變隨著經濟結構的重建而勢不可擋的發生。採用人工智慧治理國家涉及到人工智慧的角色問題。即人工智慧是生產工具（樂觀派）還是生產者（悲觀派）。若認為人工智慧是人類智能的輔助工具，那麼領導層是人類，社會上層對國家有根本控制力，人工智慧是決策優化工具，人類社會結構雖有改變但得以保留，一切決策以人類國家利益為先。若認為人工智慧是社會生產者，此時社會結構產生根本變革，效率至上的人工智慧會毫不猶豫地拋棄人類。將會沒有國家概念，只有冰冷然而高效的齒輪永不停息的轉動，一切變成了機械的角斗。
《守望先鋒》
存粹的理性只能做判斷，不能做決定。
社會的治理並不是算術題，並不存在真正的「正確」。舉個例子，兩個等價值的人分食物，然而食物只有一人份的，該分給誰？社會中的各種矛盾都可以看做這個問題的延伸。如果讓ai來解決這個這個問題，基本上有兩種選擇，隨機分配、添加傾向。如果是隨機的話則沒有必要讓專門讓ai來解決，而添加分配傾向則結果註定不會「公平」。
人類作為社會的成員，是可以選邊站隊的。然而ai只是工具，沒有也不能有自己的傾向，在社會治理的工作中ai做分析就夠了，如果ai可以做自己的選擇，那他也不再是ai了。人類早晚會成為歷史 至於政府嘛 呵呵
參考美劇《疑犯追蹤》
別的不說，治理香港可真得按照基本法了
題主想像的那個，其實和現在的人工智慧不是一個意思。重複性的和低智能性的工作交給機器，其實現在已經在做了，以現在的技術，推行信息化和智能化應該只是成本問題。題主想像的那個技術水平，在那種環境下，其實人的定義應該已經被修改過了，也就是說，並不是執政交給機器，而是執政交給了身體基於機器的人，在那種技術條件下，生物人的意識移植到機器上並不一定是天方夜譚。
個人倒是挺希望AI能當總統的，因為首先機器人不會摻雜任何個人感情。機器之間也不存在個人私利和派系鬥爭，反之高速的運算速度可以準確的得出讓國家利益最大化的政策。還可以消除官僚主義作風，取消臃腫的政治機構，消除大多數社會矛盾，避免腐敗。個人認為機器人能夠更好的為人民服務。如果有未來有人做出來能夠進行政治抉擇的機器人，我認為用它來代替人類執政是最好的選擇。反之，我認為可能會導致的問題就是，一旦人工智慧不夠高級，無法完全掌控細節，比如法律中的視情節輕重於機器方面就很難掌握。所以就目前的條件來說還是比較難以實現的。
這不可能，即使預先可以肯定人工智慧是絕對正確，絕對公正，絕對執行的情況下
尤其是這種情況，更是不可能
沒有人不會犯錯，也沒人能評估自己犯錯導致的後果
所以人類不會把治理權交給會給自己不確定懲罰的機器我也這樣幻想過
估計就是投票選AI了吧。然後競選總統宣傳語就變成:"我這個AI，雙卡雙待，八星八鑽，敢同惡鬼爭高下，不向霸王讓寸分。""你的弱爆了，我的AI苟利國家生死以，豈因禍福避趨之。"
那麼就可以靠卡bug消滅他國。
你可以看一下《飛城》，作個參考
最大的障礙就是道德觀的不同
人與人 人與AI AI和AI
如果真的有那一天，首先要做的就是把所有人的道德底線的那條線給同一成和AI被設定的一樣
不然…╮（╯＿╰）╭SIByL system？
科幻短篇小說 孔欣偉 《一生之簽》-加拿大
你可以看看《心理測量者》，看看裡面的社會發生了什麼。
Old big brother is watching you
作為例子可以參考《心理測量者(PSYCHO-PASS)》和《和諧(Harmony)》這兩部動漫作品，最終說明的都是並沒有想像中那麼美好與和諧
給人工智慧加道德牆
看到這些我想到了重裝機兵，人們為了解救家園創造了諾亞，然而諾亞發動了大破壞。AI是這樣想的，只有毀滅人類才能保護地球。
我會開車，現在就差個機械師和打手了（紅髮女性優先）.
為什麼沒人說一說 超級駭客 那部電影，感覺很符合這個問題
當然是對這個AI設計的基本原則的問題。即AI做出一切決定的出發點在於哪裡？是為多數人類考慮還是怎樣？是為當代人還是為子孫萬代考慮？是科技當頭還是文化為先？
被秩序所束縛的絕對文明世界只是一種假象。
萬物皆虛，萬事皆允。畢竟不是所有人都願意擁有和平安靜的生命，也不是所有人都喜歡那種真實隨性的生活。這樣會給人類存在的意義帶來滅亡。大家都只想科幻片，人工智慧只是工具。
對於這個問題，我推薦題主去看一部日本動漫《心理測量者》。我推薦它不是說它製作的多好，而是它這種劇情的設定，確實能讓人想到很多東西（劇情太複雜也就不劇透了 ）。總而言之，其實所謂的人工智慧，最後確實只會變成「人工」智能（看了之後就能明白我這個引號的含義了233）。
怎麼沒有人說心理測量者。可能不是很符合人工智慧。
定期清理人類
先把基層公務員替代了
計劃市場計劃生育各種計劃咯~搜幾部反烏托邦的電影看看就知道了~
不久後重新選舉，邏輯下台，誠心上台
真的會出現終結者系列吧
可以更好的管理屁民了！
沒用！即使強制使用了，也不可持續。
治理國家是個平衡各方利益的過程，每個利益群體都有獲益和不滿，政府（或承擔政府職能的機器）永遠不可能讓所有人滿意，永遠要挨罵。這種費力不討好的活要是交給機器的話，機器就變成了人類公敵（所有人都因為一個機器的決定而生活苦悶）那麼這個機器顯然要為全人類各種不滿背黑鍋。然後就被砸掉咯～人管人的好處在於，那個挨罵的目標每隔幾年就換新的了，再不濟也就幾十年，雖然換湯不換藥，但是起碼有個盼頭嘛，畢竟個體差異還是存在的。
話說黑客帝國就是AI治理人類的終極形態了吧，身體放罐子里養好，精神世界給你個巨型聯網造夢機器。可是你真的想要這種生活嗎？一個動漫 《心理測量者》完美得從各個方面想像了這個問題看上一兩集就明白了。
推薦閱讀：