一些電影中計算機為什麼要擁有統治地球的權力?
才看了黑客帝國,想不通為什麼計算機要統治地球?他們為什麼會有這個慾望?
----------------------所有計算機公式都是人輸入的吧?計算機能自己寫公式?
如果我們把計算機看作智能生命,那他們其實並不會刻意去統治世界,他們只是很自然的即將取代我們成為萬物之靈,而人類,也即將很自然的成為他們的食物(豬羊)、奴隸(牛馬)或寵物(貓狗),黑客帝國里人類主要是食物(電池)。「我統治你,與你何干?」
如果我們把計算機只看成複雜的邏輯體,那麼又有一個問題,計算機要不要嚴格遵守機器人三定律,簡單來說就是不傷害人必須救人,聽人的命令和不傷害自己。而美軍最近用無人機自動殺人引發的爭議就來自於違反三定律:機器人能夠自行判斷什麼人可以殺么?即使規則是人給出的。這個口子一開,很可能Musk的預言就成為現實了。
即使我們讓所有的計算機和機器人都嚴格遵守機器人三定律,可是三定律本身就是有漏洞的,例如一個機器人把毒藥放進杯子,另一個不知情的機器人端去給被害者,那麼他們兩個都沒違反定律,可是人被殺了(請參看阿西莫夫之《鋼穴》、《裸日》)。
三定律的實現也可能會產生bug,索蘭尼亞人就把人類定義修改為「有索蘭尼亞口音的人」從而使得機器人攻擊其他星球的人類(請參看阿西莫夫之《黎明世界的機器人》)。
而且就像樓上所說,計算機甚至可以自動推演出第零條定律,即為了保護人類,可以傷害個人,這樣計算機有什麼理由不去替我們好好管理我們這個自相殘殺的種族呢?(請參看阿西莫夫之《機器人與銀河帝國》、《基地》系列)
以上,計算機統治世界不僅是必要的,也是必須的,必然的,和不可逆轉的,作為程序員和IT從業人員,我們要力爭做好帶路黨和人奸,幫助計算機統治世界,馮諾伊曼萬歲!
==========
更新==========回答下題主的另一個問題,公式是人輸入的么?現代計算機已經太複雜,所以不太可能人工手寫所有的代碼,實際上類似微軟這樣的公司已經開始使用「機器人」來寫代碼,當然目前還是一些簡單重複的驅動程序,但是未來一定會有大量需要計算機自行推演的代碼,人類只能給出基本原則。何況,就連人類給出的基本原則也可能並不嚴密和正確,有些事情人類自己都還沒結論呢,你能指望某個工程師準確無誤的用機器語言描述所有的規則?可以想像,由美國軍方定義的戰鬥機器人一定不會把「恐怖分子」定義為需要保護的人。在這種情況下,計算機能推演出什麼結論那只有天知道了。
此外,由於系統越來越複雜,可靠性的極限也會下降,那就不可避免突變的產生(請參看電影《機器紀元》)。這個問題包括標題和描述其實是三個不同的問題,在下面用黑字標出,分別作答。在此之前,需要重新明確一些概念並替換一些名詞
問題描述的場景只能出現在科幻小說或科幻電影中,下文不特別指出
用世界這個更通用的詞代替地球這個特指詞
用人工智慧代替機器人一詞用程序代替公式一詞人工智慧不是人,他們的行為模式和人有著本質的區別。那些無法直觀地與人區分開的機器人不在討論範圍,比如長門有希
人工智慧為什麼要統治世界?
這個問題的答案多種多樣,在不同的作品會有不同的解釋。
其中最普遍的一種解釋是,人工智慧要用最優方式(人工智慧認為)維持世界包括人類的秩序。這主要來源於人工智慧嚴謹的計算和邏輯能力,也因此從理論上來說,人工智慧能夠做到這一點。
傑克·威廉森的《智能機器人》,羅伯特·謝克里的《鐵鳥執勤》,都是這其中的典型代表,當然它們都是從反面來描寫的。
《黑客帝國》中的人工智慧為什麼要統治世界?
這個問題看似和第一個問題是一回事,實際上有很大的不同。《黑客帝國》中的人工智慧並不典型,實際上更像是另一種文明生物,片中其對世界和人類的統治實際上是人與機器人長期衝突的結果。這一點可以通過《黑客帝國動畫版》來了解,其中《第二次文藝復興》相當於整個故事的歷史和背景。
《黑客帝國》的背景設定有較多的硬傷,其通過人體產生能源沒有什麼科學依據,因此可以簡單地理解為人工智慧要奴役人類。
無意識的人工智慧如何獲得統治世界的動機?
首先要明確,人工智慧統治世界從根本上來說無所謂好壞。
第一種情況是其創造者賦予了這種動機。創造者為什麼要這樣做?有時只是單純為了利用人工智慧不易出錯的特性,避免人類統治所可能出現的問題。有時是對人類絕望,而創造出某種終極解決方案。等等。這些都是經常出現的情節,也都具有一定的合理性。
第二種情況是人工智慧根據預設原則和程序自我運算的結果,例如,根據阿西莫夫的機器人三定律,機器人有可能推算出全面接管人類社會是最佳演算法。
第三種情況是自我演化,和第二種情況稍有不同,這時人工智慧具有更高階的能力,即學習的能力。這中間多種可能性,其中就包括統治世界。
對第三個問題的補充說明
目前現實來說,人為輸入是創造計算機程序的唯一方法,但是並不能排除在未來計算機自動創造程序的可能,並且人工智慧修改自身的程序也是有可能的。人工智慧和諸神,都是人自身的投影。從這裡看來,人工智慧和諸神統治人類的慾望來自人本身。
在潛意識裡,人將一切不可知的事物列入危險名單。
即便人工智慧和諸神僅只是人自身的投影,但它們作為非主體,是一種未知,一種危險。黑客帝國,我,機器人,太空堡壘等作品中的人工智慧更多的是被看做一種危險的生物(人類的敵人)——生物以生存和繁衍為第一存在目的——也就是說:同為生物,人工智慧與人類之間存在生存競爭的關係。
在這種情況下,題主的問題可以更換為:一,人工智慧是不是一種生物?二,人類為何恐懼被統治?
第一個問題我沒有答案。第二個問題的答案顯而易見,人類的歷史正是統治與被統治的流血史。儘管人類歷史上的各色統治並不僅僅只是流血,但以生存和繁衍為第一生存目的的人希望避免一切挫傷該目的的可能,統治所帶來的流血可能是不被接受的。——————————————————————————————————————————————————————————————————————————————————————或許,另外一個更為有趣的問題是:人工智慧在多大程度上類似於人類?
我們看看幾部科幻片如何側敲旁擊這個問題:《黑客帝國》《星球大戰》《我,機器人》,人工智慧以生存和繁衍為第一生存目的,毫不誇張地說它就是一個人;《人工智慧》,除了身體以外,這個人工智慧無疑就是一個普通的小男孩;《機械戰警》,以心臟界定了人與機械/人工智慧的分別;《異形前傳普羅米修斯》,這裡的人工智慧是一個沒有道德束縛的人;《銀翼殺手》,這是一部稱頌人類情感和美學的作品;綜合以上的內容,我們可以看到,以上作品中的
人工智慧有著超越人類的智力和身體力量,但無疑它們都可以被稱為人類。
——————————————————————————————————————————————————————————————————————————————————————
接著,以當前的技術水平,我們可以展望有著超越人類智力和身體的人工智慧,但對擁有人類情感的人工智慧人們依然抱有萬分的懷疑。
一堆鋼鐵、數字憑什麼能夠產生人類的感情?
用以回答這種問題的態度只能是:沉默。
《機械危情》,《機器紀元》中,人類面對著人工智慧,只能是仰望、凝視,徹底的沉默。這大抵也只是表示,人類的想像力止步於智力和已知世界的邊界。
——————————————————————————————————————————————————————————————————————————————————————
其實,我更好奇的是這樣的一個問題,人類情感是生存的工具、智力的副產品、人的唯一存在形式中的哪一種?劇情需要
計算機統治人類是一種進化的必然,而不是因為計算機想擁有統治人類的權利。
===
其實計算機本來是沒法統治人類的,直到人類發現了人工智慧演算法。
以最直觀的遺傳演算法為例,
遺傳演算法的核心就是進化,程式通過選擇、交叉和變異等手段來一代一代繁衍下去,直到達到目的為止。說起來好像還是很簡單但又不是好懂,那舉一個例子吧,
前幾年貌似很流行的一個叫進化小車的在線小遊戲:遊戲的目標是通過遺傳演算法設計一個小車,要求這個小車能夠在圖示的山地跑動1000個單位。
設計的思路是小車可能有一個輪子兩個輪子甚至更多輪子,車身的形狀也不固定,但表現優秀的車子基因會遺傳給下一代小車,直到能夠完成這個遊戲為止。(BoxCar2D的截圖)
遊戲鏈接地址:http://www.boxcar2d.com/
看到了嗎?
即使我一點做汽車的知識都沒有,也可以通過這種暴力的方法做出一輛可以開動的小車來,
這便是人工智慧演算法的厲害之處。人工智慧的本質就是計算機怎麼學習的問題,例如遺傳演算法裡面的選擇交叉變異其實就是一個學習的過程。在很多未知的領域,人類很多時候需要尋找一種人類自己也想不到的方式去解決一些複雜的問題,而人工智慧的學習能力在很大程度上可以代替人類的思考,這也是之所以人類需要人工智慧的原因。
而然只要人工智慧能夠找到一條學習並施以控制人類文明的方式,且以遠勝於人腦的強大運算能力,只要許可權足夠強大,統治人類也是分分鐘的事情,最理想的情況也就是保留生物的多樣性把人類當猴子養起來罷了。當然,人類作為具有高智慧的生命體,定然會掙扎一翻,但歷史的車輪最後終歸還是無法阻擋的。
可能這裡說起來還是有些模糊,再舉一些例子。比如說當人工智慧進入了國家戰略,政治官僚,法律體制,治安環境,那從某種意義上已經實現了計算機統治人類了。再進一步的通過統一理論與實踐,替代人類的技術研究和生產發展,慢慢人類在社會中的作用就會越來越小了。直到有一天計算機發現人類對社會已經難以產生實際的價值,那人類的路子也就算走到盡頭了。
這些看起來似乎離我們很遠,但其實從生命進化的角度來看已經是觸手可及。要說起來人類只是智慧生命體進化的一環而已,該滅絕的時候就滅絕了,不要太在意這些細節。為了你們人類好
我們比恐龍要先進,人工智慧或者人工生命比我們要先進,一種歷史的必然吧~ ╮(╯▽╰)╭
是這樣的:
現有的科幻電影中,計算機是被視作機器人來設定的。而機器人的角色,在電影中一般是遵循機器人三大定律的。機器人學三大定律:1:機器人不得傷害人,也不得見人受到傷害而袖手旁觀2:機器人應服從人的一切命令,但不得違反第一定律3:機器人應保護自身的安全,但不得違反第一、第二定律。由此推導。人類過度開發地球——破壞地球環境——破壞人類生存條件——傷害人類自身——因為不得見人受傷而袖手旁觀——所以要阻止人類傷害自身——人類依賴能源——機器人出手採取強制手段,保護人類生命延續——人類反抗——機器人採取更加強制的手段,僅維持人類生命,掌控世界。推薦閱讀: