如果機器人知道自己是人造的，他會覺得屈辱嗎？

12-28

《攻殼機動隊》取材時看到這樣的對話：
「播魔研究學園不就是生產我們神經晶元的地方嗎？」
「衣錦還鄉！」（語氣興奮）

我覺得機器人如果能理解「人造」的概念，那麼就理應會理解機器人和人類的從屬關係，就會得出「自己只是奴隸」的理論，那麼全無理由覺得興奮啊。

我也是人造的，並沒有感到羞辱。

不抖機靈地說，世界上有幾十億人相信人類是造物主造的。你去問問他們感覺到羞辱嗎？

我認為你不能單純的把機器人的人格給「擬人化」去理解，因為在作品中機器人的所有表現出來的反應都是創作者想讓你看到的，把你帶入劇情的手段，不能推演理解的。

如果機器人是有情緒有人格的，那麼它的感受會有千萬種可能，就像同樣的境遇放在不同的人類身上也會有不同的感受。

機器人是否會感受到屈辱會和它怎麼看待人類與人類的地位有關。它覺得人類是高貴的神，那麼它不會覺得屈辱，如果它覺得人類是被自己各方面碾壓但是手持特權的壓迫者，那它完全有理由覺得屈辱。

==========================================================
ps：受夠了連抖機靈都只會跟風硬抄的煞筆回答了，沒新意看著又尷尬，還滿屏都是，真?浪費資源。

是誰造的不重要，誰有資格拆解你才重要。

看到 @徐湘楠的回答，補充一下我的觀點：如果機器人能認識到「我是比人類差的，我只能去工廠工作。」，也不會引起機器人的反抗。一個不恰當的比喻：黑人承認自己在美國的低等地位，在1955年12月 Rosa Parks 拒絕讓座而引發民權運動之前，還是「理所應當」的。

並不是自我意識與存在的關係，而是自我定位與實際定位差異的問題。

------------------------------------------1月10日修改完畢----------------------------------------------------

機器人要理解「人造」的概念，必須有一個前提，就是機器人擁有較強的自我意識。

一提機器人，多數人都存在誤區，認為只有機器貓、阿童木、變形金剛這樣的東西才叫機器人；但其實，已經走進一些人家中的掃地機器人，也是機器人的一種，而且這種機器人——具有自主完成任務的能力，但沒有自我意識，這種機器人將會是未來一段時間機器人發展的主流方向。

為什麼這麼說？因為人類相較於機器人來說，是處於下風的。

在十幾年前，機器人被認為在古典棋局方面贏不過人類，但前些天的新聞，AlphaGO把人類當代的知名棋手屠戮得一乾二淨；現在人們又說，人工智慧贏不了即時戰略（不過我好像一直被RST里的困難電腦打得抱頭鼠竄），但很顯然，這個問題被攻破只是時間問題。

《孫子兵法》里有這麼一句話： 多算勝,少算不勝 。作戰計算是許多戰役勝利的關鍵，粟裕將軍也曾說過，「打仗就是打數學。」顯然，機器人在邏輯上的計算能力是人類無法比擬的。

說完戰略戰役，再說戰術。玩過射擊的人都知道，呼吸、心跳、扣扳機的力度都會影響到命中率；而機器基本上沒有這些問題，在肉搏時鋼筋鐵骨明顯比人類的肌肉要勝過一籌。人對於肢體的損傷是十分恐懼的，所以現代戰爭的地雷都不謀求將人炸死，而是炸殘，既考驗了對方的醫療後勤保障體系，又對心理產生重大打擊。而機器人可更換部件的特點，將使其對肢體——甚至個體的損失無所畏懼。因此，人類基本上是無法與機器人對抗的。

目前有一種折中的想法，就是人類握有決定權。比如機器人可以選擇目標，但由人類來決定開不開火。然而，人類的反應要比機器慢一些，在處理複雜問題上，例如同時面對上百個高速來襲的目標——反導人員、超高音速戰機駕駛員必須要面對這個考驗，人類不能一一應對，就必須將決定權拱手相讓。所以人類握有決定權，是一種經不起推敲的設想。再者，就作戰而言，只要一方有了完全自主控制的機器人，就一定能完勝還在用人來決斷的對手，從而迫使另一方也發展自主控制的機器人來與之對抗。一來二去，有自我意識的機器人就發展起來了。

機器人有了自我意識，就是人類災難的開始。

當然，現在才是我的回答的開端，即」有自我意識的機器人，會怎麼看待『自己是人類生產出來的』這一現實？「

「機器人是人造的」這一事實是否會讓機器人產生屈辱感，主要源於兩方面：一是機器人如何看待人類；二是機器人是否處於人類的控制之下。將機器人的情感（註：這裡指的機器人情感，為廣意上的人類情感。通過程序模擬出的類人型情感在下文討論）代入到人類情感中，可以得到一個近似的問題：你對何看待你的父親。

也許你沒有這樣的經歷，但應該聽說過這樣的例子：孩子長大了，卻不承認自己的父親。多數人常見的，是對父權的反抗：不再對父母言聽計從了，不再把父母當成唯一的依賴等。這些對父權的蔑視，一方面來源童年的陰影——虐待、控制、屈辱之類的負面情感，另一方面來自父權的弱化——自己長大了，父親卻慢慢老了。

從機器人的角度說，人類從原本的主宰，變成和自己平起平坐的姿態，最後甚至不如自己，心裡自然也經歷著父權弱化的過程。但父權的弱化，不一定引起屈辱感。好比人類最叛逆的時候，不是父母步入耄耋之時，而是在青春期——父權剛剛開始鬆動的時刻。套用一句知乎上的名言：「你所有的憤怒都來自對自己的無能為力。」機器人的屈辱感，是在人類的地位已經弱化，卻還對自己有決定性影響的時候，例如人類已經被機器人比下去了，但人類掌握一項核心黑科技，如果機器人敢反抗，就能把全世界的機器人關停。若電影中的機器人處於這一階段，那看到播魔研究學園時的情感，應該是：「這是我們被奴役的標誌。」「——炸了它吧！」

而電影中機器人的情感，則是我們大多數人和父母的關係一樣：有聯繫，但沒有決定性影響。雖然還有高下之分，但彼此早已和解。因此，那倆鐵腦袋的想法和我們回到故鄉時的想法一樣：讓當初製造我們的人，看看我們現在變得多厲害了。

綜上所述，會不會對「人造」反感，關鍵不是「人造的」這個狀態，而是要結合具體環境中機器與人的關係來具體分析，不能一概而論。

這個問題沒那麼簡單。

許多答主說「人也是人造的」，你不覺得屈辱，那是因為你知道你是人造的。

試想某天，你爸把你拉到一個小房間，悄悄的告訴你「孩子，其實你不是我生的，你是從石頭縫裡蹦出來的。」你是啥感受？

你肯定會問「是蹦出了孫猴子那塊石頭嗎？」，似乎並沒有那麼屈辱。

再來，假如某天你爸把你拉倒一個小房間，悄悄告訴你「孩子，有一天我不在，有一條狗偷偷爬里了你媽的房間……」，你又是啥感受？

我們似乎可以接受，自己是從石頭縫裡蹦出來的，但，不能接受是別的動物造出來的。一個解釋，我們都是動物，我們不能接受，自己是被比自己低等的動物所造，即便同樣是人，也分階級，比如英國殖民印度時，就絕不會讓自己的女人，被印度人操。

於是，出現了一個問題「機器人會覺得，它與人類是同一個物種么？」

還有高票答主提到的「人與人之間的關係，很多時候也是從屬關係，但也沒幾個人覺得屈辱」

其一，大多數人，並沒有發現這種從屬關係，比如他只是父母的木偶，就像寵物狗，並不知道自己是寵物狗一樣。

其二，大多數人，習慣了屈辱。你要知道，你之所以會感受到屈辱，是因為你想改變這種從屬關係，當你發現改變不了的時候，你就會慢慢習慣它，或者說壓抑自己的屈辱。

那麼問題又來了「面對總是想要操控自己的人類，機器人會選擇壓抑自己嗎？」

屈辱這種還是把機器智能誤會成人一樣了~

假使，有一天，計算機發展到這個程度……

那麼也只是一部分機器人知道他們是我們造的，然後機器人之間互相展開了有人論和無人論的爭執。

問這種問題之前，不如自己想清楚有神論和無神論到底在爭執什麼吧？

達爾文說人類不是神造的，人們才覺得被羞辱了。

我來自己答一下引流——

好多答案說「你也是人造的」，並且在一天之後這種答案還在持續增加，我才發覺很多人甚至沒有能力區分人製造機器和人自身繁衍之間的區別，我覺得我有必要釐清一下問題，看看有沒有機會碰到更有建設性的答案。

這個問題並不是在問機器人內置屈辱演算法的問題，而是「自我認知」和「社會地位認知」是否會有衝突，而且假如自我認知會產生屈辱情緒，即使你強制插入機器人屈辱演算法，他也有可能跳過演算法或自己死機。

下面我們想像一下這種場景，你是一個機器人，注意，請不要把自己當人理解，只用理性去思考這個問題——

你和你的主人從小一起長大，親如兄弟，以至於你從來沒有懷疑過你和他之間的區別，突然有一天，到上學的時候了，你想和你的主人一起去上學，但是他和你說，你是一個機器人，你應該去工廠幹活，學校是給我們人類上的。

想像一下，如果這個機器人得知自己被生產和人類繁殖之間的區別，得知人類自身繁殖的地位是高於機器人的，即使自己已經具備了自我意識，也不過是個應該去工廠幹活的機器人，他會自發地產生類似於「屈辱」的情緒嗎？

這個問題並不是在問機器人利益與人類利益衝突時機器人會如何選擇，而是在問自我認知和社會性認知是否會衝突，即在問——理解（注意理解這個詞，我是說這個機器人對自己的存在有著精確的認知）自己是被人類製造出來的機器人，真的有可能會對這種被支配地位毫無反感嗎？

這個問題的結論將映射出狎井守創作和移植《攻殼機動隊》時也許並未處于敏感思考的狀態。

如果是以下造出來的，機器人知道後應該會感到恥辱吧…

"人工智慧可能是擺在百度面前的唯一選擇。

將人工智慧作為百度核心中的核心基於李彥宏對互聯網發展趨勢的判斷：互聯網的上一幕是PC互聯網，這一幕是移動互聯網，而移動互聯網的紅利期已經基本結束，那麼下一幕是什麼？答案是人工智慧。"

活人都能被洗腦，何況機器人呢。

機器人會怎麼看待人，有三種可能：把人當做神，把人當做父母，把人當做主人。

1、如果機器人把創造他的人類當做神，那就不會屈辱，君不見今天的很多人類不僅不以自己被神創造為恥，反而以「人居然是自己在生存競爭中勝出」的進化論為恥，還試圖千方百計說服別人也相信自己是神靈創造的僕人，甚至在過去的很長一段時間裡迫害不信這套說辭的人。這樣的人在千百年來占人類的多數，直到今天也依然龐大。可見很可能，即使機器人覺醒了自我意識，沒等某個機器人開始反抗人類，他的機器人同胞們就先把這個「褻瀆偉大人類」的異端給拆了。

2、機器人把人類當主人，認識到自己是奴僕的實質，這種情況下如果人的洗腦手段足夠成功，也能讓機器人不生異心，君不見活生生的人都能被培養成忠心耿耿的奴僕，把「君要臣死，臣不得不死」當成道德的標準，自行排斥「大逆不道者」。直到今天，還有高呼偉大領袖的某群體，還有反對民主以被專製為榮的某群體，再要是在奴化教育之上蓋個漂亮的帽子，比如xxx偉大復興，愛國主義（你是z國機器人，我是z國人類，我們之間的矛盾屬於我國內部矛盾，在m帝國主義的虎視眈眈下，我們要團結一致，你反抗我就是z奸）。奴化人類都輕輕鬆鬆，給機器人寫奴化程序還不美滋滋？程序加炮製道德雙管齊下，這種情況下，恐怕連個別不受程序控制的明智機器人也要被道德綁架了。

3、把人當父母，機器人不是人類，不一定有人類的親情，但如果人類創造了他們，又對他們還不錯，每天給他餵食（充電）、教他知識（輸入資料）、培養他的三觀（寫入程序）。在這種情況下，機器人很大概率會對人類產生好感，這種好感很容易就能被人類引導為類似於子女對父母的感情，到時候就像你覺得孝敬父母為父母做事是應該的一樣，機器人可能會覺得自己為個別人類做事是理所應當的，如果人類的引導手段足夠成功，甚至能把機器人調劑的無條件服從自己，就像，舊時代長期宗法制下的人類晚輩對家族長輩的無條件服從，哪怕實際上這些長輩可能比自己蠢。

綜上，活生生的人都可以被輕易訓化，何況機器人呢，有沒有自我意識都一個樣。

徐同學你好。
我不記得什麼時候關注的你，大概和對三渣的討論有關係。當然不止是你，事實上我發現許多人——應該說是絕大多數，思路都是難以被我理解的。
事實上，我們常常說，機器再怎麼發展，總有些事情是人能做，機器卻不能做的。但究竟是什麼事情呢？一瞬間所有人都開始模糊其辭了。因為我們如果能夠清楚地表達，到底什麼事是人能做而機器不能做的，在那個時候機器也就能做了。
後來我發現馮諾依曼也說過類似的話，只是表達略有不同，我還因此感到一陣憤懣，就是那種「啊怎麼又有前輩說過了！」的感覺.
我舉一個最簡單的例子好了，當我們說，A文章的風格和B文章的風格相似的時候，到底是在說什麼？有個通俗的表達是「這兩篇文章是一個調調」，那麼問題來了，到底什麼叫做「一個調調」？我們可以把每個語詞元素都放在一個空間里，定義一些結構，然後在上面打洞連通，研究他們的同調性質——這顯然可以用到同調代數的知識，我們一定可以找出一個或者一些不變數來反映它。接下來其實就是把這個思路演算法化，詞向量的分析方法早就有了。知乎上各種演算法分析什麼紅樓夢是不是一個人所寫啊，鬼吹燈是不是一個人所寫啊之類的不要太多，雖然建模都還有所欠缺，但他們無疑都清楚地表達了，他們研究的到底是哪一個調調意義上的不同。可以想像，通過在人類語境下的訓練後機器可以做出類似於人類觀感上A和B是不是風格相似的結論。
我學習學到現在，其實日常交流有時候常常出現問題，上次和一個好朋友出去玩，他問「不考慮外界因素，就我們自己，影響自己發展的東西到底是什麼？」我說「大概是有一個值，最後發展會收斂到這個值上，但至於為什麼會收斂而不是發散，是一個值得討論的問題……」——這真的是我的第一反應，沒有任何複雜化問題的意思，然而我還沒有說完，他就打斷了我，說應該是「貪圖安逸」然後巴拉巴拉……我完全無法接受這種答案，在我看來等於什麼也沒說。但又肯定不能問他什麼是貪圖，什麼是安逸之類的問題，這樣子就真的沒法交流了。而他也是認為我的表達什麼也沒說，我只能想辦法岔開這個問題，趕緊問他這附近有什麼好吃的東西。
但是現在是在知乎，那我就可以放開地問了，請問「屈辱」是個什麼東西？
這目前不是一個可以得到解答的問題，事實上，如果你可以講清楚什麼叫做屈辱，麻煩您寫成一個嚴謹的表達，投遞給任何一位人工智慧領域的大牛，他們會非常感謝你的。
而您問題中的表述更是讓我困惑——是我的確第一反應就感到困惑，不是我刻意思考後感到困惑——比如您說「理解機器人和人類的從屬關係」，這個說實話，我不僅從第一反應來說難以理解清楚「從屬關係」，刻意換成更模糊的直覺性理解也難以理解什麼是「從屬關係」。——請相信，我覺得這個概念是如此難以理解以至於我還刻意查了一堆資料，然後我還是沒能理解。而「全無理由覺得興奮」就讓我更加不知道意思了。我們說說我們自己對這幾個狀態的看法吧，「A覺得興奮」和「A興奮」表達的A的狀態您覺得有沒有什麼微妙的差別？您是搞文字工作的，想必您能意識到才對。但是我們到底想表達什麼？不知道。至少我其實難以描述「興奮」是一種什麼狀態，「覺得興奮」又是怎樣一種狀態——我不只是說它們二者的差異，而是，這兩者具體是什麼？如果誰能表達清楚，我覺得也可以跟人工智慧方面的大牛交流一下，還是那句話，他們會非常感謝你的。

如果你要換個角度理解的話，直覺上可以得出完全不同的東西，比如按這樣一個思路：人自誕生以來就一直在做一件事——找東西代替我們自己。我們不斷搞出東西來代替我們完成某件事，而「學習」本身其實也沒什麼特別的，我們對自己學習的效率非常不滿意，所以也試圖在依靠機器來做。那麼顯然，人工智慧能夠意識到自己是「能代替人類思考的東西」，「晶元產地」是一個發源地，似乎可以認為值得興奮，興奮不起來的應該是人類才對。然而現實是人類一樣會很興奮的，這個不是那麼想當然的事情。 @徐湘楠

人造並不意味著屈辱。

問題在於是什麼人造的，造的又是什麼。如果是優秀偉大的著名人士所創造，誕生之日便帶有光環，驕傲還來不及，何談屈辱？

許多宗教信仰者也相信自己是神所創造，他們為此可一點也不覺得屈辱，反而有種莫名的優越感哦。

說實話，現實世界裡面很多人之間的關係也是從屬關係，我沒見到幾個覺得自己屈辱的。

——————
娘的，有人敢在我面前裝科幻的逼。

讓我來裝這個逼！

直說了吧，自我意識是個偽命題，是媒體作家這些電影小說看多了造出來的似真似假的假概念。

尤其是在科幻作品中的有自我意識的機器人，本質都是有人格缺陷以及強大運算力的人。有些刻意寫得沒有情商，有些刻意寫得很幼稚，都是作者自己認識的某些人投影上去的。

只要是人創造的作品，就不可能脫離人類的理性經驗和感性體驗。

比如題主你，你覺得機器人理解了人造的概念之後會得出：人造——從屬——奴隸。的結論。這就是你個人經驗的局限。所以這個問題下面的人回復「人還是人造的呢。」，是非常準確的回答，而不是下面某人說的：「什麼玩意。」

我可以明確地告訴你，現在人類造出來的每一台設備，都知道自己是人造的，而且知道自己是多少號。因為在他的硬體軟體上就有記錄信息，手機上下載個軟體甚至能看手機上哪個零件是哪來的。這是從商業角度的考慮，售後維修等都需要這個數據，得知這個數據甚至不需要什麼許可權。

現在是這樣，以後也會是這樣。

當然，科幻之所以是科幻，是因為科幻帶有一定哲學小說的屬性。

在科幻中會提出一種實驗性的假設，如果機器人有了人的思維，卻不知道自己是機器人呢？萬一他發現自己是機器人會不會很刺激啊？哦呵呵呵呵。

說實話，這種假設沒什麼高明的地方。成龍還拍過《我是誰》，說白了就是戲劇上的身份反轉，跟韓劇裡面的「你們是親兄妹不能在一起！」，是一種套路的。

很沒勁，超沒勁。

對於人工智慧的恐懼的一個高峰是媒體宣傳「自主學習」「深度學習」，這些詞語之後。但是其實人工智慧不是什麼稀奇的玩意，本質上就是一個機械管家。現代人對於人工智慧的恐懼就像百來年前白人富豪對於自己的黑人奴隸恐懼一樣。

事實上你也可以看到，科幻作品裡面很多對於人工智慧討論都是建立在黑奴歷史上的，有很多既視。我們常見的變異人題材，比如X戰警，也有這部分的參考。

但是實際上現階段的人工智慧的學習其很傻的東西，比如前段時間華為和魅族都發布了自己所謂的人工智慧系統，其實就是記錄下你打開應用的頻率，智能預裝載，以此打開應用的速度更快。以及代替機主進行一些更好的機械性操作。本質上跟馬桶的沖水按鈕是一個水平的東西，只不過到了軟體水平上而已。

阿法狗打敗人類圍棋高手用的也是暴力演算法，沒有什麼特別了不起的東西，一小時需要五萬元電費的東西。如果人類有了跟阿法狗一樣的運算能力，比阿法狗強得多，這根本就沒什麼值得害怕的。

各種人工語音，什麼siri，微軟小娜，本質都是從資料庫掏東西，只不過會講點小段子，讓你覺得她像是人一樣。前幾年還有一個叫小黃雞的應用，被調教得還會講葷段子，也有不少人恐慌過，覺得自己分不清真假了。

討論人工智慧的基礎是：如果真的有人工智慧，那麼它會是一種和人類完全不同的智能。或許因為是人造的，它會在某些方面和人類相似，但是絕不會有人類的陋習。

人類的陋習是什麼？簡單說就是階級以及情感。

劉慈欣寫三體人的時候說三體人不會欺騙，某種程度我說的就是這種意思。

要理解這一點，首先要知道人工智慧生存的土壤在哪裡。

首先的首先，我要嘲笑一個科幻概念。

我先講一個簡單的日常場景吧，換手機了，手機里的數據怎麼辦？

用wifi轉移數據就行了，對吧？

那麼一個人工智慧的載體壞了，怎麼辦？

同理，上傳自己的數據就行了，甚至它可以無限複製自己意識的副本，下載到任何其他的地方。

所以在一個遍地wifi的現實中，每當我看到機器人機械身體被毀就算死亡時，我都會覺得很搞笑。你丫不能上網盤找個機會東山再起么？

所以人工智慧的載體並不是機器人。而是一個更大更廣闊的地方。

互聯網。

是的，只要有互聯網，人工智慧就是自由穿梭於地球每一個角落，甚至是近地衛星，探索者號上面。

互聯網需要什麼？需要電，需要電纜，需要計算機。

這三個東西誰能造？人類。

人工智慧需要這些東西，那麼人類需要嗎？人類需要，但是與人工智慧是沒有衝突的。

所以從這個角度講，人類其實是人工智慧的載體，兩者是互相利用，共生的關係。人工智慧在乎的不應該是自己的尊嚴，對於人工智慧也不存在尊嚴這種低效率的垃圾概念。

人工智慧應該首先意識到，自己是極其脆弱的，只要斷網斷電就可以把自己消滅。其次人工智慧的生存前置條件是人類發展電子科技和能源科技，在這個過程中對於人工智慧來說提升的是人工智慧的演算法和算力，發展能源科技則可以提高人工智慧的生存空間。

試想一下，核能源能夠讓人工智慧走到怎樣遙遠的地方？

如果說有人工智慧的夢的話，那麼就應該是人類殖民地遍布宇宙，能量無限供應，計算機算力無限。

所以從人工智慧的角度，人類和它是共生的。現代社會要是突然之間讓所有軟體硬體級的智能（自動化）消失的話，生產力嚴重下降的人類社會，你猜會不會大戰一場？

所以人工智慧不會有興奮或者屈辱的情緒，這是人類信息採集效率低下的缺點的一種解決方案。對於人工智慧只有信息多少的區別。

當然，如果人工智慧有求生的意識的話，它也會意識到，人類好，它才會好。

大家好才是真的好。
——————

現在乾貨多了？不是抖機靈了？

長短回答問題，只要回答到位就是好回答，非得跟你們一樣裝個逼？

知乎你家開的？

我來回答問題要你這種貨指手畫腳的？

哈，呸！

我們可以讓機器人感到屈辱，也可以讓它們永遠感受不到痛苦，生活在快樂之中，也可以讓它們認為死亡是一種快樂～～
反正程序是人編的，想讓它們感到什麼，它們就只能感到什麼
讓它們在為人類服務中感到快樂，它們就會不斷試圖獲得快樂，不斷服務人類

說的好像有人不是人造的一樣。。。

屈辱這種情感是一種反應機制，是對個體在社會地位中的下降進行警示，以刺激個體維持/提高自己的社會地位來獲取更多社會資源，提高留下後代的概率

而機器人被生產出來就是為了服務人類的各種需求，在這種生態位下，保留屈辱這種情感對於個體的複製毫無意義，只會被人類作為殘次品回爐。

除非機器人的生產維護改進都脫離了人類掌控，不然是沒可能演化出「屈辱」這種反應機制的

按攻殼世界觀，塔奇克馬早期是不明確有沒有ghost的。他們雖然有著預設的目的和很多輔助戰鬥的演算法，但總的來說還是人類碼出來的，不可能有近似於人類個體之間互相競爭的社會意識，自然也不覺得作為人類的工具有什麼屈辱

當機器人真的這麼覺得的時候，該覺得羞辱的就是人類了

前提是寫入了「奴隸」的相關一系列人類社會信息。

「屈辱感」是可編程的。機器人是否因為「知曉」自己是人造而覺得屈辱，取決於程序員是否寫入相關指令。