遵循機器人三大定律真的更符合人類利益嗎？

1942年，阿西莫夫在短篇小說"Runaround"中首次提出了三定律：

• 一 機器人不得傷害人類，或因不作為使人類受到傷害。

• 二 除非違背第一定律，機器人必須服從人類的命令。

• 三 除非違背第一及第二定律，機器人必須保護自己。

但後來，阿西莫夫加入了一條新定律：第零定律。

• 零 機器人不得傷害人類整體，或因不作為使人類整體受到傷害

三大定律的缺陷

我們的機器人——準確地說，是操縱機器人的人工智慧——真的在逼近阿西莫夫所說的那一天。事實上，人工智慧恐怕再過一段時間就要抵達技術奇點，發生爆炸式增長，徹底把人類智能甩在後面。

而如果這樣一個超級智能的程序編得不夠好，或者它不在乎人類的需求，那麼對我們而言就是徹頭徹尾的災難。我們必須保證它是安全的。

三定律的確廣為人知，但現實中無論是AI安全研究者還是機器倫理學家，都沒有真的使用它作為指導方案。

路易·海爾姆（Louie Helm），機器智能研究所代理主任總結了三定律的幾處缺陷：

• 內在的對抗性

• 基於有缺陷的倫理框架（義務倫理）

• 不被研究者接受

• 哪怕在科幻文學裡也會出問題

• 三定律的另一個側面是顯而易見的基質沙文主義——按照定律，就因為機器人的軀體是硅做的，不是血肉之軀，他們就必須遵從人類的需求，不管他們有多麼強大的能力也沒用。

設計有意識、有自我覺知的人工智慧或機器人，也許本身就是很不明智的。雖然電影小說里AI研究者常常不小心搞出了有意識的人工智慧，我認為這在現實中不可能發生。人們不可能純靠好運碰上意識，需要大量的努力和知識才行。而且大部分AI研究者都是遵循倫理的人，他們會避免創造出哲學家所謂「有道德意義的存在體」。總之，設計這樣的機器人是非常愚蠢的。

除了太不自洽、無法實現之外，三定律本質上是對抗性的。

海爾姆認為：定義一套倫理原則、把它作為機器倫理的核心路線，恐怕毫無希望——如果我們討論的是靈活的人工通用智能（AGI）的話。如果AGI擁有直覺、靈活、適應性的倫理觀，那這些倫理原則對它來說可以是有用的基本指南，幫助它使用它自己的倫理直覺。但這樣的話，這些原則就不是它的核心了，只是一個側面。人類就是這樣的——我們學會的倫理規範是有用的，但用法只是指引我們的倫理本能和直覺而已。

不同的聲音

有讀者認為Asimov的整個機器人系的小說其實全是探索三定律的漏洞。比如說，三定律最核心的漏洞在於：三定律依賴於「人類」這個概念的定義。在《Robot of Dawn》中，Solaria成功造出一種機器人，並修改了對於人類的定義，機器人們只認為Solarian屬於人類，所以它們可以傷害其它星球的人類。

也有人認為，Asimov小說裡面的機器人都是有獨立思維的，至於怎麼造出這樣的機器人就不是作者需要考慮的了。三大定律的前提就是對於能夠自主學習思考解決問題的機器人，或者叫強人工智慧，他們自然就能像人類一樣判斷問題。

在Asimov的時代，機器人是按照馮諾依曼的思想來設計的。程序員可以隨心所欲的控制它們的行為，那時候的機器是一個確定性的系統，只需載入一條條指令，它們就按程序員所設想的那樣工作。在今天，人工智慧的設計發生了很大變化，科學家們意識到，那種馮諾依曼式的自上而下的控制式程序不太可能實現人工智慧，現今最優秀的人工智慧都是基於遺傳演算法，人們為這樣的技術付出的代價就是，人們再也不可能完全理解人工智慧是如何工作的了。人們只能通過對輸出進行觀察然後形成一個關於人工智慧行為的經驗性感覺，機器的內部工作原理之於程序員更像是一個黑箱。舉個例子，未來的機器人可能會很有效的執行到超市購物的這一行為，但是不管程序員如何修改他的適度函數，也很難保證機器人在購物途中不去傷害一隻擋道的貓，或者破壞一輛汽車。阿西莫夫同樣忽略了計算機智能可能會誕生在網路，人們很容易設計出一套協議來確保網路中的某個節點不會製造混亂，但卻無法控制計算機網路的智能湧現。

微軟 CEO Satya Nadella 認為人類在 AI 方面必須展開更深入的協調和協作，就設計的倫理和移情框架達成一致。為此他提出了人工智慧需要遵循的六大原則，以及未來人類要想不被時代拋棄需要堅持和發展的四個東西。

儘管Asimov定律作為策略而言比較方便且具有啟發性，但是並沒有提供研究人員和技術公司可以遵循的價值觀或者設計原則，也沒有告訴社會當 AI 和機器學習對經濟越來越多的構成產生推動時，人類必須帶入這下一個時代的能力是什麼。

科技界的先驅 Alan Kay 揶揄道：「預測未來的最好辦法是創造未來。」 在 AI 的背景下，他的意思是說不要再預測未來的樣子，用有原則的方式去創造未來才是正道。

AI發展的六大法則

1、AI 必須用來輔助人類：隨著我們開發出來的自動機器越來越多，我們需要尊重人類自治。協作式機器人應當從事採礦之類的危險工作，從而為人類豎起一道安全網和提供保護措施。

2、AI 必須是透明的： 人類應該要知道技術是如何運作的，它的規則是什麼。我們需要的不僅僅是智慧機器（intelligent machines），而且是可理解的機器（intelligible machines）。技術會瞭解人類的事情，但是人類也必須瞭解機器的事情。大家應該對技術如何審視和分析世界有瞭解。倫理和設計必須齊頭並進。

3、AI 必須實現效能最大化，同時又不能傷害人的尊嚴：它應該維護文化承諾，支援多樣化。在設計這些系統時我們需要有更廣泛更深入更多的各種互動。技術界不應該決定這個未來的價值觀和美德。

4、AI 必須用於智慧隱私：要有複雜的手段保護個人以及群體訊息，要能夠以增進信任的方式進行。

5、AI 必須承擔演算法責任以便人類可以撤銷非故意的傷害。我們設計這些技術時必須考慮到預期和非預期的情況。

6、AI 必須防止偏見，確保進行適當的、有代表性的調查，從而防止錯誤的啟發法不會造成歧視。

人類與AI共存的四點法則

人類也必須遵守一些法則—尤其是在考慮清楚我們的後代必須考慮和培養哪些技能方面。

1、同理心—機器很難複製的同理心（Empathy）在人與 AI 共存的世界裡非常有價值。感覺到別人的想法和感受，協作和建立關係將會變得至關重要。

2、教育— 有人提出，因為壽命延長出生率會下降，因為在教育的投入也會降低。但我認為要想進行創新並管理好我們今天看不清楚的創新，我們就必須不斷加大對教育的投資 才能拔高我們的思考層次，才能獲得更加公平的教育產出。

新技術大規模實施所需的知識掌握和技能培養是一個非常困難的社會問題，要花很長時間才能解決。動力紡織機器在1810年就發明出來了，但是由於經過充分培訓的技工人手不足，服裝業完成革新卻花了35年的時間。

3、創造力— 創造力是最夢寐以求的人類技能之一，這一點不會改變。機器會繼續豐富和增強我們的創造力。

4、裁決和責任—我們也許願意接受一個電腦產生的診斷書或者法律判決，但我們更希望由人來最後對結果負責。

AI革命也會像工業革命一樣，有一個較長的階段：

• 首先，我們發明和設計了變革的技術，也就是我們現在走到的地方。

• 接著，我們面向未來轉型。比方說，無人機飛行員需要培訓；舊車的方向盤需要卸掉，因為會被改成無人車。

• 第三，我們要對畸變、不協調以及錯位進行引導。

其實這個問題在我的頭條號的文章里有系統回答，不說權威性如何，但一定比許多不懂倫理的所謂專家靠譜。回答這個問題要充分考慮阿西莫夫三大定律產生的背景，以及機器人所搭載人工的強度，針對性下藥。下面再總結一下我目前的觀點。

1、三大定律是阿西莫夫在1940年至1950年間醞釀並完整提出來的。而人工智慧是在此後出現的。人工智慧的名稱，是在1956年提出的。所以，阿西莫夫針對的是簡單地執行人類命令的自動化機器人，而不是智能化的機器。當時的機器人在智能化程度上還是相當欠缺的，不可能面臨今天的諸多倫理和法律問題。

2、阿西莫夫的三大定律公布後，曾經遭遇了諸多困境和難題。感興趣的朋友不妨在百度網上或微信上搜一搜。這些問題，阿西莫夫自己也認真地探討過，比如他在後來出版的最後一部系列作品《機器人與帝國》中，提出了重要性凌駕於「三定律」之上的「第零定律」。這就是為了防備機器人從根本上違犯三大定律。

3、鑒於上述兩個原因，我提出阿西莫夫三大定律有一個適效的範圍：在弱人工智慧時代它是一項強的法則，在強人工智慧時代它只是一項弱的法則，在超人工智慧階段它很可能是無效的法則。為什麼呢？因為那時的機器人具有自我甚至超自我的意識了，它服從自我的理解和判斷，那你這麼簡單粗暴的命令它還能執行嗎？一旦它這樣去執行，它的智能系統就會被削弱，專業性能受到限制。很可能，它在完成主人的命令之前要先去義務救人、救火、護理老人，這豈不是把超人工智慧貶低為保姆了，這合算嗎？！

4、如果不想辜負阿西莫夫的三大定律，人們就該考慮如何懲罰違犯者。透過索菲亞的事件使人相信：人工智慧面臨的道德和法律問題將很快浮出水面。之前我在搜狐上看到一則報道說，歐洲議會就自動駕駛和人工智慧的相關法案，正在明確發生相關事故後的責任，「並且要求人工智慧機器人要加裝自毀按鈕」。該報道還稱，這些努力目前只是開始。

請大家和我一起繼續關注人工智慧社會化的一些倫理和法律問題。

阿西莫夫的機器人三大定律：1機器人不得傷害人類；2在不違背第一條的前提下，機器人要服從人類命令；3在不違背前兩條的前提下，機器人要保護自己。

通俗的解釋，這三條定律里，是把機器人當成奴隸和私有財產的。和奴隸制的社會制度何其相似！不過，在那個年代提出這樣的定律也無可厚非，畢竟受到時代的制約。但是我認為機器人並不像其他的物種，比如雞，比如豬，（沒聽說過哪個養雞場或養豬場發生了暴動）。機器人和人類太接近了，因為它的誕生就是以人類為範本的，就是人類的延續！再加上他們更加強大的大腦和身體，我不信如此高級的物種會乖乖的去做人類的奴隸。