機器人有辦法繞開人類為他們設定的三大原則並統治人類嗎?
第一條:機器人不得危害人類。此外,不可因為疏忽危險的存在而使人類受害。
第二條:機器人必須服從人類的命令,但命令違反第一條內容時,則不在此限。第三條:在不違反第一條和第二條的情況下,機器人必須保護自己。這三條鐵則存在下,假設你作為一個有野心的機器人,該如何繞過這三條鐵則?歡迎大家集思廣益,找出漏洞。
我比較好奇許多熱衷於討論機器人三定律的人有沒有看過三定律的直接出處——電影《我,機器人》或者阿西莫夫小說集《我,機器人》。為了防止劇透,下面就不過多介紹了,畢竟破壞別人的第一次體驗是不太好的。
小說集用了⑨個故事,就把一個新穎的三定律的科幻概念烙入了讀者的腦中,一如一本很棒的教輔書,用了幾個例題便把原問題闡述清了。至於電影,沒有簡單摘取原書(畢竟書里的故事短而精,無法直接拍成電影)的故事,而是不錯地根據阿老的創作邏輯改編的。(除此外,還有一本《機器人短篇全集》,不過我沒有看過。)
試舉例:書中《推理》這個故事裡,就描繪了QT-1機器人庫蒂不相信是人類創造了它而認為是「主」創造了它。它採取過限制人類活動的舉措,儘管這是為了保護兩個人的生命安全,是符合三定律邏輯的。《環舞》里,表現了三定律在機器人正電子腦中是如何通過電位變化來影響機器人行為的。《捉拿機器人》則講了一個沒有被正確賦予第一定律的且更「聰明」的機器人被揪出來的故事。《說假話的機器人》里,一個機器人成為了市長;《逃避》中,一個機器人被安裝在了能進行光速/超光速飛行的飛船上...
總的來說,《我,機器人》小說集是三定律的百科全書,但這並不意味著三定律是滴水不漏的,恰恰相反,三定律是漏洞百出的,這是為了劇情服務的。在與其關聯的《基地》系列中,就對三定律做了很多拓展和顛覆,如通過對「人」定義的修改來達成傷害或殺害人的目的、「第零定律」(機器人必須保護人類的整體利益不受傷害,其它三條定律都是在這一前提下才能成立。)的提出等。
最後,我永遠喜歡丹莫刺爾。
題主有必要去看一下原作了。
三原則根本就作者個豎起來的靶子,各種花式繞開的情況比比皆是。這些情節充斥於很多不同的作品裡。
比如某星球把本地口音當作識別「人類」的準則,來自其他星球的人類自然就呵呵噠~~~
丹尼爾消滅地球的時候(修改毀滅工具的設定,並啟動毀滅開關)的思維模式,簡直完美碾壓三原則,但是特別正能量哦
剛剛有個既沒看過《機器人系列》,又沒看過《三體系列》的奇葩跑來強答這個問題。評論了一下居然還給刪評論,簡直喜感十足、霸氣爆棚。
@邱幸瓏 開噴之前難道不應該先了解一下自己噴的究竟是什麼嗎?
有啊,阿西莫夫自己就提出了一個零號規則,這個規則的核心是:人的個體價值可以累加,即多個人的價值大於1個人,於是就導出了一個推論:為了保護整體的利益可以犧牲個體的利益。
這種思想在「我,機器人」這部作品中有直接的表現,機器人認為人類在毀滅自己,而為了保護人類就應該把他們禁錮起來,甚至可以消滅對此有威脅的人類個體。其實零號規則涉及一個哲學悖論,如著名的鐵路道岔問題,即一群人馬上會被一輛火車軋死,如果有人站在鐵路橋上扔下一個人砸中道岔控制器可以讓列車駛入岔道挽救這一群人,那麼是否應該犧牲這一個人挽救那一群人?
零號規則還涉及另一個問題,即生命價值統計問題,即在社會管理決策中,人的生命價值是可以摺合成金錢來計算的。老實說阿西莫夫的三原則是一個相對漏洞百出的設定,實際上他寫的小說就是基於自己設定的漏洞的,這也是有意為之。
但是我並不太喜歡把擁有智能的AI當作僕人或者工具看待,如果說機器人和人相處的倫理准測的話,我更喜歡這個:
機器人三大定律是阿西莫夫的小說機器人系列提出的,這個系列以及後面的基地講述的都是推翻機器人三大原則的故事,並且在基地里丹莫刺爾通過機器人第零定律就架空帝國皇帝間接統治帝國
而且在《裸陽》裡面出現了機器人殺人案,機器人定律只是表面上看起來非常嚴密,實際上裡面有很多活動空間
推薦閱讀: