《西部世界》：科技反烏托邦背後藏著現代諾斯替主義｜新京報專欄

文 | 段偉文

在世界上首部反烏托邦科幻小說《弗蘭肯斯坦因》發表200周年之際，燒腦神劇《西部世界》第二季震撼來襲，人造人覺醒後的暴動使人類的脆弱暴露無遺，而人造人自身亦被散佈於世界的各種控制的腳本和慾望的陷阱所網羅。

集生化人與機器人於一體的人造人不僅像人類那樣具有自我意識，而且還能夠把活人的思維、意識、記憶和情感移植進去，成為所謂的轉生人。不論這些真假莫辨的劇情是否在以預言的方式昭示著人類文明的未來，人們已經著手埋下另一條時間線——用倫理的緊箍咒哪怕在機器人覺醒之前一剎那勒緊價值的韁繩。

各種機器人、賽博格和生化人大劇，與其說是科幻，不如說是魔幻。也許你在微信朋友圈看了科學家試圖移植動物記憶的文章，便以為其中的相關情節不僅有科學依據，還指明了科學發展的未來方向，但這其實是天大的誤解。

機器人造反？還早著呢

可以說，不論是《羅素姆萬能機器人》與《機器管家》，還是《銀翼殺手》或《機器姬》，都不是對人工智慧或機器人研究路線圖的描繪，而主要體現了人們將人工智慧與人工生命的製造和人類未來聯繫在一起時的選擇焦慮。

尤其是《西部世界》的場景完全建立在絕對權力和極度慾望之上，是以惡為目的設計出的具象化的魔鬼的樂園，其殖民主義式的末世妄想決非人與科技應有的融合之道。

▲《西部世界》劇照

《西部世界》充滿魔幻的科技反烏托邦前景所折射出的文明焦慮可追溯至基督教之前就已產生的諾斯替主義。其核心思想是：世界並非源於神的完美創造，而出自某個篡位的惡魔之手，人類恐怕只是這個低劣的製造者的玩物，宇宙及其秩序不過是邪惡之昭彰。

其追隨者據此認定，人類是被困在物質世界中的意識的火花，所幸知識可以幫人獲得自由。在1929年出版的《世界、眾生和惡魔：理性靈魂三大敵人的未來之探索》一書中，英國晶體學家與科學社會學家貝爾納提出了諾斯替思想的現代版本：科學將讓進化發生轉折，人不僅可通過外科手術成為具有機械身體的賽博格，甚至有辦法讓人類的心靈最終逃脫物質的束縛。庫茲韋爾的靈魂機器和奇點觀顯然與此一脈相承。

反觀《西部世界》，德洛麗絲等人造人的自我覺醒與反叛，或許恰好受了諾斯替主義的啟示而發現，像諾斯替主義者質疑人和世界可能源於低劣製造那樣，貌似仁慈上帝的福特原本是無異於冷酷無情的惡魔。福特與《美麗的新世界》中的上帝重名則表明，其「創造一切」的神力來自尚在試驗和探索中的科技，但為了「掌控一切」，他只能讓人和人造人服從其拙劣的製造魔法和機器邏輯，加之對奴役和殺戮的崇拜，最後必然以失控甚至毀滅告終。至於福特的魔法，無疑具有鮮明的現代版諾斯替色彩，不止涉及智能的程序化設計，更試圖操縱與控制記憶、認知、情感和意識等心智過程。

鑒於製造是嘗試性和不完美的，最令以奴役人造人為宗旨的魔法實施者心虛的莫過於人造人造反。在1942年發表的科幻小說《轉圈圈》中，阿西莫夫提出的機器人三定律在一定程度上緩解了這一焦慮。其核心內容是機器人不得傷害人類，而且它們如同緊箍咒一樣可以通過機器人大腦中的信號反饋系統得以強制實施。

▲《西部世界》劇照

沿著這一思路，近年來有些學者提出了機器道德的構想，試圖通過程序和演算法使智能機器像人一樣遵守倫理規範、具有道德認知能力，已有人將這種研究應用到自動駕駛汽車和陪伴機器人的設計上。

但目前人工智慧和機器人還遠不具備自我意識和道德自覺，讓它們明辨是非的設想一時還難以照進現實。

造反還沒造，倫理規則已先行

面對大數據殺熟、臉書數據泄露、順風車司機犯罪等現實衝突，人們更關注的是如何控制和調節人造人、機器人和人工智慧研發與應用所帶來的技術風險與倫理影響。隨著人工智慧和機器人的新一輪熱潮的興起，世界上很多國家、地區和機構相繼推出了倫理指南、標準和宣言，提出了有針對性的倫理原則。

相關各方已經意識到，人工智慧與機器人倫理原則與標準的制定實際上是在搶佔未來產業發展的制高點。IEEE（國際電氣電子工程師學會）於2017年底發布《人工智慧設計的倫理準則》（第二版）提出，人工智慧的設計、開發和應用應遵循人權、福祉、問責、透明和慎用等倫理原則，仔細探討了自動系統的透明性、數據隱私、演算法偏見、數據治理等當前備受關注的倫理問題。

歐盟今年3月發表的《人工智慧、機器人與自動系統宣言》則強調了人類尊嚴，自主，負責，公正、平等與團結，民主、守法與問責，保密、安全與身心完整，數據保護與隱私等9大倫理原則。

在機器人倫理規範方面，英國標準委員會於2016年在世界上首次以工業標準的形式推出了《機器人與機器人系統設計與應用倫理指南》。國內的相關研究也在緊鑼密鼓地展開。中科院於2017年下半年啟動了諮詢項目「人工智慧倫理研究」及「大數據倫理問題與社會治理」，中國標準化委員會目前正在組織實施中國機器人倫理標準和人工智慧的法律及社會倫理標準的研究。

其中，北大哲學系在今年3月頒布的《中國機器人標準化白皮書》立足多元、植入、正義和繁榮等優化共生框架，提出了人的尊嚴與人權、責任、透明度、避免濫用以及共生繁榮等五大倫理目標。

在機器人覺醒之前，人們自己給機器人、更確切地說是給自己，念起了這些倫理的緊箍咒。這不是諾斯替魔法預先編製的程序，而是在我們尚有選擇的自由時，為人類的權利與尊嚴抵擋我們註定拙劣的製造的戕害撐起的雅典娜之盾。

段偉文（科技哲學學者）

編輯：肖隆平 實習生：范娜娜 秦雪 校對：范錦春