作者：Top Liu

大家平時對機器人技術和產業聊得比較多，今天在這和大家分享一本書，聊點不一樣的東西。

《機器人與未來》這本書作者是卡內基—梅隆大學機器人學教授諾巴克什（下文我們稱諾教授），他是麻省理工學院出版社教材《自主式移動機器人》第二版的合著者，不知你的自學教材是不是這本書呢?這本《機器人與未來》，則是他面向普通讀者的新書。圖書主頁是

機器人未來 |ExbotBooks

另外《機器人與未來》(中文版)入選2015第一財經年度金融書籍榜單「年度特別推薦」

http://www.yicai.com/news/2015/12/4725055.html

現在我們搞機器人的首先關心的是機器人某項關鍵技術，其次是技術的產品化。而諾教授呢，他進一步考慮了第三個問題——機器人大規模出現後對社會生活甚至是人性的影響，好的方面大家都想得到，這裡主要聊一些意想不到的副作用。另外這本書比較有意思的地方是「三段」結構，每一章都是以發生在20**年某年某日發生的一個有趣機器人的小故事開始，每一個故事的背後都是一個巨牛逼的機器人公司或技術，無意間造成了副面影響。這些故事發揮下都可以拍成科幻電影了。但好在諾教授是頂級的機器人專家，洞悉機器人技術的發展，所以每個故事發生的時間以及安排的技術背景都是經過慎重考慮的，也可以說是對未來的一次大膽的預測。然後在隨後的正文會介紹故事的技術背景及目前現狀。最後則是闡述機器人技術的濫用可能導致的一些意外的影響。這裡所說的機器人技術是一種泛機器人技術，或是廣義的機器人技術。這個書初一讀起來會覺得比較亂，但你理解了他的這個設計安排後，就會看得清楚了一些。

機器人技術的副作用及道德倫理

下面和大家來一起分享討論下幾個機器人技術的副作用：第一個是我們比較熟悉的，關於機器人數據採集、分析，營銷。像網路購物推薦啦，尿布配啤酒啦，這種通過網路分析人們在互聯網上的行為並進行營銷的，我們現在每天都會遇到，現在企業每年在網路分析這塊的花費超過7億美元。現在大數據很火，但大數據的前提是有數據，所以收集用戶數據很關鍵，收集足夠多，足夠全面，後續分析可信度就高。以前我們主要靠登陸頁面來實現，後來有了手機就可以進一步收集你的物理信息（位置、運動）和社交信息（電話本、通信）。現在呢，我們可以靠機器人感知技術來擴展信息收集領域：網路、私家車裡、超市、人行道上，甚至是你的家裡。舉個例子。比如美國一家汽車穿梭餐店使用的Bob計算機視覺系統，他的攝像頭直接識別你的車牌，並與你的歷史消費記錄關聯，你還沒下車，廚房已經接到系統發出的快餐單，以此保證你等待的時間最短。還有一家創業公司，叫歐幾里得原本（Euclid Elements），他利用手機唯一的WiFi特徵檢測並跟蹤每位客戶的位置，並以此分析商場中人流量、留存率、駐留時間、窗口轉化率以及顧客忠誠度。這兩個例子只是開始。類似的技術成熟在提高效率的同時，還會出現什麼副作用呢？我們知道產品與需求匹配便意味著商業成功，我們常說設計產品滿足客戶需求，但實際上有時候改變消費者的需求要比改變產品的品質成本更低。所以便有了類似於廣告、推銷，這些的古老的手段。而以後呢，通過更大範圍的自動化的數據採集，以及一套精心設計的、自動化的人群微觀趨勢分析以及自動化的信息灌輸，人們的需求和慾望會被完美地操控。這樣產生的一個副作用，未來商業更多的努力可能更多的是製造慾望，而非製造更好產品。第二個講機器人會使人性弱化。諾教授在1998設計了一個導遊機器人Chips，在博物館巨大的恐龍標本間進行導遊講解。大家知道避障這事很重要。他設計的導航系統是：當有障礙時停止，並通過其揚聲器說「不好意思」。但在其部署的頭幾個月中，發現很多人會故意的在機器人面前跨出一步，然後看機器人停下來帶微笑的傻等說「不好意思」。最後那些跟著機器人遊覽的人卻等得不耐煩了，就自己玩去了。最後怎麼解決這個問題呢，很簡單。把「不好意思」改為「為了能讓我後面的朋友繼續遊覽，請讓一讓好嗎？」結果就明顯不同了，那些阻擋機器人的人很尷尬地看看機器人後面的人，馬上就把路讓出來了。通過實驗發現，當一個機器人跟一個人說「不好意思」時，人的理解是：「嘿！人類小伙，快來逗我玩吧。」這個故事說明個什麼問題呢？人類是不拿機器人當人看的，但是當機器人變得越來越聰明後，自主機器人沒有人領著、自己在大街上運行時，會不會遭到人類的調戲、虐待、甚至直接抱走。在設計者眼裡，機器人是人類的助手。在消費者眼裡，機器人是他的奴隸。但在別人眼裡，街上跑的機器人卻又是沒人要的流浪狗。人與機器人關係如何定位？設想一個問題：如果有一天無人駕駛汽車撞了人了，誰該承擔責任呢？車主？還是汽車生產商？如果無人機利用人臉識別軟體尋找目標完成圖像匹配後，做出自主決策射殺敵人。是否有問題？最後我們談一個有悖倫理的問題。我們確信在相當長一段時間內，機器人本體在柔軟性、靈巧性，以及運動效率方面仍會遠遠落後於經過了數百萬年的進化優化的人類關節、肌肉和能量系統。但隨著人-機介面方面科技進步，可以在大腦和肌肉之間的神經中斷信號以及生成新的信號。在未來可能產生一種新的機器人，叫「人肉」機器人，機器人的本體就是人類的身體。在一個商業社會裡是永遠不會允許機器人和人之間平等的權利，因為這會破壞整個工業界的經濟基礎。人肉機器人到底在我們的社會中處於什麼位置？如果你殺了其中一個機器人，真的只是一種普通的破壞行為嗎？它們有哪些權利？它們與人類如何相處？以上只是幾個例子，其實最大的問題在於：機器人技術在增強人類力量的同時卻沒有形成應有的社會責任的日常規範。機器人技術賦予軍隊新的能力，會使戰爭的邊界更加模糊，可能導致未來強國發動戰爭的願望更強烈。同樣，恐怖分子也可以製作機器人武器發動襲擊。政府通過機器人可以增強了各種形式的權力和影響，大規模的監控更加全面地感知所有角落。現在憤青利用互聯網吐槽，未來會升級到通過機械系統表達基金思想。任何懂點技術的人通過訪問在線開源社區都將能夠很快建造出一個機器人。

向善設計

最後，談一下未來機器人好的願景。機器人不僅需要good design，更需要design-for-good，我把他翻譯成向善設計。當你成長為一家優秀的機器人公司以後，除了追求技術先進性和商業利益外，這時更要考慮「不作惡」的問題。就像現在的無人機一樣，技術門檻降低了，產品普及了，但副作用隨之出現了。被偷拍的民眾憤怒了，政府管制加強了。對於自主程度越高，功能越強大的機器人，這種問題就會越突出。如果設計之初，沒有充分考慮社會責任、日常規範、倫理道德這些影響，可能會將會導致意料不到可怕結果。所以創造強大機器人的設計者們始終要有design-for-good的意識。最後重複一遍，Good design is design-for-good.

《機器人與未來》作者IllahNourbakhsh是卡內基.梅隆大學機器人學教授，前美國航空航天局埃姆斯研究中心機器人項目的負責人，他不僅是一位機器人專家，還最早開設了機器人倫理學（roboethics)課程。Nourbakhsh不僅洞悉機器人技術的發展，還非常關注機器人技術對人類社會的潛在影響，尤其是機器人技術的「副作用」。這種以社會學的角度來審視機器人技術的發展和影響是前所未有的。此書便是他思考和洞見的結晶。

推薦閱讀：