當機器人能決定人類生死時 我們還能信賴它嗎？

（原標題：我們能信賴機器人嗎？）

四臂手術機器人

手術機器人達·芬奇。?

加州大學伯克利分校機器人專家肯·戈德伯格讓達·芬奇機器人縫合手術切口，達·芬奇能通過「機器學習」軟體自己學習。

進攻型無人機和射擊機器人

美國魔爪SWORDS機器人

本報記者 常麗君 綜合外電

隨著人工智慧和機器學習的發展，機器人越來越多地承擔起更加重要的工作，如外科手術、自動駕駛、戰場作戰，甚至能決定人類的生死，那麼——我們能信賴機器人嗎？

按大眾對機器人的理解，它們要麼是近乎完美的忠誠管家，要麼是精神變態的狡詐殺手，就像《星球大戰》里的C3PO、《機械姬》里的艾娃、《禁閉行星》里的羅比或《太空漫遊》里的哈爾。雖說這些描寫只不過反映了人類自己的希望和恐懼，但至少這些恐懼已開始進入現實。

近年來，許多科技界名人表達了他們對人工智慧橫行世界的憂慮：擁有超級智能的機器人建立了一個新世界，人類不再是這個新世界裡的主角，他們被奴役、殺戮甚至滅絕。這些恐怖場景和幾十年前科幻小說家們幻想的差別不大，卻引起了人們的廣泛關注，甚至包括斯蒂芬·霍金、比爾·蓋茨、埃隆·馬斯克等科技名人。

人類和機器正形成一種新的關係。在不久的將來，我們會開始對那些具有高度自主性、完全自動化的機器人系統委以重任，如駕駛汽車、執行手術，甚至在戰爭中選擇何時使用致命性武器。這是人類第一次在面對複雜、變動和無序環境時，通過對機器編程而不是直接控制來做出生死決擇。

毫無疑問，機器人並不完美，它們也會犯錯，甚至可能造成人類傷亡。但可以確定的是，這一新興科技將給人類帶來前所未有的發展前景。屆時，我們將面對的挑戰涵蓋技術、法規甚至哲學範疇，除了法典和政策問題，新的機器人還迫使我們面對更深的道德難題，甚至改變對自我的認識。但最終，這個世界會因機器人時代的到來而變得更加美好。

精準高效的外科手術機器人

目前，外科醫生已可以利用機器手臂來做複雜的手術。美國紐約大學機器人手術中心主管邁克爾·斯蒂夫曼已做過上千例機器人輔助手術。他在控制台操縱著機械臂，每個機械臂都通過一個約5毫米寬的微小切口伸入病人體內，只要旋轉自己的手腕，捏緊手指，伸入病人體內的機械臂就會精準地執行同樣動作。

他引導著兩隻手臂給一根線打結，操縱第三隻手臂用針穿過病人腎臟，將切除腫瘤後留下的洞縫在一起，第四隻手臂則拿著內窺鏡將病人腹腔內的情況呈現在顯示屏上。

斯蒂夫曼是位受過高等訓練的專家，有高超的技能和判斷，然而，他正在把寶貴的時間花在縫合上。這只是主手術的後續整理工作，如果機器人能接手這項單調機械的任務，外科醫生就能騰出手來做更重要的事。

今天的手術機器人能力進一步增強，手術中不僅沒有手顫，還能實施多種方案。但說到底，機器人只是由人類直接控制的高級工具。手術機器人公司泰坦醫療（TitanMedical）執行副總裁丹尼斯·福勒曾是一名從業32年的外科醫生，他認為，如機器人能代替人類自動做一些決策，獨立執行分配給它們的任務，醫療行業將能更好地為人類服務。「這種技術干預手段能增加可靠性，減少人為錯誤。」

給機器人「升職」並非遙不可及的事，所需的大部分技術很快會在研究和工業實驗中開發出來，實驗機器人用人體組織的橡膠模型練習縫合、清洗傷口、切除腫瘤等。在一些實驗中，機器人能比得上人，有些甚至比人更加精確、高效。就在上個月，華盛頓一家醫院展示了一個機器人系統縫合的豬小腸組織，讓人執行同樣手術進行比較發現，機器人縫得更均勻、更細密。

雖然這些系統還沒準備好用於病人，但它們代表了未來手術的發展方向。同樣的邏輯也適用於操作室和裝配流水線，如果高自動化能提高工作效果，那就沒什麼能阻止它。

肥胖症治療醫生、倫敦帝國學院講師休丹·阿什拉芬對機器人手術的結果進行了研究。他認為，在可預見的將來，手術機器人將會在醫生指令下處理簡單的任務。「我們的目標是提高術後效果。如果用機器人能挽救生命、降低風險，那用這種設備就是義不容辭的。」

展望未來，醫學界最終會使用下一代機器人——有決策權的人工智慧。這種機器人不僅能處理常規任務，還能接管整個手術。雖然現在看起來還不太可能，但技術創新會很自然地把人們引領到那裡。阿什拉芬說：「這是一步步實現的，雖然每一步都不是特別大。正如50年前的醫生想像不出現在手術室的樣子，從現在起再過50年，估計又是另一番景象。」

其實手術機器人已經能自己做決定，獨立性比人們所想的更強。比如，在視力矯正手術中，機器人系統切下病人一小片角膜，並通過一系列激光脈衝重塑其內層；膝關節置換手術中，用自主機器人切割骨骼比醫生更精確；在頭髮移植手術中，智能機器人能識別並採集病人頭部堅固的頭髮毛囊，然後在禿斑頭皮部位打下精密小孔，幫醫生省下許多單調、費時的重複勞動。

那些涉及到胸腔、腹腔和盆腔部位的手術要面對更複雜的挑戰，因為每個病人的生理結構都有所不同，自主機器人必須能很好地識別各種又濕又軟的內部器官和血管；而且在手術中，病人的各部分內臟都可能起變化，所以，機器人還要能不斷地調整手術計劃。

機器人還要有可靠地處理危機的能力。比如，在腫瘤切除手術中突遇大出血，它必須能及時、正確地處理。手術中會出現各種不可預期的複雜情況，機器人成像系統和計算機視覺首先要能識別，並通過噴出紅色液體提示這種情況的嚴重性；下一步，其決策軟體要能找出處理這種問題的最佳方案，然後指令系統迅速將這一方案付諸行動；最後由評估程序來評價結果，確定是否還需進一步行動。讓手術機器人掌握感知、決策、行動和評價每一步驟，代表著對工程師的巨大挑戰。

進入實用的「達·芬奇」系統

2013年，位於加利福尼亞州的「直覺手術」公司開始向世界各大學機器人研究人員捐贈「達·芬奇」手術機器人系統，每台造價高達250萬美元，它也是美國監管機構批准的軟組織手術系統。目前，全世界有超過3600家醫院安裝了「達·芬奇」系統。但它的商業之路並非一帆風順，曾因輕微事故而面臨訴訟。儘管充滿了爭議，很多醫院和病人已經接受了這種技術。

「達·芬奇」處在人類醫生的完全控制之下，除非醫生在控制台上抓住操縱桿，否則其手臂只是毫無生氣的塑料和金屬片。該公司先進系統研發部經理西蒙·迪邁奧說，目前他們打算保持這種現狀。但機器人專家正在面向未來努力，讓醫生在做手術時有越來越多的輔助工具或計算機引導。

迪邁奧指出，這一領域的研究就像早期的自動駕駛汽車，「第一步是識別道路標誌、障礙物、汽車和行人，」下一步是讓汽車來幫助司機。比如，智能汽車會感知周圍車輛的位置，在司機錯誤變道時發出提醒。同樣，手術機器人可在醫生的手術器具偏離常規路徑時發出警示。

加州大學伯克利分校自動化科學與工程實驗室主管肯·戈德伯格也在訓練他的「達·芬奇」獨立執行手術任務。目前，它的縫合技術已相當靈巧，它能一隻手臂拉線通過模型傷口兩邊，另一隻手臂通過拉針把線繃緊，無需人類引導而開始縫下一針。它通過位置感測與攝像技術計算每次進出針的最佳位置，計劃並跟蹤行針軌跡。但任務還是很艱巨，據報告，它目前只能完成四針程序的50%，而且還不會給線打結。

戈德伯格說，現在他們使用機器學習演算法採集視覺和運動學數據，把每一針分為定位、推針等多個步驟，讓「達·芬奇」按順序處理。通過這種方法，它有可能學會做任何手術。

理論上，同樣的程序也能指導真正的手術。戈德伯格認為，在今後10年內就能實現簡單的手術任務自動化。但即使機器人真的能在常規手術中表現更好，他仍希望機器人的行動是一種在人類醫生「監督下的自主」。他說，讓機器人做長時間精確且一致的工作，就像縫紉機對手工縫紉，只有機器與人合作才能成為超級醫生。

被重新定義的軍事機器人

捷克作家卡雷爾·恰佩克1920年發表了科幻劇作《羅素姆的萬能機器人》，發明了「機器人」一詞，其最初含義是合成人類，它們在工廠長時間辛苦地工作，生產低成本商品。然而，最終這些機器人殺死了人類。這也是科幻小說一直在描寫的情節：機器人失去控制，變成不可阻擋的殺人機器。

現在，隨著人工智慧的發展和機器人技術的進步，加上伊拉克、阿富汗戰爭中無人機與地面機器人的廣泛使用，人們在震驚之餘開始擔憂，科幻中的恐懼會變成現實。

世界最強大的軍隊目前正在開發更智能的武器，這些武器將擁有不同程度的自動化能力和殺傷力，絕大多數通過人類遠程控制。但也有人認為，未來的人工智慧武器最終會完全自動化地操作，由集成微晶元和軟體來決定人類的生死，這將成為戰爭史上的一道分水嶺。

於是，「機器人殺手」引發了激烈爭論：一方認為，機器人可能開啟一場世界大戰摧毀人類文明；另一方則認為，這些武器是一種新型精確制導武器，只會減少而不是增加傷亡。人工智慧領域的一些主要研究人員呼籲，禁止「自主進攻型武器超越人類控制」。

去年，三位學術界名人——美國加州大學伯克利分校的斯圖爾特·羅塞爾、麻省理工學院的馬科斯·泰格馬克和澳大利亞新南威爾士大學的托比·沃什，在一次人工智慧（AI）大會上組織發起了聯名請願。他們在公開信中指出，這些武器將導致「全球AI軍備競賽」，用於「暗殺、破壞國家穩定、鎮壓群眾和選擇性地消滅某個少數民族群體。」目前，這封信已有超過兩萬人簽名，包括著名物理學家斯蒂芬·霍金、特斯拉CEO埃隆·馬斯克等人。馬斯克還捐了1000萬美元給一家位於波士頓的研究所。該研究所的任務是「保衛生命」，抵抗可能出現的惡意人工智慧。這一事件成為世界各大媒體的新聞，甚至在12月日內瓦聯合國裁軍談判會議上，約有100多個國家參與討論這一問題。

這場爭論還擴展到網路上。人們對未來進行了各種預測和展望，有人認為，某種情況下還可能出現「出售殺傷性微型機器人的低成本大規模黑市，購買者可以給它設定某些標準，不加分辨地殺死成千上萬符合標準的人」。

他們三人還指出：「自主性武器是一種潛在的大規模毀滅性武器。雖然一些國家或許不會選擇將它們用於這種目的，但這對有些國家和恐怖主義分子卻極有吸引力。」

造出在智能、自主和自動化方面不斷升級的殺人機器，不管這種軍備競賽能否更好地服務於人類利益，也不管目前存在著多大爭議，實際上新一輪的AI軍備競賽已經開始。

悄然興起的智能化武器裝備

自主武器幾十年前就已出現，但數量較少，而且基本上都是用於防禦性目的。最近，軍事供應商開發出了被認為是進攻型的自主武器。以色列航空工業公司的Harpy和Harop無人機，能朝著敵方防空系統發出的無線電波飛去，撞毀它們。公司稱，這種無人機已廣泛向全世界出售。韓國國防承包商DoDAAMSystems公司也開發出了一種警衛機器人「超級aEgisII」，裝備有機槍，能利用計算機視覺自動探測射擊3公里內的目標。據韓國軍方報告，已經在臨朝鮮邊界的非武裝地區對這些裝備了機器人的武器進行測試。DoDAAMSystems公司稱，他們已經售出超過30套這種系統，有些買家在中東。目前，這種自動系統的數量大大超過機器人武器。

有些分析師認為，未來幾年，武器的自主程度將變得越來越高。位於華盛頓特區的一個無黨派研究機構「新美國」的機器人戰爭專家彼得·辛格說：「戰爭將會變得完全不同，自動化將發揮重要作用，速度成為關鍵。」他預測，未來戰爭的場景就像無人機之間的混戰，或機器人戰艦和敵方潛艇之間的遭遇戰，能提供剎那間優勢的武器將決定戰爭的勝負。「可能是高密度的直接對抗，對人類來說根本來不及介入，因為只在幾秒鐘內一切就已發生了。」

美國軍方在一份無人系統路線圖中，對這種新型戰爭列出了一些詳細計劃，但它在武器化方面的意圖仍含糊不清。國防部長羅伯特·沃克去年3月曾在一次論壇中強調，要在AI和機器人方面投資，並稱在戰場上出現越來越多的自動化系統是不可避免的。

問及關於自主武器時，沃克堅持美國軍方「不會把做致命決定的權利授權給一台機器。」但他也補充說，如果「競爭對手」更願意把這樣的權利交給機器的話，我們也不得不決定，怎樣才能最好地競爭。

在開發陸海空無人戰鬥系統方面，俄羅斯也遵循同樣策略，但至少現在還依靠人類操作。俄羅斯的M平台是一種小型遙控機器人，裝備有卡拉什尼科夫步槍和榴彈發射器，類似美國「魔爪SWORDS」系統（配備M16及其它武器的地面機器人）。俄羅斯還造了一個更大的無人戰車Uran-9，配備30毫米機關炮和反坦克導彈，去年還演示了一個人形戰士機器人。

聯合國一直堅持討論致命自主機器人已近5年，但其成員國還未能起草一份協議。2013年，聯合國人權問題特別報告員克里斯·海恩斯寫了一份有影響的報告指出，世界各國有一個難得的機會，在自主武器大規模發展之前討論它們的風險。

今年12月，聯合國「特定常規武器公約」將召開5年審查會議，致命性自主機器人的話題將提上日程，但要在會議上通過禁令是不可能的。這一決策需要所有參會國一致同意，在如何處理未來可能出現的泛自主武器問題上，各國仍存在根本分歧。

最終，「殺手機器人」的辯論似乎更關乎人類自身而不是機器人，自主武器也和其他任何技術一樣，至少在第一次使用時，應該更加謹慎，否則會是混亂和災難性的。像「自主作戰機器人是個好主意嗎？」這樣的提問可能不太合適，更好的應該是「我們確信自己能充分信任機器人並和它們生活在一起嗎？」

兼顧邏輯與道德的無人駕駛車

設想一下，將來的某個夜晚，一個醉醺醺的行人突然在一輛無人駕駛汽車前面摔倒，結果當場被撞死。如果車裡有人，這會被認為是一次事故，因為行人顯然有錯，理性的司機也難以及時躲避。但到了本世紀20年代，隨著無人駕駛汽車日益普及，車禍發生的概率會減少90%，對應司機過失的「理性人」的法律標準也會消失，對應的標準是給「理性機器人」。

死者家屬會把汽車製造商告上法庭，指稱汽車雖然來不及剎車，但它應該躲避周圍行人，越過雙黃線，撞上旁邊車道上那輛空空的無人駕駛車。而根據該汽車的感測器數據分析，再現撞人場景也確實如此。原告律師會質問汽車頭部軟體設計師：「為什麼汽車不會轉彎？」

但法庭絕不會質問一個司機，為什麼即將撞車前他不採取某個緊急措施，因為這是毫無意義的——司機驚慌失措無法思考，只能憑本能做事。但如果司機是個機器人，問「為什麼」就變得合理了。

在人類的道德標準、有瑕疵的法典案例、各種各樣工程師想不到的假設情況中，最重要的假設是：一個有著良好判斷能力的人知道何時應不顧文字上的法律條規，真正維護法律精神的至高無上。現在工程師必須做的是，把一些基本的判斷因素教給自動駕駛汽車和其他機器人。

目前，在英國部分地區、德國、日本、美國4個州和哥倫比亞特區，法律已明確允許對完全自動化車輛進行測試，但車裡還要有一個測試司機。谷歌、日產、福特及其他公司也表示，他們預計在今後5到10年內實現真正的無人駕駛操作。

自動車輛獲得環境信息是通過一系列感測器，如視頻攝像機、超聲波感測器、雷達和激光雷達（激光測距）。在加利福尼亞州，申請自動車測試牌照要向機動車管理局提供碰撞前30秒的所有感測器數據，工程師可以憑著這些數據精確重現碰撞事故場景。利用汽車的感測器記錄，就能推知它決策背後的邏輯。發生車禍後，監管機構和律師能根據這些記錄，堅稱自動車輛有著超人的安全標準，通過了嚴格的審查。製造商和軟體開發商也將以目前人類司機無法想像的方式，為無人駕駛車的行為辯護。

所有駕駛都會涉及到風險問題，但這些風險如何在司機、行人、騎自行車者之間分配，甚至風險的性質都有著道德的成分。無論對工程師還是對一般公眾來說，最重要的是自動駕駛汽車的決策系統，它決定了汽車行為中所含的道德成分。

對於道德上模稜兩可的情況，在遵循法律的同時盡量減少損失。這種策略很有吸引力，因為它允許開發人員為肇事車「不作為」的行為辯護，也向立法者傳遞了定義道德行為的責任。但不幸的是，這方面的法律尚未完善。

在大多數國家，法律依賴於人類的常識，對自動駕駛汽車編程也應遵守法律規定：不得越過雙黃線，即使有撞上一個醉漢的風險，即使另一邊車道上只有空的無人駕駛車——法律很難為緊急情況制定例外，汽車開發商無從確定何時越過雙黃線是安全的。

在道路車輛自動化倫理學上，這並非不可解的難題。可以借鑒其他領域的大量案例，來安全合理地處理類似的風險和利益。比如，給病人捐獻器官，依據它會帶來更有質量的生命還是殘疾的生命，還增加了一些對社會更有用的職業。自動駕駛車輛面臨的更大挑戰是，它們必須在信息不完全、程序員常常考慮不到的情況下，利用編碼在軟體中死板的道德條規，迅速做出決定。

幸運的是，公眾並沒有過分地期望超人智慧，考慮到倫理道德的複雜性，只要對自動車行為有個合理的判斷就可以了。一種解決方案不一定要完美無瑕，但應該是多方考慮、合情合理的。

本文來源：科技日報社-中國科技網 責任編輯：白鑫_NT4464
推薦閱讀：