271、【轉載】首部無人駕駛倫理標準提交

08-13

來自專欄前沿科技的道德哲學反思

首部無人駕駛倫理標準提交

2017-09-21 來源：北京晨報

無人駕駛離我們又近了一步。就在技術日臻成熟的同時，一份道德指導準則也新鮮出爐，好讓遇到緊急狀況時電腦「司機」能有規可依。上個月，德國聯邦交通部長向內閣提交了一份關於無人駕駛汽車的報告，提出人命優先於動物和財產，判斷誰應該生存時不能存在歧視……這也是世界上首份國家級別的無人駕駛道德準則，它有可能就是未來相關立法的模板，由此開啟了無人駕駛的新時代。

核心思想　人命優先於動物和財產

這份報告由德國交通運輸與數字基礎建設部下屬的一個專家小組擬定，列出了汽車工業在開發任何無人駕駛系統時應當考慮的20條準則。這也使德國這個車輪子上的國家再次走在了世界前列，允許其汽車製造商保持技術領先地位的同時，也為世界其他地區樹立了一個強有力的榜樣參考。

該報告指出，在如今的技術水平上，完全阻止事故發生是不可能的，這就使得系統軟體做出相應的決策尤為重要。報告的核心思想可以總結為：人命優先於動物和財產，所有人都是平等的，在兩難中決定誰應該生存不能有歧視。

該指南將在使用兩年後重新審核，在獲得更多實際操作的經驗後，將有細微的調整。就目前來看，這些指導方針相對全面而且合理，也為德國的汽車製造商提供了法律依據。目前，其他對無人駕駛躍躍欲試的國家多在這類立法上持觀望態度，但不排除之後會效仿德國的做法。這也讓第一個「吃螃蟹」的德國此舉顯得意義重大。

重點內容　以人為本而且人人平等

那麼，這份「以人為本」的報告都考慮到了怎樣的情況呢？

首先，如果不能避免事故發生，人類的安全必須優先於動物和財產。系統必須盡量避免碰撞，但當碰撞不可避免時，它應當採取對人無害的行動。為了傷害最小化，所有人都被認為是平等的。系統不能對潛在受害者的年齡、性別、種族、身體素質或其他任何方面差別對待。這也讓人聯想到著名的「電車困境」，對於系統軟體來說，優先考慮人的相對價值是被禁止的。

該報告提到了完全自動系統的可能性，但也承認該技術目前還不具備解決兩難局面的能力。隨著技術的成熟，完全的自主權將成為可能。

明確責任　分清是人還是電腦駕駛

對於責任的明確，不可忽視的一點要求就是：無論何時，都應該明確到底是人還是電腦在駕駛。掃描駕駛執照可能是最基本的手段，所有駕駛車輛的人都必須通過驗證，確定具有駕駛這類車輛的合法資格。車輛應當配備航空式的黑匣子，可以連續記錄事件，包括任何時間內到底是「誰」在控制。當發生涉及自動駕駛車輛的事故時，應當由獨立的聯邦機構進行調查，以確定責任。

對於從車上收集到的個人信息，司機有保留信息的權利，第三方使用該數據必須得到車主的知情同意，並且不能造成任何損害。任何針對自動駕駛系統的惡意攻擊都必須有有效的保護措施，軟體應當被設計成安全級別，使得黑客不能實施惡意攻擊。

報告還提出，公眾必須知道自動駕駛汽車的運作原則，包括這些原則背後的基本原理。這一項應當被納入到學校的課程中，以便人們能夠理解自動駕駛汽車的運行方式和原因。

指南節選

1 意在提高安全

部分和完全自動化的運輸系統，存在的目的主要是為了提高道路使用者的安全。人們享有行動自由的同時也要對自己的行為負責任，技術的發展最終還是遵循個人自治的原則。

2 個人保護優先

無人駕駛的前提就是，承諾至少要比人類駕駛帶來更少的危害，能夠更大保護人類生命安全。基於這一使命，對個人的保護應該優先於所有其他功利性的考慮。

3 自由個體平衡

所有政府和政治監管決策的目的都是為了促進自由和保護個人。在一個自由的社會中，個人自由最大化的同時，也要保障其他人的自由和安全。

4 防止發生事故

無論任何情況，自動化和聯網技術都應該防止出事故。但是當出現進退兩難的境地時，無人駕駛車輛必須具備兩害相權取其輕的決策能力，同時還要推動技術不斷發展。例如將應用程序限定在可控的交通環境，向有危險的人發出信號，通過智能道路基礎設施來預防危險。未來的無人駕駛技術還要不斷提高道路安全，除了完善車輛自身設計和規劃，還要提前預見各種潛在危險，儘可能減少對道路使用者構成危險。

5 人享有優先權

在有危險而且不可避免的情況下，應當保護人類生命享有最優先權。因此，如果人身傷害是可以預防的，那麼該系統必須被設定為在衝撞中允許對動物或財產造成傷害。

6 禁止差別對待

在不可避免發生事故的情況下，嚴禁根據年齡、性別、身體、心理素質等進行個人特徵差別對待。同時，也禁止將受害者轉移或者抵消，被捲入風險的當事人絕不能犧牲其他未被捲入人的安全。

7 系統不斷改進

無人駕駛系統被激活使用後，適用其他產品生產安全責任條例。由此可見，製造商和運營商必須關注已經交付使用的系統，並且不斷優化和改進。

8 技術透明公開

公眾有權了解新技術的具體情況，無人駕駛車輛編程指導應當儘可能透明，並且允許在公共場合交流，還要由專業的獨立機構進行評審。

9 適應人類習慣

無人駕駛車輛的軟體和技術必須有這一設計，即不需要突然將控制權移交給司機。同時，為了實現高效、可靠和安全的人機交流，系統必須更加適應人類的交流習慣，而不是要求人類提高自己適應系統的能力。

10 學習無人駕駛

人們應該承認，無人駕駛系統是數字教育的一部分，在學習駕駛機動車時，也應該學習如何正確處理並以適當方式使用無人駕駛系統。

他國縱覽美國發布無人駕駛監管新規

9月13日，美國交通部部長公布了由交通運輸部和國家公路交通與安全管理局（nhtsa）聯合制定的自動駕駛系統性指南。該指南主要關注從level 3到level 5的自動駕駛，汽車製造商無需等待就能開始測試並部署他們自己的自動駕駛系統，另外它還精簡了各大公司和組織在自動駕駛開發過程中的自我評估流程。

美國交通部長表示，此次發布的新規並非法律，採取自願原則。自動駕駛技術還在不斷發展，如果該技術在未來被證實不安全，監管機構仍將禁止無人駕駛汽車。

新聞背景陷入兩難的電車難題是什麼

電車難題是倫理學最著名的實驗之一。其內容大致為：想像你站在電車軌道旁，看到遠處一輛失控的電車正在駛來，奔向5名並沒有察覺到它的工人，即使他們發現列車也來不及離開了。當這場悲劇逐漸逼近時，你看到一條與鐵軌相連的槓桿。你意識到，如果拉動槓桿，電車將轉移到另一組軌道上，避開這5名毫無防備的工人。但是，這條軌道上還有1名工人，同樣沒有察覺到列車的到來。這時，你是否應當拉槓桿？為了挽救5名工人而導致另1人死亡？

本版編譯陳小丹

引自：首部無人駕駛倫理標準提交 - 中國網

（2018.7.27）