如果無人駕駛汽車將要撞上路人，系統該優先保護車主，還是優先保護路人？演算法該如何設定？

前面幾位「悟空打豬」解釋的都很符合邏輯，但並沒有從未來實際角度出發，而是就著問題而回答了。這樣雖然可以給出一個相對的答案，但這個答案並不能完全解釋問題本質。

「道德錶盤」這種現象確實存在也值得科學家們研究一番，但實際上它並不是無人駕駛最終所面臨的問題，準確的講「道德錶盤」只能算是一種「過渡方案」所衍生出的問題，它可能存在於主動駕駛—自動駕駛—無人駕駛—AI駕駛這個發展的過程中，無人駕駛的最終形態是不會受「道德錶盤」影響的。

如果非要把「道德錶盤」扯進來，那對於無人駕駛發展的最終形態來講，默認肯定是保護駕駛員的安全為主（汽車內部安全設計理念一直是如此）智能道路安全將完全由計算機和車聯網接管，外部安全將大於內部安全，換句話說就是：撞人的可能性大大低於車內駕駛員發生意外的可能性！

所以「道德錶盤」只能說是對無人駕駛安全問題的一個衍生思考，它存在於過程中，但對結果不會產生很大影響。就像是我們以前在討論機器人的未來是否遵循「阿西莫夫三定律」一樣，你說它有這樣的問題么？有！但如果真的發展到那個地步，這還算是問題么？當然不算！！

知識點：我們現階段所思考的針對未來可能出現的各種問題，只存在於發展初期或者過程中，真正到了未來，過程中出現的問題都將被人類合理解決。歷史上這樣的過程是不斷循環的，就像當年人們擔心飛機並不能安全載人一樣，而如今飛機是世界上最安全的交通工具。

繼續說回「道德錶盤」。我們現在所處的特殊時代會出現很多過渡方案和產品，就像VR/AR（虛擬/增強現實）是MR（混合現實）的過渡；機器學習ML/深度學習DL是AI+（強AI）的過渡；主動駕駛/自動駕駛也是無人駕駛/AI駕駛的過渡。有過渡肯定就會有問題出現，這裡就可以引用前面幾位「打豬」的回答內容，當主動駕駛的人與自動駕駛發生碰撞 或者 自動駕駛撞到路人時，怎麼界定安全責任關係。

把這個問題拆開，其實很容易看到答案：

1.當主動駕駛者切換到自動駕駛（自動駕駛與無人駕駛不同，它是需要人工干預的駕駛模式，具備自動駕駛功能的汽車是有方向盤的，無人駕駛汽車是沒有方向盤的）時發生了事故，責任依然在駕駛員身上，這個不需要界定。

2.如果以城市為中心開始普及真正的無人駕駛或AI駕駛，那時道路交通相關的安全法規和行駛區域會被重新劃分，就好比現在的輕軌一樣，危險區域是禁止人入內的，禁止行人靠近的區域如果出現事故，責任歸誰一清二楚。

3.無人駕駛汽車當然會有事故避讓的措施，但這種措施是通過車聯網和感測器等綜合數據判斷的，而不是人設定的！

最後說一下，博洛尼亞大學的團隊開發這個東西可不是要賣給汽車廠商賺錢用的，而是根據道德界定問題所設計出的一種表達裝置，嚴格意義上來講它算是一個學院派模型。不要因為這個模型去擔心未來狀況。

（貓眼科技原創於悟空問答平台，禁止以任何形式轉載！圖片來源：百度）

在無人駕駛汽車遭遇車禍，如何選擇都面臨錯誤，不僅涉及到法律層面，更核心在於倫理。

但大面積無人駕駛汽車上路還很遙遠，首先技術和高速網路通信，至少要等到5G商用後才能有機會看到無人駕駛汽車開在都市的道路上；再次感測器技術的高成本，同樣制約無人駕駛汽車的普及；再次還面臨法律和倫理等方面的制約，本期話題：如果無人駕駛汽車將要撞上路人，人工智慧如何處理，這是法律和倫理層面的話題，是優先保護乘客還是路人？

紅旗法案

如何解決發了和倫理爭議，首先我們來看看汽車發展初期，覺得汽車開在馬路上是極其危險，以及保護馬車工人的利益，在哪個時期，馬車車夫相當於現在的白領職業，由於汽車的發明，將導致大量的「車夫」失業，就出台了一個《機動車法案》，後來該法案被嘲笑為《紅旗法案》。

《紅旗法案》規定每一輛在道路上行駛的機動車，必須由3個人駕駛，其中一個必須在車前面50米以外做引導，還要用紅旗不斷搖動為機動車開道，並且速度不能超過每小時4英里(每小時6.4公里)。

這一法案的出台，使得英國失去了後來的汽車工業發展，結果開放的德國等國家在汽車工業實現了超越。如今，無人駕駛汽車發展初期，類似汽車工業發展初期，各國應該看清未來發展趨勢，無人駕駛勢不可擋，從法律層面支持無人駕駛汽車發展。

美國作為在發展無人駕駛比較開放的態度國家之一，不管是美國本土企業，甚至是國外企業都選擇在美國測試無人駕駛汽車，可以看出，美國發展無人駕駛汽車領先全球其他國家。

電車難題

這是倫理話題，電車難題是倫理學領域最為知名的思想實驗之一，大致是一個瘋子把五個人綁在一條電車軌道上，另外一條電車軌道上也綁了一個人，當一輛失控的電車行駛過來，將要碾壓綁在電車軌道上的人的時候，而電車軌道操作人則面臨選擇難題。

如果無人駕駛汽車同樣要面對撞上路人情況下，人工智慧系統該優先保護車主，還是優先保護路人？《電車難題》同樣適用，這個人工智慧演算法如何設定備受關注。

當前，發展無人駕駛不可避免受到《紅旗法案》和《電車難題》影響，且長期存在爭議，但依然無法阻擋汽車工業發展，而無人駕駛發汽車產業發展趨勢，在爭議中前進，在極其惡劣的交通環境下，就算不是無人駕駛汽車，也會面臨撞人還是打方向盤撞大樹的選擇。

然而，科技技術的發展正在改變各行各業，自動駕駛汽車已成為汽車發展方向，驅動傳統車商和科技企業聚焦該領域，儘管無人駕駛汽車還有很長的時間才能上路，並推進無人駕駛汽車逐漸從科幻走進現實。

不知道大家在看到這個問題的時候，有沒有想起著名的「電車難題」？

電車難題的大概內容是：一個瘋子把五個無辜的人綁在電車軌道上。一輛失控的電車朝他們駛來，並且片刻後就要碾壓到他們。幸運的是，你可以拉一個拉杆，讓電車開到另一條軌道上。但是還有一個問題，那個瘋子在那另一條軌道上也綁了一個人。考慮以上狀況，你應該拉拉杆嗎？拉杆的話，有一個人會死；不拉杆的話，五個人會死。

隨著無人駕駛汽車的不斷發展，「電車難題」將在現實生活中上演。無人駕駛汽車系統的開發者，就是決定是否要拉杆的人。是優先保護車主還是優先保護路人？說白了系統的選擇都是提前人為設置好的。所以說要做出選擇的不是演算法，而是人，無人駕駛汽車系統背後的編程人員需要為無人駕駛的各種問題承擔責任。

早在2015年，谷歌無人駕駛汽車的負責人當就說過，谷歌的汽車無法決定誰是一個更好的人，在道德上，有不可避免的碰撞損失。他們希望能保護弱的人。但是問題又來了，誰才是更弱的人？這意味著要對不同的生命主體做一個價值判斷，但事實上，在不同的人看來，生命的價值都不同。

今年8月底，德國公布了世界上第一部自動駕駛道德準則，這部準則的核心原則是：生命應該始終優先於財產或動物。也就是說，當事故無法避免時，無人駕駛汽車就要選擇撞向建築等障礙物。此外，無人駕駛汽車的系統應該記錄每一次出行，以便出現事故後判斷到底是車主的錯還是系統的錯。

德國的準則實際上也沒有解決任何問題，畢竟系統本身沒有自己的思想，只能聽令於編程人員。所以，想要解決這個問題，還是要系統開發者通過收集大量的數據和演算法比對，給出最優方案。

我認為，目前的無人駕駛汽車技術已經很到位了。但遲遲沒有普及，很大原因就是道德選擇的問題沒有解決，因此，真正讓無人駕駛汽車走進日常，還是長路漫漫啊。

將自動駕駛汽車設置成優先保護路人的模式，還是會面臨一些道德難題，比如：車子的剎車壞掉，是要撞向一個人的一邊，還是一堆人的一邊；撞向重要人物的一邊，還是平凡人的一邊。

如何選擇牽扯到對生命的看法，對利益權衡的看法，對社會理念的看法。如果自動駕駛有著人類一樣的思維，其就要面對人類所遇到的各種艱難選擇。

現在的自動駕駛還沒有到人類的水平，將一些責任歸咎到汽車的使用者是一個不錯的思路，「道德錶盤」是一個試探方式，試探有助於自動駕駛的推廣，同時也有助於人工智慧一些問題的解決。

自動駕駛實現需要解決三個層面的問題：1、給自動駕駛設定目標，2、自動駕駛要在大量的行駛過程中學習，3、要不斷的自我升級，將目標最優化。其中設定的目標非常關鍵，回想我們開車和坐車，目標是最快速的到達目的地，在這個過程中要保證舒適安全，不撞到路人，也不要被撞到。

假設自動駕駛的目的是這樣的話，並且經過學習和優化，駕駛水平超過了最優秀的駕駛員，成為一名老司機，這在很大程度上已經可以減少交通事故，保護汽車使用者和路人。如果自動駕駛還沒有成為老司機，首先應該把自動駕駛變成老司機，然後再進一步討論道德的問題。

讓自動駕駛成為老司機的過程從某種程度上來講也是自動駕駛具有自己的意識的過程，如果沒有意識，自動駕駛就不能叫做自動駕駛。不過隨著意識的產生，也會形成和道德類似的一些規範。那麼這個規範和我們所處環境的規範是否相同就是一個值得去關注的問題。

如果自動駕駛的意識和我們差不多，那麼自動駕駛就要在類似我們所處的環境中學習，就像我們從小孩子變成社會中的人一樣。這種情況很好，不過會引出一個嚴肅的話題。人、具有人類思維的機器人、具有人類思維的生物機器人、具備機器身體的人，這些人應該如何去區分。如果把意識的重要性放在首位，那麼很有可能被車撞了，也只不過是身體的損害，意識還活著，就像玩遊戲一樣。

如果自動駕駛的意識和我們的不一樣，他們的意識是通過汽車上的各種感測器發展而來，抑或是通過數據而來。那麼這種情況就不好預測，如果自動駕駛背後的智能超過了人類，也未必能夠搞清楚這些自動駕駛是如何思考的。可能未來會出現這樣的情景，我們以為自動駕駛是在為我們服務，而自動駕駛未必這樣思考，他們只不過是在開車玩耍，捎帶著拉個客而已。

自動駕駛是目前人工智慧領域最為關注的話題之一，博洛尼亞大學提出的這個」道德錶盤「可能在一些邏輯上存在不足，不過具有很大的啟發意義，有助於人工智慧的發展，同時也讓我們得到更多反思，至少把之前一直困擾的問題有拿出來討論了一次。

有討論，有爭議，就會有進步的可能。回想人類社會的發展，科學的發展，都是這樣過來的。人工智慧領域需要更多的」道德錶盤「。

對於整個汽車行業來說，永恆的話題是什麼？「安全、節能、環保、舒適」，安全一定是鑒定汽車標準最重要的一點。隨著汽車更加的智能化，無人駕駛的技術是整個汽車行業都想要突破的領域，但是無人車能否更安全、更方便、更智能就不僅僅是汽車企業關心的問題了。

其實這個問題本身問的就有一點極端，為什麼這樣說？自動駕駛車輛的紅外線感知系統是全天候360度全面覆蓋的，普通的撞人情況在車載系統感知前就已經做出了判斷，如果說非有人想撞車，就算不是自動駕駛車輛你也躲不開啊。

首先我們就該考慮無人駕駛能不能上路的問題。當今社會對於無人駕駛車輛的測試，在駕駛座位都是配有一名專門的技術人員，法律上對於無人駕駛的法律法規並不完善，想要專門出台法律條令，其實困難比我們想得要多得多。

再者就要考慮技術問題。汽車想要實現智能化，當然離不開AI技術，AI技術也就是你所問到的演算法問題。當今科學發展到一定程度，雲計算的能力提升不僅可以利用數據，還可以分析很多數據，晶元的計算能力也大大提升，這些都是為無人車遇到緊急情況做出分析，從而解決這些問題。

最後就要說到無人駕駛車輛安全的問題。說到安全，你會把你的安全交給一輛無人駕駛的車輛嗎？無人駕駛車內都是要載客的吧，如果最後技術不成熟，你覺得是車內人安全還是車外人安全呢，車輛肯定不會上路的啊。還有就是，只要還存在非自動駕駛車輛，無人駕駛車輛上路如果沒有特定的路線，實現起來就很難！

總之，我們沒必要放大到道德層面去考核無人駕駛車輛，碰瓷老人那麼多，駕駛車輛的司機也表示很無辜啊。

也許你們會噴，汽車不是飛機可以有專航路線，只要基站不出錯，人為不故意就不會出現撞擊，但是汽車，道路擁窄，也許智能識別比人強很多倍，但是機械超作還是也人為本，首先你不撞人你控制不住人來撞你，智能能閃電識別嗎？？？？？還有就是智能設定，犧牲自己和撞擊他人，這問題太喪失倫理，不尊重生命，正常事故中車主都是本能的處理緊急事故，而這個模式挑戰道德底限。。。。很排斥

我覺得不應該說優先保護誰 應該看是誰的責任大一些 如果要是路人闖紅燈，違章 那麼就不應該保護路人了吧 如果要是說無人駕駛想要佔領主導 那我我覺得 不論是有人駕駛車輛的司機 還有路人 都應該提高自己本身的素質 這是前提