【智駕深談】Tesla致命車禍的必然性：談自動駕駛的三個命門

新智元原創

作者：小猴機器人、劉建皓

【新智元導讀】昨天早晨剛起床就被刷屏了，Tesla自動駕駛狀態下出了致命車禍，平時熱衷於展示自動駕駛功能的鐵杆粉絲（向老兄致敬）當場死亡，Tesla股價大幅下降，同時也是一盆冷水潑到了此前在技術狂歡的業界。如果說去年十月份Tesla把AutoPilot放到量產車上是個裡程碑，那麼這件事很可能會把里程碑重新砸到土裡。之後一天微信群和各大媒體都在討論這個事情，從很多角度如駕駛員的激進、輔助駕駛跟駕駛員的關係、Tesla缺乏測試甚至新銳企業對傳統行業缺乏敬畏等等，都很有道理。

為了便於自我學習，我們一直用一個統一框架來評價自動駕駛領域的事情，本文就用「車-路-人」閉環的大框架來談一下Tesla致命車禍，為什麼它必然會發生？別人家的系統能不能逃脫？而最重要的，是發現並避免此類問題的發生。此外，這次深談請教了汽車安全專家劉健皓，從系統和數據層面證實了事故的必然，文末有彩蛋。

【特約編輯】小猴機器人，人工智慧博士，自動駕駛技術愛好者，參與多個自動駕駛項目研發，有豐富的行業經驗，尤其對決策規劃控制方面了解深入。

一個「量身定做」的事故

首先我們先來複盤一下整個事故，談一下為什麼我們覺得這個事故是「量身定做」而且必然的。先總結：一如既往藍天白雲且風和日麗的天氣，一輛橫在路上的白色重卡，一個熱衷嘗試新技術且對此深信不疑的駕駛員，一條筆直到讓人犯困的公路，一套尚在完善的自動駕駛系統，車-路-人聯手為新銳車企Tesla乃至整個自動駕駛產業「量身定做」了一個大新聞。

先上幾張圖，下面俯視圖是事故發生的路段，一看就是事故多發路口，沒有信號燈，橫向是高速，縱向卻有車流匯入，甚至還有對向車輛轉彎搶佔路權的情況。

下圖是CBS電視台給出的交警初步報告，直路飛速行駛的Tesla毫無減速攔腰撞到了一輛白色重卡的拖車，比頭圖給出的示例還要慘烈，駕駛艙當時被削平，前進數十米後離開路面，撞擊數個圍欄，旋轉後停下。駕駛員當場斃命，只剩那個手持的播放器還穩健地播放著哈利波特。就像文章開頭所說的，駕駛員溜號了，而感測器中的攝像頭其實看到了一個大白板而已，毫米波安裝太低而超聲檢測距離太近，然後就有了Tesla官方博客所說的「Mobileye把卡車當成了藍天白雲，毫米波把卡車當成了路牌，發生了嚴重事故，被NHTSA調查（可能會召回）。」

如果說前面陸續發生的Tesla事故最終都歸類給駕駛員不恰當的使用，這次致命事故，則給正在豪言壯語聲稱能飛到火星的Elon Musk當頭棒喝，也給狂熱的自動駕駛業界潑了一大盆冰水，因為在進行事故復盤的時候，做輔助駕駛系統的兄弟們都沉默了，自己手裡在研這套系統，遇到這樣的極端場景（Corner Case），也很可能搞不定，直接被按住了命門。

事故的主要原因是比較確定的，就是感知系統誤檢。前面智駕深談《一張圖看清自動駕駛產業》中提到，自動駕駛落實到車輛上可以劃分為三個層次，感知→認知→行動，然後不斷循環。其中，行動層包括轉向、油門和制動三大控制器（以及執行機構）；感知部分包括兩方面，感知環境的激光雷達、毫米波雷達、攝像頭、組合導航設備，感知車輛自身的包括輪速計和三大控制器的反饋量；而認知部分，包括決策和規劃，是通常意義上的人工智慧所在。

其中，行動層是相對最簡單的，車企供應商在此運用許多現代控制理論的技術，有非常多的積累，現在已經落實的比較有名的產品是DSC（ESP），這塊的難點主要是對車輛動力學、車輛位姿和控制演算法的把握，一般都有可以通過橫向縱向很量化的指標來衡量，由此來看Tesla自動駕駛系統的表現還是非常好的，比如今年Tesla公布其自動駕駛里程數的時候，就表示AutoPilot在這方面優於人類司機（現在估計要加一個「一般情況下」的定語了）。

但現有在研的很多自動駕駛系統也還是存在這種控制不好的問題，比如某次國內比賽的現場。

感知層是這次Tesla事故的主要原因，在量產性價比和識別效果之間的權衡，讓Tesla選擇了比較廉價的感測器組合，健皓分享了一個Tesla的感測器配置圖如下：圖中1是安裝在前後保險杠附近的超聲波感測器，2是位與擋風玻璃上後視鏡下方的Mobileye攝像頭，3是安裝在前格柵中部的77G毫米波雷達。

其中，超聲波感測器負責檢測車輛周圍5米以內的障礙物，毫米波雷達負責前端150米以內的障礙物距離和車速。那麼，為什麼三類感測器都沒有看到這麼大的卡車呢？群裡邊朱西產教授分享了一張帶有尺寸的卡車圖，我猜測Tesla是面對車廂中間的位置徑直開去的，因為這樣才能夠解釋感測器失效。

關於Mobileye的漏檢和誤檢，凱哥昨天在Robotcits上給出了很清楚的詳解，為了保持本文對感測器分析的完整性，這裡我摘錄一下他對Mobileye失效的分析：

「首先Tesla Autopilot選用的攝像頭為長焦鏡頭。當白色拖掛卡車進入視覺區域內的時候，攝像頭只能看到懸浮在地面上的卡車中部，而無法看見整個車輛。這使得Mobileye的障礙物識別系統無法識別出障礙物是一輛卡車，而更可能是飄在天上的雲。其次用於漂浮物體檢測的EyeQ3系統有許多特殊情況(Corner Case)，漂浮物體是其中比較難以解決問題，包括道路救援車以及雙層的車輛運輸卡車，Mobileye很難很好理解漂浮在空中的物體。最後是大面積白色障礙物檢測。無論是學術界的最新演算法，還是Mobileye都不能很好得解決該問題：由於大面積白色物體很難從圖像中提取特徵點，使得基於點的相機姿態求解沒有足夠的數據輸入，導致大面積白色障礙物的漏檢率非常高。」

另外，Tesla博客還提到了高亮度天空（brightly lit sky），這裡可以再補充一個健皓他們實際測試中製造的致盲情景如下圖，幾乎看不到任何除了白色以外的其他信息，所以強光和大面積遮擋物都會影響識別。

再來，對於毫米波，安裝位置低是一個大問題，見下圖。

關於毫米波漏檢，我們大概計算了一下倒是有個不同的看法，按照+5度向上，安裝位置接近地面的情況，只要超過20米的距離，毫米波還是能夠有回波的，當然當時具體的情況還要看後面的數據，但是我們傾向於毫米波實際上看到了卡車車廂，只是由於不檢測對向來車以及卡車佔據多個道路的情況下，給錯誤分類為道路標誌牌，而這個從Musk的Twitter上也可以找到一些證實。

自動駕駛的三個命門

這部分結合Tesla事故講一下自動駕駛系統的三個命門，任何一個出了問題就會導致系統問題，想要做好系統，就需要通盤考慮整體。這是我一直思考問題採用的框架：車—路（場景）—人閉環。

車：重視安全盲區的設計，重視量產前測試

我個人覺得針對Tesla這次事故，是由於過分追求系統性價比而忽視安全盲區造成的。這裡舉幾個例子，純粹是個人看法，很主觀也可能有錯誤。

從Conti給出的示意圖來看，為了保證前方的安全，它在左前和右前安裝了兩個短距毫米波雷達。

從Delphi來看也是有這樣的設計，還多了激光雷達。

再談談對激光雷達的看法，事故報道出來之後大家還是能夠得到一個共識，就是激光雷達在保證安全方面還是非常必要的，但是因為它一直價格有些貴，所以量產方案一般會選擇一線激光雷達。然而，劇博（Ibeo大神，參見往期智駕深談）幫我算了一下，1.2米高的空隙，可能需要八線激光雷達才能夠避免，所以可能就算是裝了Lidar的volvo XC90，也搞不定了，最後來一張之前比賽抓拍的可能是一線激光雷達漏檢的場景。

寶馬的設計則充分利用了多線激光雷達。

另一個是測試里程，Tesla喜歡拿里程多說事，一個月前還提到自己的里程已經遠超過Google。但是一個顯而易見的事實擺在這，就是還是沒辦法窮盡極端情況。蘭德公司此前給出過一個分析報告，給出詳細的推算公式，如果我們在自動駕駛技術上稍微對安全要求高一點的話，那麼可能需要500年才能夠用得上……

場景：參差不齊的路況

這次事故還有一個原因是這條路，高速和低速道路交叉，沒有任何信號燈和指示牌，車道線在路口也只有部分清晰，這種情況其實並不適用自動駕駛系統。

上期智駕深談中李院士談到了「自動駕駛」難自動，只是個陷阱而已：「雖然自動駕駛科目越來越多，但許多科目的實際使用窗口很小很小，因為駕駛活動充滿不確定性，窗口條件太脆弱，極易被打碎。車輛行駛過程中充滿不確定性，汽車如果是軟體定義的機器，任何滿足當前駕駛條件的自動駕駛窗口，無法知曉會維持多久，要隨時隨地準備切轉到人工駕駛。」

解決路的問題可以通過現在的車聯網技術（V2X），假設哪怕卡車左轉的必經之路上埋一個線圈，跟信號燈或Tesla互動一下，就會輕鬆避免這個問題了。

人：曖昧的車企、狂熱的媒體和不明就裡的駕駛員

首先是車企和媒體，見到很多車企在談論自家自動駕駛系統的時候，都沒有明確說明輔助駕駛的問題所在，而媒體廣告上也多迴避安全的重要性，總是宣傳一些駕駛員可以一邊開車一邊看電影的鏡頭，有非常強烈的誤導作用。感覺需要國家機構出台相關法律來強行規定，如香煙盒上印著「吸煙有害健康」。

然後是駕駛員，輔助駕駛系統出問題，很多都是駕駛員的問題，在誤導的情況下，錯誤地評估使用場景和盲目相信系統的能力，都是導致事故的原因。本來就不能夠過分依賴系統，本人仍然需要保持適度的關注。

這次基本可以認定是感知系統的鍋了。除了正常場景會讓系統出問題以外，健皓他們在今年的Defcon上還會給一個通過感測器攻擊自動駕駛系統的議題。

本來自動駕駛系統是為了提高道路和駕駛員安全的，通過感測器感知周圍環境並決策，這類系統高度依賴感測器，這個議題就會挖掘一下怎麼黑掉感測器，比如毫米波，會嘗試如何用非接觸的方式黑掉Tesla Model S，並且用的是市面上能買得到的設備。

就在此文即將發布前，CNBC新聞里警方稱車裡面找到了一個DVD播放器，但由於沒有行車記錄儀，所以不確定事故當時駕駛員是否正在觀看，而車載數據記錄儀的數據已經被警方下載後帶走。

本期專家介紹

劉健皓，汽車信息安全專家，360汽車信息安全實驗室負責人，曾在2014年全球首例破解Tesla汽車，2015年協助舉辦HACKPWN黑客大會破解市面上主流的智能硬體、在Syscan360大會上發表遙控駕駛汽車的演講，參與國內智能網聯汽車信息安全標準制定工作，2016年將在美國黑客大會Defcon和第四界中國互聯網大會上（ISC）發表關於感測器漏洞影響自動駕駛安全的演講。

新智元 616 有獎徵稿令自5月31日起，新智元開闢【名家專欄】，刊登人工智慧專家給新智元的原創稿件。新智元致力於促進人工智慧產業的發展，技術研發與進步，在人工智慧產業界、學術界有強大的影響力，為了進一步繁榮人工智慧業界思想與技術的交流與分享，特向業界領袖和名家徵稿：1. 凡產業、學術界領袖、名家向新智元公眾平台投稿，新智元標識名家專欄的原創稿件，採用為公眾號頭條的，稿費標準3000元以上；2. 凡產業、學術界領袖、名家向新智元公眾平台投稿，新智元標識名家專欄的原創稿件，採用為公眾號2-3條的，稿費標準千字300元以上；3. 凡產業、學術界精英、骨幹向新智元公眾平台投稿，新智元標識業界、學術的深度稿件，採用為公眾號頭條的，稿費標準千字300元以上。4. 凡在其他媒體或個人博客已經發布的稿件、投稿的專家或研發機構稿件獲新智元採納轉載的，不付稿費，但可以附上個人簡歷、照片或者所在公司、實驗室簡短介紹或者原文鏈接。【新智元誠聘人工智慧領域特約編輯】凡產業、學術界精英、骨幹（一般要求為博士）向新智元公眾平台投稿，獲聘擔任欄目或產業、學術大會特約編輯的，稿費標準為千字300元以上。新智元專家投稿請聯繫：editorial@aiera.com.cn新智元專家投稿微信號：X1239828904

新智元招聘信息請點擊「閱讀原文」