【華為諾亞方舟實驗室張寶峰】人工智慧現實之路的三大挑戰

新智元原創1

作者：張寶峰

整理：聞菲

【新智元導讀】張寶峰認為，未來的人工智慧發展，人和機器是共生的。我們需要將任務約束到特點的場景，計算機可以在人類的幫助下，適應場景並幫助人類工作。而在約束情況下將人工智慧變成商用、可部署的產品，張寶峰提出了三大挑戰。

2016 年 3 月 27 日，在「新智元超智能時代新書發布會、新智元智庫成立大會暨新智元基金啟動儀式」上，華為諾亞方舟實驗室副主任張寶峰作了題為《人工智慧的現實之路》的主題演講。

張寶峰在演講中提出了「受教式人工智慧」（Educated AI，EAI）這一概念。「我們希望未來的人工智慧人和機器是共生的，我們希望讓機器更好輔助人，更好地完成任務。」張寶峰說：「我們希望人能夠教會計算機解決具體問題，特別是複雜場景的具體問題。」他解釋說，在很多時候，將問題約束於某一個特定的場景，人可以更好地感知場景，並靠經驗預測場景中極限情況，不需要計算機進行完全通用普適的分析，這樣會大大簡化任務難度，減少對人工智慧技術的依賴。

張寶峰表示，華為是一家設備和解決方案提供商，在人工智慧領域更多考慮如何把人工智慧帶到產業實際的場景，可靠解決實際的問題，而受教式人工智慧除了強調人教會機器解決任務，同時也強調應用智能（Educated Application Intelligence），目的是讓智能技術為產業服務。

就如何在約束情況下將人工智慧變成商用、可部署的產品，張寶峰提出了三個工作中遇到的挑戰和問題：一是關聯分析並不能代替因果推演，如果追求系統的智能性，一定會有決策和推理，這部分完全靠概率和關聯分析是無法支撐；二是如何真正實現人機之間高效的知識傳遞；三是如何在確定場景約束下保證智能技術的可靠性和可用性。「如果我們在確定場景約束下實現99.9%的可靠性，」張寶峰說：「我認為這才是一個真正智能時代到來的標誌。」

以下是演講全文：

【張寶峰】大家下午好！十分榮幸站在這裡，跟前面幾位演講者不一樣，我既不是學人工智慧的，也不是做人工智慧的。從2012年華為成立諾亞實驗室開始，新智元伴隨我差不多走過了一半的時間、一半的歷程，我非常喜歡這個平台和它的深度。但是，作為外行，今天我更想跟大家分享的是，經過4年時間的打磨，我們怎麼理解人工智慧對於產業的意義和價值。說實話，華為在人工智慧領域是一個很不一樣的企業，我們不是一個偏應用和服務的廠商，更多是一個設備和解決方案提供廠商。

我們是這麼看人工智慧的。首先，現在很多人在討論，人工智慧目前有強人工智慧和弱人工智慧的概念之分，但從我們自己產業解決方案出發的時候，我們考慮更多的是到底人工智慧怎麼樣發揮作用和價值。從這幾年的經驗裡面我們發現了一個很大挑戰，就是對於複雜事件的識別，現在的人工智慧技術是無法支持成熟的商業應用。舉個例子，魚缸換水這樣一個簡單的事情，閥門在哪裡，每家的魚缸閥門不一樣，那麼人工智慧要如何在這些里場景使用？我們提出一個概念受教式人工智慧（Educated AI），更多的強調的人具有普遍的認知和感知能力，人可以把很多事情直接告訴系統就夠了，不需要機器努力的進行泛化學習，我們希望未來的人工智慧領域裡，人和機器是共生的狀態，更多強調如何讓機器更好地輔助人，更好地完成任務。比如說，只要人能知道開關是這個樣子的，在這裡打開開關就夠了，而不需要計算機自己很複雜地判斷才知道這是一個開關、那是一個控制器，這是一個這樣的功能，那是那樣的一個功能。我們強調EAI這個概念，是希望人能夠真正教會計算機解決具體的問題。而這個具體的問題是什麼呢？我們強調的是應用。我們認為在未來的場景裡面，人工智慧很多時候解決的問題是約束於某個確定的場景，這個約束帶來的好處是大幅度簡化了我們對人工智慧本身的預期和期盼，只要能約束在某個具體的場景裡面，我們就可以相對成本可接受的獲取在所有場景裡面可能遇到的各種極限情況，可以更容易或者說成本低廉地獲取相關的數據集。在這個基礎上人工智慧技術才可以帶來真正的價值，Application才是我們在產業里真正關注的東西——我們對用戶提供什麼？系統能不能變成可用的系統？最後的體現是在應用層面。我們希望通過這樣兩個基礎的理念來指導我們人工智慧的研究：一個是說把人在複雜事件識別判斷的能力能夠引入到未來的人機智能系統裡面，人直接教會機器；另外則是把智能系統約束在某一個確定的場景里，大幅度簡化我們對當前人工智慧技術的依賴或約束。

舉個例子，我來北京的時候，會按照開會的地點選某個酒店，基本上就在幾家固定的酒店之間來回選。如果以後使用自動助手的話，我就可以非常明確地告訴我的助手，這次會議在哪裡舉行，我選擇的是什麼，這樣系統就會知道我選擇酒店的規則，這樣的規則是當前個人助手能搞定的事情。我們想像另外一件複雜的事情，如果在家裡面教小孩，小孩每天都在變，學習的東西也在變，這時候我該怎麼引導他呢？這是我無法預先告訴計算機我都會有哪些潛在行為和選擇的。那這時候該怎麼辦呢？我們就可以需求進一步簡化約束某一個確定場景，比如某個系統就是教數學的、另外一個就是教化學的、還有就是教語文的，然後再約束在家庭的場景裡面，我告訴它一遍我以前是怎麼教的、現在應該怎麼教，我就有可能把這個看起來可以實現小孩教育的智能系統實現出來了。

但這兩個基礎思考更多的還只是概念。所以今天我分享的與其說是我們做的事兒，不如說更多是一種倡議。大家都是做AI的，希望大家能真正沿著這條思路想一想，如何在約束情況下把當前的技術變成商用化、可部署的東西。

接下來我要講的都是我們在這幾年過程中所遇到的困惑，或者說挑戰，也是我們希望和大家分享，邀請有志之士一起嘗試去突破的東西。

第一個問題是大家一直在討論並且廣泛使用的關聯分析。這是不是一個王牌，能不能替代因果推演呢？上面這張圖是二戰時美軍對於飛機本身抗打擊能力優化的一個圖，紅點表示了飛回來的飛機上能夠採集到被彈孔擊中的地方，這張圖匯總了所有回來飛機上能搜集到的記錄，紅點比較集中區域，顯而易見這些位置比較容易被擊中。但當時一位上將說了一句話，基本完全顛覆了這個數據分析。他說，你們在取這些數據的時候拿到的全是飛回來的飛機，真正被擊中的飛機全都掛掉了，而那些沒有回來飛機上被擊中的位置才是關係到飛機生死存亡的地方，應該有更厚的裝甲去保護的位置。

在這樣一種場景中，大家可以看到前面提到的問題——如果沒有一個應用場景假設的時候，數據能不能足以支撐我們做決策？被擊落飛機的數據無法取回，而在飛回飛機的數據基礎上做再多精細的建模和分析也是有非常大的概率出現方向性偏差的。現在這個問題依舊存在。我們想要智能系統真正被用於商用、可部署之前，首先要解決的是數據充分性和整個業務場景的約束條件，如果沒有這樣的東西，我們估計永遠不可能用關聯分析替代因果推演來實現系統的真正自動化決策。因為因果推演能夠做到的時候，結果是可以重現和確定的，系統往往就能做到比較自動化，甚至自主決策。但如果不能的話，哪怕是零點零幾的失誤，也是不可能做到自主決策。這就是我講的第一個問題：在未來的人工智慧體系里，如果能夠約束場景和需求，就有可能真正實現基本完備的業務場景和約束下業務數據的獲取，從而實現智能決策。

第二個問題，剛才第一個問題里也提到了，我們現在希望教計算機去做一些事情，在這一領域我們有過一些努力和嘗試，大家基本公認計算機在相關分析方面比較強，而人在因果關係、複雜事件的抽象，還有常識理解上可能會更強一點。這兩者的結合會很有效，但關鍵欠缺了一個最大的問題沒有解決，那就是介面是什麼？我們希望告訴計算機我們自己所能感知的、所能認知的知識和邏輯。但現在介面描述能力很有限，除了很有限的規則庫、知識圖譜和知識庫等類似的機制之外，我們其實無法真正告訴計算機面向複雜事件，如何形成真正的知識體系。這個研究方向在業界裡面也出現很多很有意思的研究，比如Rusland做的One-shoot-Learning，就是說讓機器和人一樣，能不能通過一次性的判斷和體驗就能夠學會如何處理事情。還有現在美國也有些教授在做學徒制學習，比如說實現機器進行繩子打結的任務，讓人先打一次（或幾次）結，然後讓計算機學會人是怎麼做的。但目前在這些實現的場景計算機能夠學會的任務還是非常非常有限的，而且人也不能正常、自然地告訴計算機人是如何解決複雜事件里的問題並完成任務，我並不能讓計算機在自己的體系裡面學會該怎麼去解決類似問題。在這個方向上，我們認為「機器學習 人的教育」是非常好的一種模式。但是，缺少了如何真正讓計算機理解人類社會所積累下的知識，當然按照EAI邏輯，我們也不認為需要把這個知識體系泛化到整個人類社會，最好約束到某幾個確定場景里。來討論如何去定義人機之間高效的知識傳遞。當然，如何真正把人機協同這個事情變成自然的模式，也是很值得大家深思的問題。

第三個問題也很重要，我剛才提到了一點點。上面展示的這張PPT，做網路的人可能比較清楚——「5個9」，這經常被院士所詬病，說電信整個高成本都構築在這個追求0.001的可靠性上面了。5個9意味著一年的時間裡，不管是你有意的、無意的、還是必須的，系統宕機不能超過5.39分鐘。實際上電信系統里投入了大量工程師去解決整個系統的魯棒性和性能可靠性設計。對比於電信網5個9的要求，互聯網應用一般是3個9到4個9之間，但這個0.01的差別很多時候是生和死的差別。電信網路服務屬於基礎公共服務要求5個9，是因為在任何災難發生的情況下，我們都要保證網路的可持續性，這是一個必需要實現的使命和要求，而在很多互聯網服務裡面可靠性並不需要提到這麼高。

對比一下人工智慧需要怎麼辦？下圖是我搜集的ImageNet分類的統計數據，從2010年到現在6年的時間裡，我們把準確率從71.8%提到了96%。但我相信，要從96%到99%可能需要更長的時間。這是只是很簡單的通用分類任務，那麼在實用的情況下我們又該怎麼解決？

剛才科大訊飛的汪總也提到了，現在實驗中比拼的準確率已經達到了96%到97%。但是，就在前幾天我們總裁講了他實際故事，他開車用語音撥打一個電話，叫了一個人的名字，結果半天沒有應，不知什麼情況拿起手機一看，結果就撞車了。

在產業化的智能服務中可靠性實際上是一個很重要的問題：一旦語音服務和識別精準度不能達到一個正常、自然可使用狀態的時候，很可能導致災難性後果。還有一個例子，當時我們在內部評測語音識別技術成熟度的時候，我們另一個總裁拿著手機跟我現場試了一下，用他的手機呼叫我的名字，當時是在一個比較安靜的場景，在會議室里，呼叫了三次，結果只有一次成功，這也就是說成功率只有大約33.3%。這樣程度的識別率是遠遠達不到我們應用系統實際需求的，而且這還不是複雜的應用場景，要是換做在公交站台、在比較嘈雜的市場裡面，要真正做到所有的語音服務都有可以接受的、自然的體驗，現在的技術能力仍舊是遠遠不夠的。所以，我們如果現在追求的僅僅是儘可能提升演算法本身準確度，這從學術和研究角度出發無可厚非，但我們更想聽到業界同仁是怎麼解決實際問題和任務。如果我們在一個確定的場景約束下能夠實現智能系統99.9%的可靠性，我認為這才是一個真正的人工智慧時代到來的標誌。

雖然諾亞方舟實驗室也是研究性質的組織，但更多會從產業角度來進行研究，我們希望考慮如何把人工智慧帶到產業實際的場景、解決實際的問題、具備實際應用需要的可靠性。

回顧一下，我們在研究過程中認為比較重要的3個問題需要解決：第一個如何真正實現因果性推演，而不僅僅是關聯分析的問題；第二個如何真正讓人和計算機能夠高效進行知識傳遞和互動傳遞；第三個如何在確定場景約束下保證真正的可靠性和可用性。

這就是我今天的分享，謝謝大家！

李立軍 | 寧波慈星股份有限公司執行董事、副總裁，寧波慈星機器人技術有限公司董事長不知不覺，我們的社會已經進入了人工智慧 的時代，無論是製造業還是服務業，都不可避免地開始被AI技術入侵和催化。本書是您快速了解、並縱覽AI技術和產業發展的絕佳途徑，全書深入淺出，大咖雲集，內容既專業，卻又充滿趣味，適合所有對人工智慧感興趣的讀者。

十大人工智慧研究院院長、AI 專家技 術 重 磅 解 密

谷歌AlphaGO戰勝李世石，標誌著機器智能向人類智能的領地又邁進了偉大的一步。而「互聯網 」向「智能 」時代的躍遷，也昭示新智能時代即將到來。2016年，恰逢人工智慧誕生60周年，《新智元：機器 人類=超智能時代》是人工智慧技術和產業狂飆突進的見證，為讀者打開人工智慧世界的一扇大門，不僅可以一窺百度大腦、訊飛超腦、中國大腦計劃究竟，更可以著名人工智慧研究院院長等頂級專家大咖的技術解密作為對智能產業未來趨勢的參照。近百位學界、商界、技術界、產業界的專家，從機器人、機器學習、智能汽車、智能醫療、認知科學、高性能計算和「AI 」投資等不同視角，對人工智慧和機器人產業進行評析。人類未來在AI時代將何去何從，超智能時代將引發社會更多思考。預售鏈接請掃描下方二維碼。
推薦閱讀：