符號AI：打開人工智慧思考的「黑匣子」丨VR觀察醬

來自專欄塞萊德虛擬世界16 人贊了文章

AlphaGo在2016年對陣李世石的第二局棋中，做出了很多劍走偏鋒的決定，讓專家們大跌眼鏡。但這些「昏招」卻讓AlphaGo身處劣勢的情況下獲得了高勝率，又一次戰勝了李世石。當然，只有在看完整場棋局回頭復盤的時候，我們也許才能了解AlphaGo的真實意圖。但是在下棋的過程中，所有人都對AlphaGo的行為摸不著頭腦。

隨著人工智慧迅速發展，計算過程日益複雜，我們對人工智慧的思維模式也越來越陌生。當我們對人工智慧的思考過程一無所知的時候，人類也就失去帶領人工智慧發展的能力了。那麼我們如何才能了解AlphaGo或者說人工智慧的決策（思考）過程？

數字人工智慧 VS 符號人工智慧

我們可以把人工智慧分成兩種：數字人工智慧（Numeric AI）和符號人工智慧（Symbolic AI）。

數字人工智慧的核心是機器學習，而機器學習的基礎就是數據——用演算法解析大量數據，不斷學習，找到輸入和輸出之間的數理邏輯關係，然後對世界發生的事情進行判斷和預測，使之擁有智能。當然，現在科學家們經常提到的「深度學習」便屬於機器學習的領域，AlphaGo就是深度學習的成果。系統通過大量的棋譜自己找出對應的邏輯和抽象概念，然後在與人類對弈的時候預測人類每一步棋子的擺放以及自己對應的策略。

但是，通過大量數據的訓練獲得完成目標的能力之後，人工智慧的運算過程對於人類來說還是一個「暗箱」。人類不能理解系統如何獲得這個決策，以及為什麼系統認為這個決策就是最好的路徑。是的，就連圍棋專家也不了解為什麼AlphaGo落子劍走偏鋒。

數字人工智慧還有一個缺點，就是過於依賴大量數據。如果沒有前期數據的收集，數字人工智慧便難以通過訓練來獲得能力。那對於探究完全未知、沒有大量數據積累的領域，我們似乎要嘗試另外一種方法。

符號人工智慧則通過教育來獲得技能，用邏輯推理來解決問題，而推理的過程都是公開透明的，人們是可以閱讀理解的。人工智慧所有學習到的知識都來自於人類的經驗和邏輯。這個過程並不需要大量數據。如何有效地把專業知識按照合理的邏輯編碼傳達給人工智慧，正是符號人工智慧遇到的最大瓶頸。

由於不完全依賴於大量數據，符號人工智慧的優點在於它能夠就某個單一的事件來訓練人工智慧，而且邏輯的推理能夠避免掉因數據的遺漏或者差錯所帶來的問題。更重要的是，符號人工智慧能夠提供一個透明、可理解的審計跟蹤（Audit Trail：系統活動的流水記錄）。人類可以一步一步理解人工智慧解決問題的方法，明白人工智慧如何獲得最後的結果。

人工智慧的發展趨勢

目前大部分的AI還是以數字人工智慧為主，以深度學習、神經網路等方式從大量數據中獲得訓練，但是它們難以清楚地解釋推理過程，也不明白答案是如何得到的，對於從沒見過的新問題，也許就束手無策了。

在今年的GVRC大會上，來自美國加州的AI初創企業Beyond Limits的高管介紹，目前主流的數字人工智慧存在著種種不足，未來的人工智慧應該是把符號和數字人工智慧結合起來，既可以基於大量數據找出內在規律，也需要學習人類的經驗、專業知識和邏輯推理能力，並把計算的過程和結果解釋出來，與人類建立高度的信任關係。即使數據缺失或者信息出現誤差，人工智慧也能順利解決問題。

負責人還介紹，Beyond Limits就是聚焦開發有認知推理能力的符號人工智慧，它可以在審計跟蹤中以人類能夠理解的方式呈現出系統推理的過程，審計跟蹤還記錄了AI解決問題時所出現的風險、機會以及存在的不確定性。而這些，正是高風險行業所需要的信息。

比如，在醫療方面，按照數字人工智慧，我們要收集人口數據、疾病預後數據等等，然後人工智慧用機器學習、深度學習等方法進行分析，找出人口信息、基因信息與疾病之間的關係。未來結合符號推理的人工智慧則會在數字人工智慧的基礎上更進一步，也就是說，更高級的人工智慧將會把數字人工智慧的輸出結果作為一個輸入項，把人類的專業知識和診療規則作為另外的輸入項，兩者結合再通過邏輯推理，輸出結果。由於誤診威脅到病人的生命健康，後果非常嚴重，所以要通過審計追蹤確定人工智慧的每一步推斷是合理的。最後，符號人工智慧得出結果直接和病人溝通，或是提供治療方案，或是進行治療結果的預測，也可以是某種治療方案的精準費用預估等等，大大提高了醫療效率。

隨著人工智慧在生活的應用越來越廣，人工智慧威脅論的聲音也層出不窮。正如Beyond Limits所說，符號人工智慧是未來發展的趨勢，如若能夠打開人工智慧的黑匣子，了解它的思考方式，人工智慧的發展將盡在人類的掌控之中。

Beyond Limits的演講很有啟發性，至少對塞萊德虛擬世界是這樣的。

我們為什麼要了解人工智慧的決策過程？

• 首先，觀察人工智慧的計算過程可以發現數據或邏輯的錯誤。在高風險行業裡面，錯誤的決策將引發嚴重的後果，過程需要滴水不漏，行業才能健康發展。人工智慧的計算過程非常複雜，如果能一步步追蹤人工智慧的計算過程，就能及早發現錯誤，避免損失。
• 其次，觀察人工智慧的決策過程是人類學習進步的方式。未來的人工智慧可以一邊利用數字人工智慧收集數據，一邊學習，從而識別問題，同時調用符號人工智慧已有的知識儲備和邏輯能力，分析新數據的應用場景，然後把分析結果增加到自己的知識儲備里。如果人工智慧可以讓我們觀察並理解其思考的每一步，我們就可以跟著它學習新的知識，還有新的思考角度，共同進步。
• 最後，我們還可以通過觀察人工智慧的決策過程來了解人工智慧的發展。現在科技界最熱門的概念非人工智慧莫屬，學界業界也都充斥著人工智慧威脅論。如果我們不了解人工智慧的思考過程和思考水平，那麼人類將難以真正控制人工智慧的發展。等到人工智慧超過人類並威脅到我們生存的時候，一切都來不及了。

我們之前在《這個魔法盒子，能讓我們看見未來人工智慧》中提出，虛擬現實能夠讓我們進入體驗人工智慧計算出來的場景，是一個可以幫我們了解和引領人工智慧發展的科技。現在，符號人工智慧看起來正好能連接到其它像虛擬現實那樣的科技，能讓我們更好了解、更全面地探索人工智慧，幫助我們確保它的發展對人類最為有利。

如果對虛擬現實和人工智慧感興趣，歡迎大家直接微信搜索sililovr關注公眾號，或者點擊下方鏈接查看原文，和我們一起討論科技發展的未來！