破除對人工智慧的常見誤解 | 袁嵐峰

解讀科學，洞察本質

戳穿忽悠，粉碎謠言

最常見的錯誤理解是以為AI已經在所有的智能領域擊敗了人類，因為圍棋是「人類智慧皇冠上的明珠」。錯了，圍棋只是「完全信息博弈」這最簡單的一類問題中的「明珠」。機器人統治人類只是個模糊而遙遠的威脅，被敵人的AI軍事力量突襲卻是個明確而直接的威脅。

近日，神秘棋手Master （大師）橫掃圍棋界，中、日、韓等國的頂尖棋手紛紛敗陣。其後，谷歌出面證實，Master就是升級了的AlphaGo 。人工智慧（AI）再次引發人類的驚嘆。驚嘆之餘，我們應當做的一項重要工作是，破除對AI 常見的幾種錯誤理解。

對人工智慧的四種錯誤理解

最常見的錯誤理解是以為AI 已經在所有的智能領域擊敗了人類，因為圍棋是「人類智慧皇冠上的明珠」。錯了，圍棋只是「完全信息博弈」這最簡單的一類問題中的「皇冠上的明珠」。整個人類智慧的「皇冠上的明珠」是什麼？當然是科學研究啊！如果問歷史上最聰明的人有哪些，最常被提出來的肯定是牛頓、愛因斯坦、阿基米德、高斯這些科學家，而不是黃龍士、吳清源、聶衛平等棋手。科研是高度開放式的問題，一眼看上去不知道答案到哪裡去尋找，甚至連有沒有答案都不知道，答案又必須經得起實驗或邏輯的檢驗。科研是需要最高創造性的人類活動，是人類區別於任何其他物種的本質。相比之下，下棋只是封閉問題，複雜程度相差不可以道里計。

由此引出第二種常見的錯誤理解，以為「天網」已經近在咫尺，機器人快統治人類了，甚至會毀滅世界。其實，對這種有自我意識的「強人工智慧」如何實現，我們還完全沒有頭緒。目前所有的人工智慧研究，處理的都是封閉問題。沿著這些技術路線走下去，能不能處理開放問題，尚在未定之天。在這種情況下，機器人統治人類還完全不是個現實的擔憂。當然這方面的哲學思考是需要的，多多益善，只是說不要什麼都不敢幹了，自己把自己嚇死。

事實上，對技術毀滅人類的擔心，這並不是第一次。核武器剛發明出來不久，科學家就對它的巨大破壞力極為憂心。在整個冷戰時期，核武器毀滅世界是最流行的話題，被比作懸在人類頭上的「達摩克利斯之劍」。蘇聯解體僅僅20 多年，我們這麼快就忘記了對核戰爭的恐懼，把和平、繁榮當成理所當然的，真是令人驚異的健忘。愛因斯坦、羅素、鮑林等人付出了極大的努力來發動和平運動，正是他們的努力扭轉了歷史的自然趨勢，避免了人類在核戰爭中毀滅的命運。就像馬克思對資本主義的批判改變了資本主義制度本身，避免或減緩了資本主義的滅亡，現在人們對強人工智慧的擔憂也有這樣的作用，雖然目前是杞人憂天，但未雨綢繆的意識是好的，將來也許真要靠它改變歷史的走向。

核戰爭

第三種常見的錯誤理解是走向一個相反的極端，完全抹殺人機大戰的科學意義，只把它看成谷歌操作股價的廣告。典型的說法類似這樣：「明眼人都能看出來其本質就是廣告和炒作，無非電腦善於高速計算、因此在簡單而重複的操作上有優勢而已。所謂演算法的改進也只是聚焦於如何提高計算或檢索效率。」這些觀點過於輕佻，嚴重低估了技術進步的作用。能拿出幾千個CPU的企業多得是。真正的瓶頸不是在計算能力上，而是在演算法架構上，Master 和AlphaGo 最大的進步是在這方面。如果通過擊敗人類棋手來炒作股價這麼容易，其他企業為什麼不做？無論你把這件事說得再容易，現在還是只有谷歌等鳳毛麟角的少數幾個企業做到了，別人做不到。人家做到了，就有權利獲得相應的榮譽和關注度，股價上漲也是理所當然的。我們現在不如人家，就要老實承認，以此為基礎才能發奮努力，儘快趕上。這一點在軍事領域尤其重要，避重就輕、粉飾太平是要付出血的代價的。

第四種常見的錯誤理解是對谷歌和美國的科技陷入迷信，轉頭對中國企業大加鄙夷，尤其是百度。典型的例子像這種段子：「請谷歌及時轉型，回到醫療廣告競價排名的正確道路上來。」這是一種很不具有建設性的態度。實際上，中國的科研機構和企業對人工智慧是相當重視的，也有很強的技術實力，如百度的AI 在「最強大腦」節目中「人臉識別」勝過人類。

此外，中國科學院計算技術研究所研發的全球首個能夠深度學習的神經網路處理器晶元「寒武紀」，通過突觸權重將存儲和處理一體化，突破了經典的計算機馮·諾伊曼結構。這是引領世界的智能晶元，哈佛、斯坦福、MIT 、哥倫比亞等國外高校都跟在後面做。「寒武紀」負責人之一陳天石解釋：「普通的處理器就好比瑞士軍刀，雖然通用，但不專業。如果廚師要想做出像樣的菜肴，就必須使用專業的菜刀，而專門的深度學習處理器就是這把更高效、更快捷的『菜刀』。」科大訊飛的認知智能「訊飛超腦」、百度的感知智能「百度大腦」都在快速發展。科大訊飛的目標是讓機器人參加高考，目前已經能考上三本，希望未來3-5 年後能上一本，5-10 年後能考上頂級高校，PK 掉99.9%以上的人類。

這裡有一個心態問題要思考。假如是百度做出一個圍棋軟體擊敗人類高手，中國普通人的反應會是怎樣？是像對谷歌這樣頂禮膜拜，還是嘲諷百度凈整些沒用的，浪費大筆資金作秀呢？恐怕後者不會少。這種逆向民族主義、反智主義的社會氛圍對科技創新是重大的阻礙，需要著力破除。我們的社會心態和輿論需要學會平常心，不再習慣性地追捧外國嘲笑本國，對投入大量資源追求突破性成果持鼓勵的態度。把自己認真地看作引領人類發展的先驅，從內心裡支持創新，寬容失敗，為創新本身而不是賺錢感到興奮，這是一個社會成熟的標誌。這種自我定位方面的差距，是目前中國和發達國家最大的差距。

軍事領域要高度重視人工智慧

以上分析表明，AI 目前處於「弱人工智慧」的階段，在這個階段AI 越發展給人類社會帶來的好處越多，我們應該大力歡迎。這是一副樂觀的圖景。但是有一個領域是例外，現在就應該亮起警報，這就是軍事領域。

人工智慧的一個特點是：一旦取得突破，就會爆炸式增長，不會停留在你覺得舒適、習慣的區間。昨天你還覺得它是小學生，明天它就超過了愛因斯坦。用現在流行的話說：「人工智慧就像一列火車，它臨近時你聽到了轟隆隆的聲音，你在不斷期待著它的到來。它終於到了，一閃而過，隨後便遠遠地把你拋在身後。」對軍事領域來說，這意味著稍差一點就有可能形成代差，陷入嚴重的被動。

習近平總書記在2014 年12 月3 日的《加快構建適應履行使命要求的裝備體系，為實現強軍夢提供強大物質技術支撐》中說：「確保不被敵實施技術突襲。」如果我們對AI的軍事應用不重視，走得不夠快，那麼這正是一個有可能被敵人技術突襲的領域。機器人統治人類只是個模糊而遙遠的威脅，被敵人的AI軍事力量突襲卻是個明確而直接的威脅，對此必須以最高的警覺和只爭朝夕的精神來對待。下面我們來討論幾種AI 在軍事領域可能的應用。

1.沙盤推演

用深度學習機制，用山川河流的沙盤代替圍棋棋盤，用軍隊資源代替圍棋棋子，可以製造人工智慧的軍事參謀。這個參謀學習得很快，可以通過自己和自己打仗積累戰爭經驗。

2.通訊保障

計算機網路本來就是一個軍事通訊研究項目。互聯網實際上是戰爭通訊保障技術的民用，通訊保障的一個重要的概念是消除關鍵單節點。互聯網解決的軍事通訊問題，就是通訊中樞被敵人打掉了怎麼辦？比如電話，只要把電話交換中樞炸掉，整個通訊系統就癱瘓了。而網路的一條通訊渠道斷了，信包可以走另一條路。互聯網的路由器是智能化的，一個網關送的信包沒有迴音，或報告不通，路由器就會把信包送往另一個次短路徑的網關。

3.軍事系統智能化

未來學家凱文·凱利（Kevin Kelly）的名著《失控》中提到，羅德尼·布魯克斯（RodneyBrooks）1989 年發表了一篇論文《快速、廉價、失控：一場太陽系的機器人入侵》，提議用低成本的火箭發射大量廉價的小機器人去探索外星球，讓它們自由行動，協同完成任務，而不是像以前普遍設想的那樣，發射一個巨大而精密的機器人。「快速、廉價、失控」是指導AI 發展的三個關鍵詞，這三個詞也可以用到軍事系統上。

《失控》

「失控」就是系統中的每個個體自主決策，沒有人規定干預，也沒有外部指令。美國伊拉克戰爭斬首行動能夠成功，是因為伊拉克軍事系統有一個指令中樞。但斬首行動在反恐戰爭中毫無用處，本·拉登的死對恐怖組織沒有多大影響，全球恐怖主義反而愈演愈烈。波士頓恐襲、巴黎恐襲、布魯塞爾恐襲，都或多或少有個體自主決策，接近獨狼行動。現在肆虐歐洲的恐怖運動，就是「阿拉伯之春」催生的「快速、廉價而失控」的恐怖系統，誰也關不上這個潘多拉盒子。

本·拉登

美國破壞伊朗核原料工廠離心機的震網病毒是廉價而失控的，快速與否倒不重要。廉價的病毒在工廠控制系統中繁殖，大多數時間都是「潛伏期」，隨機偶然對系統發出破壞性指令，然後又把這些指令記錄毀滅，返回「潛伏期」。這些病毒繁殖的群落是失控的，沒有人干預。

美國研發的潛水無人機，不失控，可以潛伏3 個月無聲無息，接到指令後飛出水面執行任務。可以設計廉價而失控的智能水雷，鎖定某航母特徵頻率，在其港口外放一群潛伏靜默，聽到特徵頻率接近才群起而攻之。這就像蜂群攻擊人，每隻蜜蜂都可以輕而易舉地被人拍死，但大群廉價的蜜蜂就完全可以蟄死人。末端敏感彈藥可以發展成快速、廉價而失控的蜂群系統，每個彈本身的智能不需要很高，三板斧就夠用：鎖定、規避同夥互撞、規避攔截。

如何打造這三板斧，是個有趣的問題。任何一個智能物種如果得不到合適的環境支持就難以生存，直奔目標的生態系統建設往往失敗，凱文·凱利給出了很多例子。因此，智能系統的生成最好是達爾文式的演化過程，而不是整體設計的創新研發過程。《失控》指出，一種智能系統建立的途徑，就是每次只解決一個智能功能，把一個智能功能完善了以後，再去增加第二個智能功能，第二個智能功能加入系統的時候，要保證不破壞第一個功能。用在上述的末敏彈問題上，可以是先研發末敏彈的鎖定功能，然後加入彈—彈通訊功能，規避自相碰撞，形成密集蜂群，最後再加入躲避攔截功能。根據這種思想還可以看出，低風險的整體設計研發，應該是整合已經成熟的眾多技術的結果。同時增加眾多創新功能，有可能使得功能之間難以適配。當然，這不妨礙各種創新的並行研發。

科技研發需要「富人思維」

無論是軍用還是民用，發展人工智慧的關鍵歸根結底就是一點，要捨得投入資源。追趕的難度跟原創有本質區別，用金錢來衡量，原創的性價比必然低於追趕。

我們要轉換思維方式，像富人一樣思考，而不是像窮人一樣思考，更多地要以花別人兩倍的錢辦別人1.5 倍的事自豪，而不是以花別人10% 的錢辦別人20% 的事自豪。要認識到，研發是回報最大的投資之一，投入越多其實是節約越多，這是富國的發達之本。中國的研發經費佔GDP 的比例應該翻一番，從目前的2% 出頭增加到韓國的4% 水平，這是實現中國夢的關鍵。

作者簡介：袁嵐峰，中國科學技術大學化學博士，中國科學技術大學合肥微尺度物質科學國家實驗室副研究員，科技與戰略風雲學會會長，微博@中科大胡不歸，知乎@袁嵐峰（https://www.zhihu.com/people/yuan-lan-feng-8）。本文2017年2月發表於《中國發展觀察》2017年第2-3期合刊。

責任編輯：郭尖尖

知乎專欄：

http://zhuanlan.zhihu.com/fengyun

一點資訊：

http://www.yidianzixun.com/home?page=channel&id=m107089

今日頭條：

http://toutiao.com/m6256575842