[001] 我們應該為人工智慧的發展而擔憂嗎?

05-16

引子：

前不久，谷歌公司設計研發的AlphaGo系統在圍棋比賽中，首戰勝了韓國專業九段棋手李世石。所以我們就選用對弈圖片作為今天的封面圖片吧。我們要感謝谷歌科學家們的辛勤努力，是他們將人工智慧在圍棋對弈方面推進了極大的一步。這也鼓勵了我們這些後輩，以更大的熱情投身到智能研究的領域中來。好，拍馬屁到此結束。讓我們的眼睛繼續聚焦未來。

最近在刷Arvix上的論文，看到了一篇名為《The Singularity May Never Be Near》的論文，其核心是通過種種舉例來說明「奇點」可能永遠不會來到（不明白「奇點」意思的朋友，可以自行Google下《奇點臨近》，了解相關內容）。我們暫且不論論文中的預測是否準確，單就其中技術層面的觀點而言，還是和我的理解十分類似的。借著讀論文的契機，我們就來說說今天的話題：我們應該為人工智慧的發展而擔憂嗎？

人們對人工智慧的主要擔憂：

隨著智能領域近幾年的迅猛發展，對人工智慧持悲觀或者樂觀態度的人都大有人在。樂觀的人正在憧憬著人工智慧帶給人類生活的巨大變革，更有甚者將數百萬甚至十億美元用於投資人工智慧領域。悲觀者則更多的抱著一種焦躁不安的情緒，認為人工智慧是許多終結的開始。人們會因此失去工作，過度依賴人工智慧將使我們的生活退化。更有甚者覺得人工智慧將與人類對峙而存，《終結者》中的種種橋段將在現實中上演。簡言之就是，人工智慧將在未來對人類經濟結構和社會生活產生巨大的、不可逆的負面影響，甚至最終毀滅或者囚禁創造它們的人類。作為一個技術從業者，Ramon對人工智慧的未來還是充滿信心的。至於人們擔憂的那些問題，我覺得可以從三個方面進行解釋。

第一點，技術人員的類比描述造成了人們對人工智慧的曲解。就拿當下火熱的深度學習來說吧，技術人員為了讓人們快速高效地理解他們研究的內容與設計的模型，經常拿人腦來做一些比喻。這使得很多人認為深度學習最終的結果是創造出了有類腦功能的機器。但是從本質上來看，兩者相去甚遠，所能實現的功能也是有巨大差異的。其實，在科學研究的過程中，科學家借用自然界的事物去設計模型是很普遍的現象。我記得我剛開始接觸機器學習的時候，研究的是稀疏編碼問題。稀疏編碼的提出最早也是參考了大腦的特性，即接收信號時，只有部分神經元有比較強烈的響應。但是並不能說明稀疏編碼就是類腦模型吧，因為我們僅僅抓住了大腦的這一個特性而已，對其實際複雜的工作原理，我們還知之甚少。更何況「稀疏」的特性是在自然界普遍存在的，我們僅僅是用了一種數學工具對其進行了刻畫，並且在某些問題上得到了還不錯的效果，僅此而已。

第二點，金融資本的湧入營造了一種時間上的壓迫感。只要你的手機里還有那麼幾個有關創業或者投資的公眾號，你就會發現近幾年來，針對互聯網的投資逐漸趨向於穩定與理性。而所謂的」熱錢」則瘋狂地砸向了智能領域。這就致使人們有一種人工智慧已經成為成熟技術的錯覺，偏執地認為人工智慧已經徹底走出了實驗室。實際上，現階段機器實現的「智能」是極其有限的（具體請查看RamonsVoice中的[007]號文章）。其中絕大多數任務的成功都是通過挖掘海量數據中的有效信息而達成的。因此可以明確的是，即使機器戰勝了人類圍棋高手，也並不能說明機器具有真正的智慧。我們最多可以認為是「優秀的模型」加上「大數據」，一同戰勝了人類專家。因此，相比於「投資人把錢投給了人工智慧」，我更願意說，現在的投資人是把資金投給了能夠有效承載和運用「大數據」的學習系統。

如果說前兩點來自技術人員與投資人對人工智慧的鼓吹，那麼第三點，則是來自人類自身的心理因素。首先，人類自身始終習慣於生活在所謂的舒適圈內，渴求穩定與安逸的生活。其次，很多人還是存有人類中心主義思想的，認為我們是這個星球上不可挑戰與逾越的物種。而人工智慧的出現，似乎會從這兩點同時給予大部分人「致命一擊」。就如同今天AlphaGo與李世石對戰的過程中，主持人提出的問題：在機器學習能力比人類強的前提下，很有可能人類的某項工作技能很快就被徹底機械化了，那時候如果人類不能迅速學習新技能的話，豈不是要面臨嚴重的失業問題？過於高估自身的重要性，不願走出安逸圈，不願去學習、接受、嘗試那些機器不能有效完成的任務，將切切實實的成為我們在未來的一大困擾。到時候，人們可能抱怨的就不是」我有拖延症「，而是抱怨自己有」學習困難症、改變困難症「。

真的沒有必要過分擔憂：

上面我們簡要分析了人們對人工智慧擔憂的主要原因，概括來講就是：誇張的宣傳與脆弱的心理，一同造就了人類對智能系統的負面看法。接下來，我們先客觀地，再腦洞大開地分析一下為什麼沒有必要過分的為人工智慧的到來而擔憂。

觀點一：從現有技術來看，人工智慧還很不成熟 。本人並不否認現有的技術，尤其是以深度網路為代表的機器學習技術對人工智慧產生的推動。但是如果我們把這些技術與智慧相等價，那就大錯特錯了。為什麼說現有的人工智慧還很不成熟，是因為它們處理感知任務的時候有條不紊，但是處理認知任務的時候卻捉襟見肘；它們完成經驗為主導的問題時遊刃有餘，但是完成創造為主導的問題時則步履維艱。這裡主要的原因是現在以深度學習為主導的智能模型很多是「數據飢餓」模型。唯有通過大量的訓練樣本才可以達到有效的訓練結果。就拿這場世紀人機圍棋對弈舉例，專家初步估算，在5個月的訓練時間內，Google的團隊至少向他們的計算機輸入了數以千萬計的對戰場次進行訓練。試想，如果考試之前就背會了所有可能的試題，考出一個好的成績會很難嗎？所以說大數據為現階段的人工智慧帶來了福音。於是機器可以識別語音中的內容、可以識別圖像中的物體類別（這都屬於感知的層面）、可以贏得圍棋比賽（這屬於經驗為主導的問題）。但是這種智能與人類的智能依舊相去甚遠。有效推理機制的欠缺，使得機器幾乎不能理解「可以用來坐」是一種怎樣的概念（這屬於認知的層面），更難以創造出一種新的棋類遊戲、發明一種類似微積分的數學工具（這屬於創造為主導的問題）。

觀點二：從技術發展的角度來看，人工智慧的發展很有可能放緩。近十年來，我們可以將很多黑科技（自動駕駛汽車、無人機、人臉識別系統、語音聊天系統等等）的湧現歸功於深度學習技術的長足發展。但是下一個技術的爆炸點在哪裡呢，我們不得而知。很有可能我們在對智能系統不斷提出新要求的時候，智能系統的發展卻在悄然放緩。這就如同相對論出現後，物理學逐漸進入了平穩發展期；基因理論出現後，生物學進入了平穩發展期。作為技術人員，我們期待著人工智慧的跨越式發展，但很有可能出現在我們面前的是應用上的春天，理論上的寒冬，想實現下一個跨越，需要很長一段時間的積累。這裡，我們重點從四個方面來分析一下。（1）智能問題越來越具有挑戰性。一方面，正如我前面所說的，認知問題很有可能成為智能發展的攔路虎。我們可以叫機器去學習什麼是貓，什麼是狗，但是我們很難讓它們理解什麼是「可以用來寫字」。這種功能性地認知，一定程度上才是智能的體現。另一方面，對於很多人類本身都棘手應對的問題，想讓機器智能有效學習其中的規律，更是難上加難，比如對混沌系統的學習等等。（2）數據的標註與結構化問題。面對更加複雜、更加具有挑戰性的工作，用於訓練智能系統的數據量也是數以千萬倍的增長。但是現有的很多系統是有監督的學習方式，這就要求數據是有標註的，同時複雜問題的數據應該是結構化的（試想讓人類在一堆無序的數字中尋找規律，也幾乎是不可能的）。這就要求我們的數據採集更加標準化，數據標註也更加高效。但是很多時候，這兩點在現實中是很難實現的。（3）複雜智能問題，往往需要精密模型。當我們需要處理更為複雜的問題時，模型的設計就需要更為精密。但是越是精密的模型，其需要被「打磨」的時間就越長。因為精密代表著容易出錯，代表著不可控的因素增多，代表著學習複雜度的提升。除非有新的數學體系出現，再次顛覆我們對整個世界的認識。（4）可用計算資源的增長正在放緩。已經有研究結果證明，摩爾定律即將失效，這意味著很長一段時間，計算資源的增長將受到限制。很有可能5年後，我們的計算機的處理能力並沒有太大提升。對於下一階段的智能問題處理，人們很大程度上只能期待量子計算時代的到來。但是從量子計算機可以實用，到量子演算法趨向成熟，再到量子智能演算法的繁盛，又需要多少年，並沒有人可以給出一個預測，哪怕是一個大膽的預測。

觀點三：從技術的整體面來看，人工智慧很有可能激發人類新的進化。最後一個讓我認為沒有必要對人工智慧過於擔憂的理由，來自於對人類技術整體上的樂觀態度，同時也參雜一些腦洞大開的個人想法。這一觀點也是用以針對上文中說的人類擔憂產生的第三個原因（自身心理的困擾）。從技術發展的整體面上來看，很多技術進步是相互促進的，跨界混搭往往可以產生新的技術革新。而這其中，智能計算機、納米材料、基因工程又被認為是最後可能碰撞出火花的三個領域。假想有一天量子計算大爆發，人工智慧實現質的突破。但是也很有可能這種新的突破會引發人類新一輪的進化。在計算機技術長足發展的同時，我們不能忽視生物科技的進步。既然量子技術可以用於人工智慧，為什麼不能用於人腦拓展晶元的研發。很有可能到時候的生物技術與材料科學是允許我們的大腦有外部掛載設備的。到時，我們很多的知識儲備都可以直接下載到晶元中。而這時候，人類的創造力也有可能被激發到極致。在與超級人工智慧的較量中，勝利的天平很有可能依然傾向於人類這一邊。

結束語:

人工智慧的發展必將給人類社會帶來深遠的影響。我們需要抱著一個開放包容的態度，去接納、去合理利用這項人類自身創造的技術。未來並不可怕，缺少對未來的積極思考才是真正可怕的東西。