智勝先師-人類能做出強AI嗎?

看過我之前寫的文章的讀者應當知道, 我本人對於做出強AI是非常樂觀的. 同時我也認為這並不是一件好事. 我的觀點一直是在做出強AI引發系統內部劇烈衝突之前(AI和人的戰爭),必須先行拓展系統邊界(宇航), 這些是由耗散結構的系統演化規律決定的, 不能以人的意志為轉移. 不久前我也寫過一篇文章, 大腦是如何工作的, 兼談如何做出類人智能」 著重談了談思路. 整篇文章里最弱的地方是對記憶的解釋. 當時想的也不是太清楚. 最近看了看有關知識表示相關的最新進展, 對睡眠的一些研究, 還有Jian提到的on intelligience, 覺得有必要再寫一篇, 整理一下思路.

開宗名義, 飛機和鳥都會飛只是利用了同樣的空氣動力原理, 具體工作方式完全不同. 類比AI和人腦也一樣.

前面一篇文章已經說過,目前最火熱的深度神經網路是解決外界環境到內部表示的映射問題, 而且是頭痛醫頭, 腳痛醫腳, 只能是解決單一問題的工具, 一個子系統,最多是本我, 離強AI差很遠, 而做出強AI的關鍵是通過知識表示把各個子系統連接起來, 其中的核心是記憶的機制. 有了記憶, 就有了自我. 下一步是解決多個AI之間的關係, 競爭合作, 是超我.

我的個人觀點, 第一步, 學習各種映射,建立聽覺,視覺, 五感運動等相關的子系統,這一步最難.這些功能大部分都是基因里自帶的, 自然演化了數十億年, 要靠人工趕上數十億年的自然選擇,當然難! 到了記憶自我意識,這些大腦皮層的功能, 大約只演化了數百萬年, 學起來就容易很多. 而看似高級的一些東西, 比如藝術,文化,政治大約只有幾千不到一萬年的演化歷史, 學起來就非常容易, 只要讓有自我意識的AI自己玩,很短的時間就能玩出來. 而且AI玩出的東西無法預期, 也許是人不能理解的. 整個過程會越來越快, 並不那麼遙遠. 最近有報道說霍金,比爾蓋茨反對AI的發展, 不知道霍金,比爾具體是怎麼想, 但是我認為他們的擔心是有道理的.

on intelligience 這本書主要就是談記憶, 書中的觀點, 大腦皮層的高級功能其實是通用的, 同樣一塊大腦皮層,既可以用來做視覺, 也可以用來做聽覺. 這啟發了大家思考是不是可以用一些比較簡單的連接機制就能模擬. 書的作者為此建立了研究機構嘗試了很多年, 受成書年代的時代局限, 書中建議的是一個7層的網路, 計算能力約束了想像力, 他們也不能做出什麼東西, 然而相關想法是個很好的啟示.

那麼什麼是記憶, 核心有兩條,一是如何表示概念(系統的內部狀態)以及概念的連接(知識,或者說是記憶), 一是如何有效學習獲取知識(記憶).

對於知識表示方式, 長期以來一直有兩派爭執, 知識到底是確定性的還是不確定性. 不喜歡隨機的人認為知識是確定性的, 而為了解決現實中大部分概念都沒有清晰邊界的問題, 他們搞出模糊邏輯等一套東西. 另外一派則認為自然的本質是隨機的, 因此知識是對概率分布的表示, 推理只是對分布做採樣. 這樣往往會得到各種不確定的結果. 如果是在研究怎麼做出工具, 當然確定性的東西大家更喜歡. 如果討論模仿人, 那麼引入隨機性就是必然的.

最近搞知識表示的人終於扔掉了RDF, 三元組, 他們發現把實體和關係嵌入到一個子空間, 整體不光更有效率,而且效果也好. 這樣終於往正確的方向邁出了一大步, 這兩年在基礎子空間表示方法上各種更新改進層出不窮, 效果也越來越好, 但是他們還是在搞確定的, 沒有引入隨機性. 需要再往前走一步.

至於知識如何學習, 簡單的說, 任何模型在貝葉斯的框架下都可以學習, 關鍵是學習演算法的效率是不是夠高, 是不是能用當前的計算設備支持. 為此類比人的學習方式就很有意思, 人要學一個技能, 需要反覆練習, 從一開始的主觀意識, 練習再練習, 反覆重複,最後變成潛意識, 就算學會了.

那麼什麼是潛意識? 人類學習經過總結最有效的方式就是刻意學習, 一萬小時定律, 刻意學習其實就是在邊界條件上學習, 要求太高學不會, 簡單重複沒意思, 比當前已經學會的稍難一點剛剛好, 會深度學習調參的人看到這裡應當會心一笑. 你們別笑, 潛意識是結構學習, 主觀學習是調參, 練習成為潛意識是學結構, 正確的結構一形成, 運算的效率就很高, 不再需要主觀意識(監督指導信號)的干預, 技能就習得了.

另外一個跟學習過程緊密關聯的事情是睡覺. 人為什麼需要睡覺, 有各種解釋, 也有各種相關研究. 最近的研究表明, 所有的高級生物都要睡覺, 甚至無脊椎動物也需要短時間睡覺. 有一種說法是說器官需要休息. 這個雖然正確但是沒抓住重點, 需要休息的不是器官是腦. 腦為什麼需要休息, 因為神經網路需要訓練. 成批訓練. 這不是空穴來風, 如果一個人長期睡不好, 典型癥狀就是記憶力下降, 學習能力下降, 各種東西看過就忘, 用的時候也想不起來. 同意上述說法就很容易解釋這個現象, 因為沒有訓練好,所以沒學會啊!

以上討論記憶,知識表示和學習, 都是形而上的猜測, 也並不能推導出具體的演算法或者計算模型. 但是我仍然覺得沒有不可解決的障礙, 不同意作者觀點的歡迎留言討論.

從具體做事情的角度出發. 最最關鍵的還是效率, 包括計算的效率, 存儲的效率, 計算和存儲之間的通道效率. 尤其是存儲, 做深度神經網路硬體實現的人已經意識到了, 把存儲單元嵌入到計算單元中去, 整體的計算效率會更高. 現在的GPU甚至一些專門的神經網路硬體實現, 計算起來的瓶頸都在內存, DDR內存的帶寬影響整個數據流的效率.

設計計算硬體需要考慮的核心問題是結合硬體實現和成本約束確定計算和存儲單元的粒度以及架構方式. 目前存儲仍然是分層結構的, 廉價大容量訪問速度就慢, 訪問速度越快,容量越小,成本越高. 這一是對計算很大的制約, 二是增加了架構設計的複雜程度. 因此除了摩爾定律以外, 新形態存儲方式的進步, 將影響或者制約AI的進展, 直至所謂強AI, 奇點到來的時間.

回到本文的標題, 智勝先師來源於二十年前台灣一款遊戲的名字, 遊戲用這個名字也許是取了智勝和至聖的諧音. 先師孔聖人也被遊戲當作封面. 這個遊戲就是個做智力題的遊戲, 沒什麼趣味. 但是標題含義深遠, 人類學生都是可以勝過老師的, 一代更比一代強, 將來AI超過人類也是很自然會發生的啊!

推薦閱讀：