大腦理論與智能機器探索者:Palm創始人Jeff Hawkins

記者 | 盧鶇翔(ludx@csdn.net)

本文為《程序員》原創文章,未經允許不得轉載,本文由CSDN雜誌《程序員》授權轉載

「雖然沒人確切知道恐龍是怎麼滅絕的,與之相關的理論卻很多——關於大腦則完全相反。」作為工程師,Jeff Hawkins創立了兩家攜帶型計算機公司,Palm和Handspring,開發了風靡一時的PalmPilot和Treo智能電話。然而作為科學家,理解大腦運作方式、原理,並按同樣原理製造智能機器才是他一生的追求。日前,Jeff Hawkins接受了《程序員》採訪。

蜿蜒求索

1979年,從康奈爾大學工程學院畢業的Jeff Hawkins選擇在Intel開啟他的計算機行業生涯,然而三個月後,他就發現自己入錯了行——那年9月出版的《科學美國人》是大腦研究專刊,專題最後一篇文章中,Francis Crick(DNA結構發現人之一)寫道,「儘管人們積累了大量有關大腦研究的詳盡數據,但其工作原理仍是難解之謎。神經科學只是一堆沒有任何理論的數據,最明顯的是缺乏概念框架」。Crick甚至沒用「理論」這個詞,他說,我們根本不知道怎麼去想,因為連基本框架都沒有——Crick的話像號角,喚醒了Hawkins長久以來研究大腦,製造智能機器的夢想。

Hawkins那些認為「大腦無法理解自身」的說法除了似有禪意,實則毫無用處,「人們常懷有根深蒂固但錯誤的假設,正是這種偏見阻止我們探尋答案。翻開科學史,你就會發現,哥白尼的天體運行說,達爾文的進化論和魏格納的大陸漂移學說都跟大腦理論有諸多相似,都曾有許多無法解析的數據,而一旦擁有理論框架,一切就都變得有意義了。」

圖1 大多數科學理論與數據相互印證,而神經科學擁有海量數據卻無框架和理論可用

然而將這一計劃付諸實施尚需時日。在Intel展開研究自然是最便捷的渠道,Hawkins致信當時的公司主席Gordon Moore,建議成立研究小組,專攻大腦工作原理:「該工作可從一個人,即本人開始,隨後進一步拓展。本人有信心承擔該工作。相信有一天它會給我們帶來無限商機。」不過隨後的討論中,公司並未支持他的想法,因為沒人相信在可預見的未來能研究出大腦的工作原理。

此路不通,只得另闢蹊徑。他首先向當時的人工智慧研究「航母」MIT人工智慧研究院發出申請:

「我想設計和製作智能機器,但我的想法是先研究大腦怎麼運作。」

「你不需要這樣做,我們只需要為計算機編程。」

「不,應該先研究大腦。 」

「你錯了。」

「不,你們錯了。」

他們直截了當地告訴Hawkins,要認識智力和建造機器,沒必要研究真正的大腦,「他們認為研究大腦會限制思維,對大腦如何工作毫無興趣。採取『只求結果,不問手段』的方式開展研究,甚至有人還為自己跳開了生物學這一階段而沾沾自喜。」MIT拒絕了他的申請。

Hawkins無所適從,但仍一心渴望研究大腦,他參加了人體生理學函授課程——因為函授學校不會拒絕任何人。他努力學習,準備考試,幾年後被UC Berkeley接收為生物物理學研究生。欣喜若狂之餘,意味著原本打算買房生子的計劃擱淺,他需要甘心變成一個不能掙錢養家的人。

他原以為這次可以終於可以研究大腦理論了,但學校告訴他,他選擇的研究方向,得不到經費。Hawkins很沮喪,只能回到原點——他熟悉的計算機行業。「我計劃干4年,掙點錢,組織自己的家庭,那時自己可能會成熟點,神經系統科學可能也會成熟點。結果比4年長多了,已經大概16年,但我終於做到了。」Hawkins在這段時間創立了Palm Computing(也許值得一提的是,Palm商標目前歸中國公司TCL所有)和Handspring,推出了一系列風靡一時的掌上手寫電腦。

Palm使用的手寫識別系統Graffiti靈感來自Hawkins曾學習的一種與大腦有關的數學——1987年夏天,一家名為Nestor的公司展示了一種能識別手寫文字的神經網路,要價100萬美元,「他們在神經網路規則上大作文章,將它吹噓成一項重大突破,但我覺得手寫識別問題可以通過另一種更簡單、傳統的方法解決。兩天後,我設計出一種速度更快,體積更小,使用更靈活的手寫識別器。」

生物神經網路

終於「掙到點錢」的Hawkins將自己的研究方向全面轉向神經科學,2002年他建立了非盈利的科學研究機構Redwood Center for Theoretical Neuroscience,2005年建立了Numenta繼續他的研究。此前一年,他出版了《On Intelligence》,向大眾介紹大腦和智能理論。書中他提出了「記憶-預測」框架(Memory-prediction framework)——大腦的新皮質、海馬體和丘腦聯合匹配感官輸入,存儲記憶模式,並將這個過程如何用於預測。進而根據這一生物學框架發展出了HTM(Hierarchical Temporal Memory)機器學習模型。Hawkins將其稱為「生物神經網路」(Biological Neural Network),與之對應的,他將Deep Learning為代表的神經網路稱為「簡單神經網路」(Simple Neural Network)。

圖2 Graffiti手勢

「大腦以稀疏分布表示(sparse distributed representations,SDR)表徵信息,我相信未來所有智能機器都將基於SDR。而現有機器學習技術卻無法將SDR加入其中,因為SDR是構建其他一切的基礎。生物神經也遠比『簡單神經網路』複雜得多。而作為生物神經網路的一種,HTM已能從數據流中學習結構,做出預測和發現異常,還能從未標記的數據中連續學習。」Hawkins這樣解釋「生物神經網路」的獨特之處,他還覺得目前人工智慧對認知功能被分割了——分為語音,視覺,自然語言等領域,而人腦是具有綜合性的認知系統。目前的圖像識別需要上千萬張照片的收集歸類,才能讓機器「認出」貓,但人腦善於捕捉和認知流動的信息,也不需要大數據的支持。

表1 生物神經網路與其他技術區別

Hawkins認為,大多數神經網路和人工智慧都有個共同缺陷——只注重行為。研究者們都認為智能存在於行為中——執行一個輸入後,由另一個程序或神經網路產生行為。電腦程序和神經網路最重要的屬性,就是能否進行正確的、令人滿意的輸出,將智能等同於行為。

而Hawkins則說:「智能並不是動作,也不是某種聰明的行為。行為只是智能的一種表現,絕不是智能的主要特徵。『思考』就是有力的證明:當你躺在黑暗中思考時,你就是智能的。如果忽略了頭腦中的活動而只關心行為,將對理解智能和發明智能機器造成障礙。」

他認為「只求結果,不問手段」的功能主義解釋會將人工智慧研究者引入歧途,雖然人工智慧的倡導者經常用會舉出工程學上的解決方法與自然之道截然不同的例子——飛行器並非模仿鳥類扇動翅膀,輪子比獵豹更快。但他認為智能是大腦內部的特徵,因此必須通過研究大腦內部來探究,「神經迴路中一定潛藏著巨大的能量等待我們去發覺,而這種能量將超過任何現金的計算機」。

《程序員》:你目前專註哪些研究,終極目標是什麼?

Hawkins:我的終極興趣是儘可能了解宇宙,理解大腦原理是其中的一部分。我相信,建立與大腦原理相同的智能機器將幫助我們發現宇宙的奧秘。

目前我完全專註於大腦新皮層的逆向工程。在Numenta,我們試圖理解大腦是如何對周圍世界建模的,即人類智慧的本質是什麼。了解大腦如何工作是最有趣的科學問題之一。了解大腦新皮層的原理也將幫助我們創造智能機器,這將對全人類大有裨益。我們從兩方面來解決大腦新皮層逆向工程的問題。一方面從理論出發,我們推斷出大腦必須執行的一個或多個要求。另一方面來自經驗,我們學習有關腦組織的解剖學和生理學全部知識。然後,我們試圖來解決這兩組約束。解決方案必須足夠詳細,這樣才能用軟體構造,並且進行生物測試。舉個例子,我們知道大腦可以學習模式的序列,基於序列預測下一次事件。於是,我們仔細分析神經元的解剖結構和連接模式,探究它們是如何從序列中學習並作出預測的。我們用理論和實驗預測證實了自己的理論。實際的過程比我說的複雜多了,但是基本原理就是這樣。

《程序員》:Richard Hamming曾說:「若你對所做之事了如指掌,就不該做科學;而若相反,則不該做工程。」 你將自己視為工程師還是科學家?對於快速進入不同領域,你有哪些訣竅?

Hawkins:我職業生涯的早期階段,主要身份是工程師,現在我主要的身份是科學家。但是每個方向的技能都有幫助。比如,在Numenta,我們需要測試自己的理論來探究不同的腦迴路的功能。儘管可用軟體實現,但是快速實現模擬並驗證預期效果需要大量的工程技術支持。

圖3 Numenta目前擁有15位員工,大多數人有神經科學和機器學習背景

當需要快速切入一個新領域時,我會一邊精讀相關資料,一邊請教領域內的專家。不要害怕問問題,不管問題多麼基礎,要刨根問底。我非常享受這個過程。

《程序員》:那麼作為科學家,如何在科研和商業間找到平衡?

Hawkins:的確,很難同時兼顧科研目標和商業發展。我們的當務之急是完成科研使命,目前在腦科學領域取得了很好的進展,不想分散注意力影響科研。從商業的角度來看,我們已將知識產權授權給了其他人。今後,也許會往商業化方向投入更多資源,但科研優先順序仍舊是第一位。

《程序員》:哪些書對你影響最大,為什麼?

Hawkins:我喜歡閱讀那些克服障礙去完成偉大事情的故事。最近讀的幾本這類書包括David McCullough的《萊特兄弟》,Jennet Conant寫的《燕尾服的公園:華爾街的大亨和改變二戰的秘密科學宮》,Ron Chernow的《亞歷山大·漢密爾頓》。任何努力的成功都在於克服永無止境的一系列障礙。我覺得學習別人面對挑戰和堅持的方式頗受鼓舞。

《程序員》:Roy Amara說,「我們傾向於高估科技的短期影響力,而又低估其長期影響力。」在你看來,對於AI的前景,人們是否過於樂觀?

Hawkins:我很喜歡這句話,無論是在我從事移動計算,還是做AI研究,一直銘記於心。我擔心人們誇大了人工智慧的發展速度。縱使現在的AI技術看上去很強大,但距離真正創建智能機器還有許多事情要做。在智能機器真正騰飛前,可能還會經歷一個失望的低谷。

《程序員》:《On Intelligence》已出版十年,你有哪些新發現,如果有機會重寫,會有何不同?

Hawkins:在智能領域,有些事情我想去改變,但更多的是想添磚加瓦。自從這本書問世以來,我們理解了概念背後的神經機制,更重要的是,我們發現了幾個重要的新原理。

我正在考慮寫一本關於大腦和人工智慧的新書。我想談談很多關於智能機器的誤解。另外,我還想說明為什麼真正的智能機器是人類長期生存所必需的。

《程序員》:當今的硬體架構是否是實現智能機器的最好選擇?還存在哪些限制?

Hawkins:目前的計算機體系結構和半導體器件不是真正智能機的理想選擇。智能機器需要大量的分散式內存,但幸運的是智能系統能夠容忍許多故障。而學習主要是,通過重新連線(re-wiring)來實現的。實現這些特性的最佳方法仍在爭論中。

《程序員》:在你看來,對人腦機制理解的缺乏是我們開發智能機器的最大限制之一,在這個存在許多假設和未知的前沿領域進行研究,怎樣判斷自己研究的方向和做出的各種選擇是否正確?

Hawkins:面臨的挑戰主要來自確定大腦的哪部分是信息處理必不可少的,哪部分又是生物生存依賴的。確定這一點的方法是首先發展一個全面的腦功能理論。這是一個反覆更迭的過程,但在缺乏理論的情況下不可能完成。

《程序員》:HTM完備了嗎,難點在哪兒?

Hawkins:HTM離完成還有很遠!我們知道還有一系列的內容必須加入HTM理論,正在逐個解決這些問題。現在正在研究的大問題是如何使用行為來學習。移動身體、手和眼睛是學習的最重要機制。很少有人工智慧系統嘗試這種方法。去年,在這方面我們有一個重大發現,現在正在測試階段。

《程序員》:除了生物神經網路,要製造智能系統,還需要哪些技術?

Hawkins:每個真正的智能系統需要某種形式的體現。這包括一組感測器和移動這些感測器的手段。感測器可以與我們在生物學中看到的任何東西都不同,這個化身可以是虛擬的,比如在萬維網上「移動」。感測器的形式在基礎理論之外可以有千變萬化的形式。

《程序員》:生物神經網路與ANNs/Deep Learning最大的不同是什麼?

Hawkins:真正的智能系統通過運動和操作來建立世界的模型。大腦新皮層隨著感官數據的變化建立一個真實環境的模型。這就解釋了為什麼大腦學習比ANNs學會更豐富的模型,為什麼大腦學習新事物的速度要快得多。總的來說,我相信隨著時間的推移AI研究和大腦理論會變得更緊密。

《程序員》:你肯定也聽到過同行對基於人腦理論研究AI方式的質疑,例如Yann LeCun曾說這些理論實例化的難度被嚴重低估,缺乏數學支撐,也缺少像MNIST或ImageNet這樣的客觀檢驗。

Hawkins:我們不該忘記,AI已經包含了大腦的原理,如分散式編碼與Hebbian學習,這些想法已經存在了很長時間。近年來,我的團隊在大腦理論方面取得了重大進展。我們的壓力在於要證明它們是相關的,這是一項有挑戰的任務。

《程序員》:有些人擔憂智能機器在未來會對人類構成威脅,你怎麼看?

Hawkins:我不同意這些擔憂,這些想法基於三個錯覺。

  • 錯覺1:智能機器將掌握自我複製能力。末日場景常描繪機器智能擁有了人類無法控制的自我複製能力。但自我複製和創造智能完全是兩碼事。將智能賦予那些已經具備自我複製能力的東西將造成糟糕的後果,但是智能本身不會傾向於去自我複製,除 非你相信第二個錯覺。

  • 錯覺2:智能機器將擁有人的慾望。大腦皮質是一個學習系統,但它不具有情緒。大腦的其他部分,如脊髓、腦幹和基底神經節這些古老的大腦構造才是負責諸如比飢餓、憤怒、性慾和貪婪這些本能和情緒的。或許有人會試圖建造具有慾望和情緒的機器,但這和建造智能機器是兩回事。

  • 錯覺3:機器將導致智能爆炸。智能是學習的產品,對人類來說,這是個經年累月的緩慢過程。智能機器的區別僅是,它們可以通過複製和傳輸來獲得新知識,減少學習時間。但當它去探索新原理,學習新技能時會遇到與我們一樣的困難。對大多數問題,同樣需要設計實驗、收集數據、預測結果,修正並不斷重複這些過程。如果想去探索宇宙,依然需要靠望遠鏡和星際探測器去太空採集數據。如果它想搞清楚氣候變化,依然需要去南極取個冰核樣本或者去海里部署測量儀器。

  • 我們對威脅的反應該基於這種威脅離我們有多遠。比如說地球將在1.5億年後因為太陽變熱而無法居住。幾乎沒人因為這個問題感到恐懼——實在太遙遠。機器智能的進化過程中存在某些危險趨勢,但這些危險有近有遠。目前尚未發現已知的威脅。而對於遙遠的未來,我們也能容易地改變那些可能會出現的問題。

    在線直播】人工智慧核心技術解析與應用實戰峰會由CSDN學院傾力打造,本期直播(5月13日)邀請來自阿里巴巴、思必馳、第四範式、一點資訊、58集團、PercepIn等在AI領域有著領先技術研究的一批專家,他們將針AI領域熱點話題進行分享。限時特惠199元,掃描下方二維碼報名參加

    維權聲明:凡是機器人2025發布的文章都會找原文作者授權並給予白名單,若沒有授權到的文章,如涉及版權等問題,請及時聯繫運營者(微信:xiaoejiqiren)我們將第一時間處理,謝謝!

    大家好,我是機器人2025一個專註於全球智能機器人產業的開放合作平台,為打造機器人產業界第一高端人脈與價值分享平台而努力。


    推薦閱讀:

    其實未來酒店早就開始營業了 服務員幾乎都是機器人
    胡夫金字塔發現「原始機器」證據:為防禦盜墓者侵擾墓室
    緊急用錢?該如何應對?
    小米再出懶人神器!智能拖地機器人,讓你拖地乾淨100倍!
    起機器邊的方法( 借用moyi135的方法

    TAG:大腦 | 創始人 | 理論 | 探索 | Palm | 智能機器 | 機器 |