標籤:

一個專門用來模仿飛蛾識別味道的神經網路,說明了為什麼飛蛾的學習速度遠超機器

作為現代機器學習基石的深度神經網路,雖然模仿的是生物神經網路,但其實這兩者之間有著極大的區別。拋開僅有的一些相似處,有些重要的機器學習機制沒有任何自然界的版本,而這兩者學習過程之間也有著大量的不同。

這些區別很有可能解釋了為什麼機器學習系統在某些領域中的表現遠遜於自然系統。就拿昆蟲來說,昆蟲僅需接觸幾次新的氣味就能學會如何識別這些新氣味。而機器則需要海量的數據集才能學會。因此,計算機科學家希望通過加深對自然學習方式的了解來減少這兩者之間的距離。

為了進一步找出自然與機器學習之間的差距,華盛頓大學研究科學家Charles Delahunt與他的團隊創造出了一款模仿煙草天蛾(學名:Manduca sexta)嗅覺學習系統的結構與行為的人工神經網路。他們表示,他們的系統可以對自然神經網路的學習方式提供一些重要的見解,為機器學習帶來突破。

與其他動物相比,飛蛾的嗅覺系統比較簡單,並已被神經科學家們很好地繪製出來。它是由5個獨特的網路組成,由每個網路向下一個網路一層一層的傳輸信息。

飛蛾嗅覺系統的首層網路,是一個由3萬多個用於檢測氣味的化學受體所組成的系統。它會把一套嘈雜的數據傳輸到下一層:天線葉(antenna lobe)。天線葉含有大約60個叫Glomeruli的單元,每一個單元都會專註於一種氣味。

天線葉會把分析過一邊的氣味數據傳輸給含有4000個kenyon細胞的蘑菇體(Mushroom Body),把它編成記憶。

作為記憶,這些關於氣味的信息最終會被一層僅有兩位數的外在神經元讀取。它們將把來自蘑菇體的信號轉化為行為,比如「向上飛」。

這個系統在多個方面與機器學習網路完全不同。就拿天線葉來說,它會把信息編碼到低維參數空間中,把信息傳輸給蘑菇體;但蘑菇體卻會把信息編碼到高維參數空間中。相比之下,人工神經網路每層的維度都十分相似。

此外,一旦飛蛾成功的識別一種氣味,這將出發一個獎勵機制,導致神經元向天線葉與蘑菇體噴射一種叫「章魚胺」(octopamine)的化學神經遞質。

這種獎勵機制在學習過程中起到了至關重要的作用。在飛蛾腦中,章魚胺可以幫助加強產生成功的神經線路。這也是赫布學習(Hebbian learning)中最重要的理論之一,即「一起激發的神經元也會連在一起」(Cells that fire together, wire together)。確實,神經科學家早就知道去掉章魚胺的飛蛾是無法學習的。我們只是不知道章魚胺的具體工作方式。

而機器的學習方式則十分不同。它依賴的是一種叫「反向傳播」(backpropagation)的過程,通過調整每個神經元之間的連接來提高結果。但是在這個過程中,信息是在神經網路中進行反向流動的,而它在自然中也沒有任何相似的存在。

為了更好地了解飛蛾學習的方式,Delahunt的團隊創造出了一款模仿自然神經網路的工作方式的人工神經網路。「我們創造出來一款端到端的計算模型來模仿煙草天蛾的嗅覺系統,包括天線葉與蘑菇體在章魚胺刺激之下的互動行為」,他們說道。

這款模型的設計理念就是在每一層百分百重現自然系統的一切行為。比如由氣味受體所產生的嘈雜信號,以及數據從天線葉傳輸到蘑菇體時所產生的維度變化。它甚至還包含了一個模仿章魚胺作用的機制。

最終的結果十分有意思,這款模型顯示,氣味受體所產生的嘈雜信號會受到天線葉的前置放大。但是,這些信號在傳輸到蘑菇體時所經歷的維度變化可以有效的排除一切雜訊。因此,這些乾淨的信號可以讓該系統輸出「向上飛」這種明確的指令。

而章魚胺所起到的作用也更明確了。這款模仿系統顯示,在沒有章魚胺的情況下其實也可以實現學習,但由於它的速度極慢,相當於不存在。這意味著章魚胺是一種強效學習加速劑。

但是章魚胺具體是如何實現加速功能的呢?Delahunt與團隊認為「這可能是一種讓飛蛾繞開新增突觸在赫布生長時固有的有機約束的方式,否則這種約束可能將飛蛾學習的速度限制在一個難以接受的速度。」

此外,章魚胺還有另外一個作用。赫布學習只能加強現有的神經連接,因此無法解釋新的神經線路是如何產生的。Delahunt表示章魚胺還可以打開新的傳輸通道來形成連接:「這會擴展系統學習時能夠探索的解空間」。

總體來說,這款模仿自然神經網路的人工神經網路系統完美的實現了它的設計目標,以一個自然的方式學會了分彆氣味。「我們的模型可以學習新的氣味,通過模仿出來的整合-激發神經元也與飛蛾體內激發率的統計特徵一致」,Delahunt說道。

廣泛來說,此項研究成果可能給人工神經網路領域帶來極大的影響。「從一個機器學習角度來看,該模型提供了一個由自然啟發的機制,並將十分利於建設需要用極少樣本實現迅速學習的神經網路」,該團隊總結道。

所以,未來的機器學習網路很可能將會包含章魚胺等神經遞質的仿品。

當然,神經遞質並不只在學習時有著重要的地位。神經科學家們十分了解它們在情緒與情緒調節等機制中的地位。而這,則可能成為機器學習研究者的下一個研究方向了。


推薦閱讀:

斯坦福CS231n項目實戰(四):淺層神經網路
基於Numpy實現同態加密神經網路
受限玻爾茲曼機(RBM)學習筆記
從結構、原理到實現,Faster R-CNN全解析(原創)
「營銷號」式寫作——YOLOv3:一項漸進式的更新

TAG:神經網路 |