哪裡有受限玻爾茲曼機、卷積神經網路 的講解課程?
大家好,想要學習受限玻爾茲曼機 和 卷積神經網路,請問哪裡可以找到講解這些內容比較好的視頻呢?謝謝大家
除了Hugo Larechelle的課程上面已經提到,強烈推薦一篇文章 An Introduction
to Restricted Boltzmann Machines(http://image.diku.dk/igel/paper/AItRBM-proof.pdf), 思路清晰思維嚴謹。個人也覺得geoff在coursera上的那門課並沒有特別吸引我,對我而言最大的問題在於他的slides文字太多而且他本人的語調一直起伏不大,容易覺得枯燥。
至於卷積神經網路,網路上的資料和文章都很多,再推薦一下Christopher Olah的blog(http://colah.github.io/about.html), 這位小哥年紀不大想法多多,blog也是圖文並茂非常直觀。
看過的資料中,講解最清晰的是Hugo Larechelle的公開課(https://www.youtube.com/playlist?list=PL6Xpj9I5qXYEcOhn7TqghAJ6NAPrNmUBH),既有直觀解釋亦有理論推導。
此外比較常見的是Stanford的UFLDL Tutorial 和 CS231n課件(http://cs231n.stanford.edu/) 。當然祖師爺Geoff Hinton本人在Coursera上也有公開課(https://www.coursera.org/course/neuralnets),不過私以為Geoff還不如他的學生Hugo講的清楚 _(:3?∠)_
網路實現的話參見Theano或Caffe的教程:Theano Convolutional Neural Networks (LeNet)
Caffe | LeNet MNIST Tutorial)樓上的資料都很好,我只是來概括下幫樓主迅速入個門:
受限玻爾茲曼機:兩層網路,傳播方向任意,每層網路的每個節點的激活條件獨立。比如第一層向第二層傳播(也就是說第一層是輸入層,第二層被激活),那麼:
第二層的每個節點是否被激活都是獨立事件;在不知道第一層的輸入情況下,即便知道第二層其它節點是否被激活,也無法判斷某一個節點是否被激活
卷積神經網路:認為輸入數據具有某種自相似,比如說圖像有平面上的局域性(圖片的一小塊放大後還是一個圖片),聲音有時間上的局域性(一段聲音中的一小段也是聲音)。因此可以先對一小塊輸入數據進行學習,再對稍大一塊一點的輸入數據學習,以此類推我就分享一下之前看到的兩篇關於玻爾茲曼機的資料吧,個人感覺還不錯~一個是CSDN上皮果提寫的一個學習筆記,即介紹了一些必要的預備知識,又不至於顯得臃腫。特別是關於對數似然函數的梯度推到部分,寫得很詳細。鏈接在這受限玻爾茲曼機(RBM)學習筆記(一)預備知識第二個是一篇關於玻爾茲曼機的綜述文章《玻爾茲曼機研究進展》,可以在知網上下載。介紹了玻爾茲曼機的發展歷史,以及一些典型模型結構和應用,比較全面。
詳情請參見知乎文章: 受限玻爾茲曼機知識概要(RBM) - 知乎專欄
推薦閱讀:
※如何評價Hinton在加拿大多倫多大學關於用「capsule」作為下一代CNN的演講?
※目前對神經網路有哪些理論研究?
※用c++實現神經網路一般用什麼庫?
※如何評價 Caffe2go?
TAG:神經網路 | 深度學習DeepLearning |