哪裡有受限玻爾茲曼機、卷積神經網路 的講解課程?

大家好,想要學習受限玻爾茲曼機 和 卷積神經網路,請問哪裡可以找到講解這些內容比較好的視頻呢?謝謝大家


除了Hugo Larechelle的課程上面已經提到,強烈推薦一篇文章 An Introduction
to Restricted Boltzmann Machines(http://image.diku.dk/igel/paper/AItRBM-proof.pdf), 思路清晰思維嚴謹。

個人也覺得geoff在coursera上的那門課並沒有特別吸引我,對我而言最大的問題在於他的slides文字太多而且他本人的語調一直起伏不大,容易覺得枯燥。

至於卷積神經網路,網路上的資料和文章都很多,再推薦一下Christopher Olah的blog(http://colah.github.io/about.html), 這位小哥年紀不大想法多多,blog也是圖文並茂非常直觀。


看過的資料中,講解最清晰的是Hugo Larechelle的公開課(https://www.youtube.com/playlist?list=PL6Xpj9I5qXYEcOhn7TqghAJ6NAPrNmUBH),既有直觀解釋亦有理論推導。

此外比較常見的是Stanford的UFLDL Tutorial 和 CS231n課件(http://cs231n.stanford.edu/) 。當然祖師爺Geoff Hinton本人在Coursera上也有公開課(https://www.coursera.org/course/neuralnets),不過私以為Geoff還不如他的學生Hugo講的清楚 _(:3?∠)_

網路實現的話參見Theano或Caffe的教程:

Theano Convolutional Neural Networks (LeNet)

Caffe | LeNet MNIST Tutorial)


樓上的資料都很好,我只是來概括下幫樓主迅速入個門:

受限玻爾茲曼機:兩層網路,傳播方向任意,每層網路的每個節點的激活條件獨立。比如第一層向第二層傳播(也就是說第一層是輸入層,第二層被激活),那麼:

第二層的每個節點是否被激活都是獨立事件;

在不知道第一層的輸入情況下,即便知道第二層其它節點是否被激活,也無法判斷某一個節點是否被激活

卷積神經網路:認為輸入數據具有某種自相似,比如說圖像有平面上的局域性(圖片的一小塊放大後還是一個圖片),聲音有時間上的局域性(一段聲音中的一小段也是聲音)。因此可以先對一小塊輸入數據進行學習,再對稍大一塊一點的輸入數據學習,以此類推


我就分享一下之前看到的兩篇關於玻爾茲曼機的資料吧,個人感覺還不錯~

一個是CSDN上皮果提寫的一個學習筆記,即介紹了一些必要的預備知識,又不至於顯得臃腫。特別是關於對數似然函數的梯度推到部分,寫得很詳細。鏈接在這受限玻爾茲曼機(RBM)學習筆記(一)預備知識

第二個是一篇關於玻爾茲曼機的綜述文章《玻爾茲曼機研究進展》,可以在知網上下載。介紹了玻爾茲曼機的發展歷史,以及一些典型模型結構和應用,比較全面。


詳情請參見知乎文章: 受限玻爾茲曼機知識概要(RBM) - 知乎專欄


推薦閱讀:

如何評價Hinton在加拿大多倫多大學關於用「capsule」作為下一代CNN的演講?
目前對神經網路有哪些理論研究?
用c++實現神經網路一般用什麼庫?
如何評價 Caffe2go?

TAG:神經網路 | 深度學習DeepLearning |