卷積神經網路和深度神經網路的區別是什麼?


「卷積」和「深度」是神經網路互相獨立的兩個性質。「卷積」指的是前端有卷積層;「深度」指的是網路有很多層(理論上講,有兩個隱藏層就可以叫「深度」了)。


卷積的也可以很深。其實卷積的作用你看成好比特徵提取,類比autoencoder


圖像是5維信息,BGR+XY

單純的神經網路(把圖像拉平)就丟棄了空間信息即XY

而卷積神經網路通過小的卷積核(把核拉平)則可以保留空間信息,同時也不對空間信息建模,從而做到平移魯棒


卷積神經網路是深度神經網路中的一種,深度神經網路還有DBN,RBN,AD等,deeplearning tutorial 是個很不錯的東西,還有百度余凱教授的一些論文,csdn的一些博客還不錯。還有一些框架theano,caffe等都是挺有用的,目前只看了theano,但聽說企業都是用caffe,扯遠了


對 卷積神經網路也可以很深,詳見Yann LeCun大神的主頁。他用七層的卷積神經網路識別手寫體數字,效果奇好。文章發表於1998年


要想了解卷積神經網路和深度神經網路的區別,首先,要明白神經網路是什麼,深度神經網路分為卷積神經和遞歸神經。

顧名思義,神經網路類似人類大腦,由一個個神經元組成,每個神經元和多個其他神元連接,形成網狀。單個神經元只會解決最簡單的問題,但是組合成一個分層的整體,就可以解決複雜問題。

當下流行的深度神經網路分為應對具空間性分布數據的CNN(卷積神經網路)和應對具有時間性分布數據的RNN(遞歸神經網路,又稱循環神經網路)。

CNN主要用於圖像識別,深度神經包括CNN和RNN,RNN往往用於語音識別和自然語處理,深度神經網路大大優化了機器學習的速度,使人工智慧技術獲得了突破性進展,人工智慧發展前景,人工智慧落地需要多久! - 人工智慧 多智時代


卷積神經網路,不就是深度學習的一種模型,怎麼還有深度網路?


新手,學習了


推薦閱讀:

神經網路中激活函數的真正意義?一個激活函數需要具有哪些必要的屬性?還有哪些屬性是好的屬性但不必要的?
在眾多的神經網路框架如chainer, caffe, torch,mxnet等之間如何做選擇?
你在訓練RNN的時候有哪些特殊的trick?
有沒有可能運用人工神經網路將一種編程語言的代碼翻譯成任意的另一種編程語言,而不經過人工設計的編譯過程?
怎麼選取訓練神經網路時的Batch size?

TAG:機器學習 | 神經網路 | 深度學習DeepLearning |