3blue1brown的神經網路:part1 筆記

3blue1brown 製作的超級酷炫的解讀神經網路的視頻系列,非常值得看!

3blue1brown neuralnet 系列 part 1

如何理解neural net

讓我們分解成無數個小問題來回答

視頻筆記

什麼是neuron?

如何用neurons來理解image(grayscale)?

為什麼圖片要從(28,28)matrix 轉化為 (784,)vector?

一個訓練好的MLP是如何識別圖片數字的?

每一層hidden layer 學到了怎樣的特徵?

視頻筆記

每一層hidden layer 學到了怎樣的特徵?

解析自己,人類大腦是如何一步一步識別數字的?(猜想)

MLP模型是否也是這樣的識別流程?

視頻筆記

layer 與 layer 之間是如何鏈接的?

第一層hidden layer是如何學到邊邊角角的?

如何將特徵告知給hidden neurons的呢?

那麼是誰在具體發現和學習這個特徵呢?

那麼,weights具體是怎麼做到的呢?

為什麼要加上一個bias?

為什麼要做sigmoid處理?

視頻筆記

剛才hidden neural對應的能夠識別細小特徵的weights是怎麼來的?

模型的hidden layer 的工作原理真的是如上所述嗎?

linear combination 是怎麼來的?為什麼不直接寫成(左圖)

第一層hidden layer 里的每一個hidden neuron是如何一次性計算獲得的?


推薦閱讀:

《A COMPARE-AGGREGATE MODEL FOR MATCHING TEXT SEQUENCES》閱讀筆記
神經網路知識梳理——從神經元到深度學習
梯度下降演算法在Neural Network下的理解
酷站推薦 - fast.ai - Making Neural Nets Uncool Again
深度學習(Deep Learning)基礎概念3:神經網路實現邏輯回歸模型測試題及解答

TAG:吴恩达AndrewNg | 深度学习DeepLearning | 神经网络 |