關於學習的思考
從師兄那學習到很多做學問,學習上的寶貴建議,表示十分感激。
接下來整理一下自己對學習上的一些認識,以及疑惑。
我覺得深度學習領域比較單純,不會出現一些太偏離研究主線的課題。研究者不斷地發現不足,思考改進,得到更優的結果,不斷迭代這個過程。因此這個領域的知識應當是層層累積的。從歷史,時間的角度來說,應當對這個領域的脈絡有著很清晰的認識。然而這正是我所缺失的,對深度學習領域並沒有一個整體的認識,導致學習沒有明確的方向。因此我有一個很好的想法。
順著時間進度,從2012年這個結點開始,重新認識一下深度學習這個學科。
單純為了學習而學習很難得到比較完整的記憶,更應該以問題為主,重點去思考問題解決辦法,進而研究具體的解決方法。這裡還有從師兄那得到的啟發:發表一篇論文大致要經過1至2月的prototyping,主要用於認識問題,研究問題,隨後需要3至6個月contribution時間,主要花精力在相關領域知識的學習,最後是1至2個月的submit時間,用於完成實驗,論文的寫作。
關於學習順序上,還是師兄的建議:例如SVM,首先學會如何使用,主要的應用領域是什麼。在大量使用了之後,有編程實現的經歷之後,進而深入了解演算法背後實現的原理,從這裡大致能夠明白SVM為什麼work,有哪些局限,並根據這個給接下來的效果優化,調參提供指導。最後反過來遇到問題時應考慮是否適合使用SVM,如何使用,如何解決問題。
看論文,學習一個新的網路,我感覺這種學習應該是要有歷史情節的,當看完這個網路之後去了解一下,提出背景,作者在相關方面的工作(積累)。學習一個新網路我覺得在了解完作者的工作,了解網路結構,數據集準備等一些基本信息之後,精力重點應當要關注在為什麼,這個網路解決了一個什麼問題,有什麼優勢,這個網路有哪些比較新穎的trick,有哪些調參,或者是準備數據集時的過人之處。最重要的我覺得應當思考為什麼這種改動(在原有工作基礎上創新)能起到好的效果,背後有哪些獨特的地方。
面對一個實際問題,該如何去分析,如何正確使用數據,準備數據,尋找合適的解決方法,以及相關工作調研。
學會數據驅動的方式推進研究,定義數據-> 數據分析->數據應用->數據反饋
問題:1. 如何建立一個整體的認識
問題:2. 如何
推薦閱讀:
※哲學小徑第五站:語言在哲學研究中的局限性
※哪有那麼多好壞對錯,別再騙自己了
※【隨筆3】:再讀《窮查理寶典》
※推薦你十部"燒腦"電影,瞧瞧自己會不會斷片兒
※對《窮查理寶典》的總結
TAG:思維 |