也來談談爆炸的NIPS
來自專欄 一個NLP博士的吐槽地
NIPS的投稿ID到了8000,雖然最終有效投稿量會低於這個數,但也算是史無前例了,下午看到這個消息嚇得我困意全無(雖然我自己並不投)。作為一個中國的土博,真是感慨萬千。
1、十分的理解,大家對頂會量的追求
作為一個高年級的Ph.D. ,真的十分理解學生們拼死拼活投NIPS,身邊也有為了NIPS最後一周沒怎麼睡覺,連續通宵的同學。這個社會很殘酷,有NIPS在2017年校招就是能在企業拿到接近百萬的OFFER,有NIPS就是在獎學金評選中壓別人一頭,有NIPS就是畢業時候有和老闆討價還價的底氣。
有的時候覺得很多標準對學生很不友好,比如:雖然大家都明白Paper的影響力很重要,但是這種不能量化的東西,或者說沒有被學校量化的東西,和能不能畢業、能不能有個好出路真是比不了,有時候還是得先解決生存問題。CCF的指揮棒有時候就是能把人變成一個水王,因為院里一評啥東西,都是直接比ABC類論文數量,最後大部分老師和學生很難為了那份 純真 而捨棄自己的未來。
這時候還是真的很佩服現在還不灌水只做有影響力工作的人(此處的人指 處於溫飽線的青椒和同學們,有一定名望的老師們做一些有影響力的是應該的)。
2、一個有意思的事情是:灌水灌得早反而有助於未來paper的質量
從我多年來的觀察發現,很多同學在滿足了溫飽以後,還是可以提高論文質量的。讀博很有意思,他是一個正反饋,發得越早心態越好,心態越好研究做的就越紮實,越紮實paper反而中的又好又多。現在每個要讀博士的人諮詢我意見,我都會說,早投paper,正反饋很重要~最怕的就是最後一篇論文沒有,然後慌不擇路,總想灌水灌出點啥。。
3、大部分paper沒啥用,反而發paper的過程很有用
計算機技術更新換代太快,大部分paper可謂廢紙,Transformer這個模型出來之後,可以說S2S之後Transformer之前絕大多數機器翻譯的論文都變成了啟迪思想的業餘讀物。大部分paper對於推動科技進展和人類進步是不太可能了,所以現在我作為審稿人時候,會儘力往積極的方面看,這篇paper到底有沒有某些idea可以啟迪思想,或者非常有趣。我現在最不喜歡的就是motivation沒有,然後NN結構瞎弄一下刷了分,投了。。。
雖然結果沒用,發paper的過程還是很有用的,能讓你積累一些研究的品味(taste),知道坑在哪兒,更厲害的人可以揮起鋤頭自己挖個坑。
最後,祝處於溫飽線的同學們早日小康,處於小康線的同學們發點有影響力的paper,打造自己的brand。
推薦閱讀:
※第三章 自然語言理解的技術分類及比較
※《Attention is all you need》
※深度強化學習在指代消解中的一種嘗試
※<DepthLGP : Learning Embeddings of Out-of-Sample Nodes in Dynamic Networks>筆記
※求參與自然語言處理、計算機視覺方向的人工智慧研究
TAG:機器學習 | 自然語言處理 | 深度學習DeepLearning |