如何看待Google 在NIPS2016上的強勢表現？

02-07

在nips2016上，Google不但作為鉑金贊助商強勢佔位，而且攜28篇論文榮耀亮相，並在invited talk環節熠熠生輝，不可不謂風頭無二。
這種成就和步伐一方面mark和引導了AIMLDL領域高歌猛進，另一方面也難免讓其他的從業者（科研人員、創業者等）目不暇接。
該如何看待？如何從中吸取積極的因子呢？

深度學習大潮下各大公司都在努力招攬科研人才，比如Facebook拉走了Yann LeCun和他的小夥伴們，Uber一把挖走了CMU的一個系。。。

而志在星辰大海，想要從晶元到生態一統人工智慧界的Google在這方面特別捨得砸錢。先是花了上億買了Hinton，組建Google Brain。然後收購DeepMind，大把大把的撥錢。最近一筆投資把Yoshua Bengio也收入麾下。Google不光砸錢買人，科研條件也不含糊，隨便一個研究就可以用上百個GPU。跟學校里只能用一兩個GPU慢慢跑的苦逼比起來，就好比是你在這邊摩托車運兵運的正High，人家五對負重輪碾過來了。。。

DeepMind充分利用了這一優勢，抬高門檻，強勢壟斷了Reinforcement Learning（增強學習，就是AlphaGo用的演算法）。前一陣我奇怪為什麼只有DeepMind在發Deep RL的論文。Google吃肉圍觀群從蹭碗湯喝也好啊。仔細一看才知道，以前搞RL的人都是控制個火柴棍小人走走路。DeepMind說你們太low，我們要打小霸王，光打一個遊戲還不行，怎麼也得把一盤卡56個遊戲都來一遍才能說明你得模型叼。但是同學們，訓練一個遊戲就要3、5天，就算你想出了一個絕妙的idea，你用一個GPU跑一遍結果也要半年，人家都發了兩輪paper了。

美中不足的是Google極少公開代碼，所以每次Google發一篇paper，都會出現世界各地人民加班加點驗證結果的盛況，而且基本都驗證不了。比如大名頂頂的Inception貌似到現在也沒重現出來，大家都比官方結果低一個百分點以上。再比如Wavenet效果驚為天人，但也沒人能跑出Google的效果。DeepMind海量的RL論文就更是了，至今也沒看到多少靠譜的重現。苦逼PhD們不禁心中吶喊：Google啊，請你停下前進的腳步，等等你的人民（大霧）。當然也有正面例子，比如BatchNorm，雖然Google的paper里細節極少，但是大家不屑嘗試後發現真的很好用，現在新的模型里基本都會塞個BatchNorm。

至於題主問對我們有什麼啟示，對我的啟示就是不要跟資本過不去，所以我果斷quit了（逃

我發現了一段文章堪稱絕妙地回答了這個問題，而且與 @解浚源的回答相映成趣。

更有趣的是，這篇文章的作者沒有任何人工智慧或直接相關專業的背景。

以下文字摘自雲無心《吃的真相》中《讓拉麵風靡美國》一文：

技術上的壟斷形成馬太效應，ABN的分店如雨後春筍般迅速在各地設立。一時間，ABN財源滾滾，好事者評出「ABN」三個字母價值多少億云云。ABN高層和其他員工都明白，ABN的成功完全來源於拉麵現代化技術的壟斷。這時，那些做拉麵的老師傅和研究中心的老專家都退休了，年輕的技術人員也成長起來了。ABN高層決定，不能白養著這批人，應該讓他們開展拉麵的前瞻性研究，繼續在各個可能的方面進行壟斷。於是，大筆的經費划進「拉麵研究中心」，這批本來閑著的人們紛紛在學術研究的最前沿尋找對拉麵可能有影響的領域。有人找到了轉基因麵粉可以提高麵條的口感（此時，ABN已經不再模擬老師傅做出的麵條口感，ABN的標準成了行業標準）；有人找到了酶處理可以減少煮麵條需要的時間；有人發現了某教授的方法可以降低麵粉在人體內的消化速度，從而有利於減肥和降低血糖；有人發現某些成分加到麵粉中可以降低成本或者提高營養……ABN對這些技術進行了開發或者買斷，然後申請專利保護。但是，這些技術並沒有應用到生產中，因為目前的生產能夠保證足夠的利潤。保護的結果，是沒有其他的公司能夠涉足拉麵技術的創新，因為幾乎任何有關的東西都與ABN的專利衝突，會受到起訴。每隔一段時間，ABN就拋出一項新技術。在顧客們的心中，ABN一直在把最先進的技術帶進人們的生活中。

（作者：雲無心，普渡大學農業與生物工程系食品工程專業博士，美國食品技術協會高級會員、科學松鼠會成員）

谷歌、微軟、FB等等公司。。。

不需要多少年，就會把DL變成有錢人才能玩的遊戲了

（1）更深的網路、更大的數據量，需要更強大的硬體去處理，這全都是錢

（2）更大的網路，需要更多數據的支持，能夠獲得這麼多數據，這也全都是錢

像AlphaGo那樣的東西，沒有強大的硬體打底，一般小團隊根本也就看看就好了

#####

NV或成為最大贏家，因為現如今所有主流DL方案都是NV作為底層支持的

google搞 deeplearning的不下500人，發二十篇paper算少了