谷歌大腦揭秘:48名成員20大研究領域(認貓事件五周年紀念)

李根 若朴 李林 發自 凹非寺

量子位 報道 | 公眾號 QbitAI

人類第一次發現貓的記錄已無從查證,但機器第一次「發現」貓是在5年前的今天。

當是時,谷歌大腦(Google Brain)團隊成員Jeff Dean和吳恩達等通過深度學習技術,成功讓16000台電腦學習1000萬張圖片後,在YouTube視頻中「認出」了貓。

對於大眾而言,這可能是第一次獲知深度學習的威力,也是第一次獲知谷歌大腦的存在。

不過,即便是該消息報道者,《紐約時報》作家約翰·馬爾科夫,或許也難以在美國東部時間2012年6月25日預料到:這個現象及其背後的技術,將如此迅速而深刻地為一個時代的變革拉開序幕。

毫不誇張地說,這可能是人類科技變革史上最狂飆突進的5年,由一隻「貓」開始。

那麼,谷歌大腦現在什麼樣了?

揭秘谷歌大腦

成立於2011年的谷歌大腦,目前有正式成員48名,團隊負責人是傳奇人物Jeff Dean。

在這個團隊中,還包括部分供職的泰斗級人物Geoffrey E. Hinton,以及Martín Abadi、Michael Burrows等資深科學家。另外,谷歌首席科學家Vincent Vanhoucke也在谷歌大腦團隊中。

那麼這些天才的工程師都在研究什麼?

如上圖所示,谷歌大腦成員的研究範圍,主要包括在20大領域。涉及演算法和理論、分散式系統和並行計算、機器智能、機器感知等等。不同的成員,涉獵的研究範圍也不一樣。

量子位在這裡就部分領域略做解釋。

  • 分散式系統及平行計算

    讓多台計算機高效地協同工作,才有了Google從全世界獲取信息,然後將它們分發出去的能力。現在,分散式系統和平行計算領域仍然存在著這些激動人心的挑戰:並發控制、容錯、演算法能效、通訊。

  • 機器智能

    Google的研究實際上覆蓋了機器學習的方方面面,包括深度學習和那些經典演算法。通過對這些理論極其應用的探索,Google在自然語言、語音、翻譯、視覺處理、排序、預測等成果都依賴於機器智能。

  • 機器感知

    這一領域的研究是為了解決圖像、聲音、音樂和視頻理解上的難題。

  • 自然語言處理(NLP)

    Google在NLP領域的研究專註於可以大規模、跨語言、跨領域應用的演算法。

    在句法上,Google可以預測句中每個詞的詞性、以及性、數變換,還可以標記出詞之間的關係,例如主語、賓語、修飾詞等。

    在語義上,Google的系統可以從文本中識別出人、地點、組織機構等,並將不同文檔中的這些實體提取出來,構成知識圖譜。

70、80後是主力

構成谷歌大腦團隊的成員,主要以70後和80後為主,年齡更大和更小的成員,基本算是鳳毛麟角。

如上圖所示,70後成員達21人,80後成員19人。谷歌大腦負責人Jeff Dean出生於1968年,算是其中年齡非常大的同志了。不過年紀最大的,還得算已經年屆70的Geoffrey E. Hinton。

年齡最小的成員應該是Christopher Olah,他也是唯一的90後。而且他應該沒有讀完本科的課程,2012年拿了Peter Thiel的10萬美元的Fellowship半路輟學了。

另外,谷歌大腦團隊中的女性成員數量為3人。

斯坦福博士生最多

谷歌大腦團隊成員,90%以上都擁有博士學位。當然其中也有部分成員沒有博士學位。

這些博士都來自哪些學校?答案見下圖。

斯坦福大學畢業的博士最多。來自加拿大蒙特利爾大學的博士排名第二。來自加州大學伯克利分校的博士排名第三。

根據量子位的統計,這些博士中以Yoshua Bengio為導師的學生最多,全部都畢業自蒙特利爾大學。

另外,Yoshua Bengio的兄弟Samy Bengio也在谷歌大腦團隊中。上圖左邊為Samy右邊為Yoshua。

華裔成員數量排第二

谷歌大腦團隊的成員來自全球14個國家。根據量子位不算太嚴謹的統計,華裔成員排名第二,共計五個人。之所以說不太嚴謹,是因為諸如美國本土的成員,具體屬於什麼族群並不太容易進行細分。

可以看到除了華裔之外,來自英國、加拿大、法國等成員也較多。

五位華裔成員,只有Andrew M. Dai本科和博士都畢業於英國。其餘的四位,Jianmin Chen本科畢業於北郵,Jie Tan本科畢業於上海交大,Yonghui Wu本科畢業於南京大學,Xiaoqiang Zheng本科畢業於清華。

其中Yonghui Wu目前是谷歌大腦的首席軟體工程師。

平均供職超5年

所有谷歌大腦48名成員中,平均入職谷歌的時間為5.25年。

其中時間最長的Jeff Dean已經加入谷歌18年。大部分成員都是在2007、2010、2012、2013、2015這幾年加入谷歌,約佔74%。

看起來2015年後,谷歌大腦的擴軍速度有所放緩。

推薦閱讀

除了上面的信息,谷歌大腦成員最近還參與發布了好幾篇非常有趣的論文,尤其是部分標題更是一個賽一個的聳動。

貼在這裡,有興趣的同學可以感受一下:

  • One Model To Learn Them All

    [1706.05137] One Model To Learn Them All

    Lukasz Kaiser, Aidan N. Gomez, Noam Shazeer, Ashish Vaswani, Niki Parmar, Llion Jones, Jakob Uszkoreit

  • Attention Is All You Need

    [1706.03762] Attention Is All You Need

    Ashish Vaswani, Noam Shazeer, Niki Parmar, Jakob Uszkoreit, Llion Jones, Aidan N. Gomez, Lukasz Kaiser, Illia Polosukhin

  • Depthwise Separable Convolutions for Neural Machine Translation

    arxiv.org/abs/1706.0305

    Lukasz Kaiser, Aidan N. Gomez, Francois Chollet

  • A Neural Representation of Sketch Drawings

    [1704.03477] A Neural Representation of Sketch Drawings

    David Ha, Douglas Eck

  • Attention-based Extraction of Structured Information from Street View Imagery

    [1704.03549] Attention-based Extraction of Structured Information from Street View Imagery

    Zbigniew Wojna, Alex Gorban, Dar-Shyang Lee, Kevin Murphy, Qian Yu, Yeqing Li, Julian Ibarz

  • Large-Scale Evolution of Image Classifiers

    [1703.01041] Large-Scale Evolution of Image Classifiers

    Esteban Real, Sherry Moore, Andrew Selle, Saurabh Saxena, Yutaka Leon Suematsu, Jie Tan, Quoc Le, Alex Kurakin

  • Neural Architecture Search with Reinforcement Learning

    [1611.01578] Neural Architecture Search with Reinforcement Learning

    Barret Zoph, Quoc V. Le

谷歌大腦大事記

2011年創立:起初只是Google X計劃中的項目,由Google Fellow Jeff Dean 、Google研究員Greg Corrado,和當時還在斯坦福任教的教授吳恩達共同發起,他們利用業餘時間把深度學習技術帶到了人工智慧問題的解決中,並建立起了第一代大型深度學習軟體系統,DistBelief。

2012年6月「認貓事件」:Google大腦用16000台電腦模擬人類電腦的活動,並在基於1000萬張圖像學習後,成功在YouTube視頻中找出了「貓」——即機器擁有了圖像學習和辨識方面的能力。

2013年3月收購DNNResearch:收購DNNResearch 公司,DNNResearch創始人Geoffrey Hinton由此進入Google大腦團隊工作,不過他保留在多倫多大學的教職。

插播一句:2014年1月,谷歌收購DeepMind,成為谷歌大腦之外另一個研究人工智慧方向的團隊。

2015年11月,谷歌大腦團隊開發的TensorFlow正式開源發布。目前已經是深度學習領域佔據絕對統治地位的框架。

2016年9月谷歌翻譯突破:推出神經機器翻譯(GNMT),不僅能提升機器翻譯的質量,還可以直接實現多語言之間的zero-shot翻譯,即可以翻譯從未學過的語言。

【完】

歡迎大家關注我們的專欄:量子位 - 知乎專欄

一則通知

量子位正在組建自動駕駛技術群,面向研究自動駕駛相關領域的在校學生或一線工程師。李開復、王詠剛、王乃岩等大牛都在群里。歡迎大家加量子位微信(qbitbot),備註「自動駕駛」申請加入哈~

推薦閱讀:

2017 十大失敗 AI 案例
微軟 Ignite 回顧:雲計算、人工智慧、混合現實,量子計算
只有曲別針的世界
人工智慧時代,未來孩子的教育重心是什麼?

TAG:GoogleBrain | 人工智能 | 深度学习DeepLearning |