谷歌大腦揭秘:48名成員20大研究領域(認貓事件五周年紀念)
李根 若朴 李林 發自 凹非寺
量子位 報道 | 公眾號 QbitAI
人類第一次發現貓的記錄已無從查證,但機器第一次「發現」貓是在5年前的今天。
當是時,谷歌大腦(Google Brain)團隊成員Jeff Dean和吳恩達等通過深度學習技術,成功讓16000台電腦學習1000萬張圖片後,在YouTube視頻中「認出」了貓。
對於大眾而言,這可能是第一次獲知深度學習的威力,也是第一次獲知谷歌大腦的存在。
不過,即便是該消息報道者,《紐約時報》作家約翰·馬爾科夫,或許也難以在美國東部時間2012年6月25日預料到:這個現象及其背後的技術,將如此迅速而深刻地為一個時代的變革拉開序幕。
毫不誇張地說,這可能是人類科技變革史上最狂飆突進的5年,由一隻「貓」開始。
那麼,谷歌大腦現在什麼樣了?
揭秘谷歌大腦
成立於2011年的谷歌大腦,目前有正式成員48名,團隊負責人是傳奇人物Jeff Dean。
在這個團隊中,還包括部分供職的泰斗級人物Geoffrey E. Hinton,以及Martín Abadi、Michael Burrows等資深科學家。另外,谷歌首席科學家Vincent Vanhoucke也在谷歌大腦團隊中。那麼這些天才的工程師都在研究什麼?
如上圖所示,谷歌大腦成員的研究範圍,主要包括在20大領域。涉及演算法和理論、分散式系統和並行計算、機器智能、機器感知等等。不同的成員,涉獵的研究範圍也不一樣。
量子位在這裡就部分領域略做解釋。
分散式系統及平行計算
讓多台計算機高效地協同工作,才有了Google從全世界獲取信息,然後將它們分發出去的能力。現在,分散式系統和平行計算領域仍然存在著這些激動人心的挑戰:並發控制、容錯、演算法能效、通訊。
機器智能
Google的研究實際上覆蓋了機器學習的方方面面,包括深度學習和那些經典演算法。通過對這些理論極其應用的探索,Google在自然語言、語音、翻譯、視覺處理、排序、預測等成果都依賴於機器智能。
機器感知
這一領域的研究是為了解決圖像、聲音、音樂和視頻理解上的難題。
自然語言處理(NLP)
Google在NLP領域的研究專註於可以大規模、跨語言、跨領域應用的演算法。
在句法上,Google可以預測句中每個詞的詞性、以及性、數變換,還可以標記出詞之間的關係,例如主語、賓語、修飾詞等。
在語義上,Google的系統可以從文本中識別出人、地點、組織機構等,並將不同文檔中的這些實體提取出來,構成知識圖譜。
70、80後是主力
構成谷歌大腦團隊的成員,主要以70後和80後為主,年齡更大和更小的成員,基本算是鳳毛麟角。
如上圖所示,70後成員達21人,80後成員19人。谷歌大腦負責人Jeff Dean出生於1968年,算是其中年齡非常大的同志了。不過年紀最大的,還得算已經年屆70的Geoffrey E. Hinton。年齡最小的成員應該是Christopher Olah,他也是唯一的90後。而且他應該沒有讀完本科的課程,2012年拿了Peter Thiel的10萬美元的Fellowship半路輟學了。另外,谷歌大腦團隊中的女性成員數量為3人。
斯坦福博士生最多
谷歌大腦團隊成員,90%以上都擁有博士學位。當然其中也有部分成員沒有博士學位。
這些博士都來自哪些學校?答案見下圖。
斯坦福大學畢業的博士最多。來自加拿大蒙特利爾大學的博士排名第二。來自加州大學伯克利分校的博士排名第三。根據量子位的統計,這些博士中以Yoshua Bengio為導師的學生最多,全部都畢業自蒙特利爾大學。
另外,Yoshua Bengio的兄弟Samy Bengio也在谷歌大腦團隊中。上圖左邊為Samy右邊為Yoshua。華裔成員數量排第二
谷歌大腦團隊的成員來自全球14個國家。根據量子位不算太嚴謹的統計,華裔成員排名第二,共計五個人。之所以說不太嚴謹,是因為諸如美國本土的成員,具體屬於什麼族群並不太容易進行細分。
可以看到除了華裔之外,來自英國、加拿大、法國等成員也較多。五位華裔成員,只有Andrew M. Dai本科和博士都畢業於英國。其餘的四位,Jianmin Chen本科畢業於北郵,Jie Tan本科畢業於上海交大,Yonghui Wu本科畢業於南京大學,Xiaoqiang Zheng本科畢業於清華。
其中Yonghui Wu目前是谷歌大腦的首席軟體工程師。
平均供職超5年
所有谷歌大腦48名成員中,平均入職谷歌的時間為5.25年。
其中時間最長的Jeff Dean已經加入谷歌18年。大部分成員都是在2007、2010、2012、2013、2015這幾年加入谷歌,約佔74%。
看起來2015年後,谷歌大腦的擴軍速度有所放緩。
推薦閱讀
除了上面的信息,谷歌大腦成員最近還參與發布了好幾篇非常有趣的論文,尤其是部分標題更是一個賽一個的聳動。
貼在這裡,有興趣的同學可以感受一下:
One Model To Learn Them All
[1706.05137] One Model To Learn Them AllLukasz Kaiser, Aidan N. Gomez, Noam Shazeer, Ashish Vaswani, Niki Parmar, Llion Jones, Jakob Uszkoreit
Attention Is All You Need
[1706.03762] Attention Is All You NeedAshish Vaswani, Noam Shazeer, Niki Parmar, Jakob Uszkoreit, Llion Jones, Aidan N. Gomez, Lukasz Kaiser, Illia Polosukhin
Depthwise Separable Convolutions for Neural Machine Translation
https://arxiv.org/abs/1706.03059Lukasz Kaiser, Aidan N. Gomez, Francois Chollet
A Neural Representation of Sketch Drawings
[1704.03477] A Neural Representation of Sketch DrawingsDavid Ha, Douglas Eck
Attention-based Extraction of Structured Information from Street View Imagery
[1704.03549] Attention-based Extraction of Structured Information from Street View ImageryZbigniew Wojna, Alex Gorban, Dar-Shyang Lee, Kevin Murphy, Qian Yu, Yeqing Li, Julian Ibarz
Large-Scale Evolution of Image Classifiers
[1703.01041] Large-Scale Evolution of Image ClassifiersEsteban Real, Sherry Moore, Andrew Selle, Saurabh Saxena, Yutaka Leon Suematsu, Jie Tan, Quoc Le, Alex Kurakin
Neural Architecture Search with Reinforcement Learning
[1611.01578] Neural Architecture Search with Reinforcement LearningBarret Zoph, Quoc V. Le
谷歌大腦大事記
2011年創立:起初只是Google X計劃中的項目,由Google Fellow Jeff Dean 、Google研究員Greg Corrado,和當時還在斯坦福任教的教授吳恩達共同發起,他們利用業餘時間把深度學習技術帶到了人工智慧問題的解決中,並建立起了第一代大型深度學習軟體系統,DistBelief。
2012年6月「認貓事件」:Google大腦用16000台電腦模擬人類電腦的活動,並在基於1000萬張圖像學習後,成功在YouTube視頻中找出了「貓」——即機器擁有了圖像學習和辨識方面的能力。
2013年3月收購DNNResearch:收購DNNResearch 公司,DNNResearch創始人Geoffrey Hinton由此進入Google大腦團隊工作,不過他保留在多倫多大學的教職。
插播一句:2014年1月,谷歌收購DeepMind,成為谷歌大腦之外另一個研究人工智慧方向的團隊。
2015年11月,谷歌大腦團隊開發的TensorFlow正式開源發布。目前已經是深度學習領域佔據絕對統治地位的框架。
2016年9月谷歌翻譯突破:推出神經機器翻譯(GNMT),不僅能提升機器翻譯的質量,還可以直接實現多語言之間的zero-shot翻譯,即可以翻譯從未學過的語言。
【完】
歡迎大家關注我們的專欄:量子位 - 知乎專欄
一則通知
量子位正在組建自動駕駛技術群,面向研究自動駕駛相關領域的在校學生或一線工程師。李開復、王詠剛、王乃岩等大牛都在群里。歡迎大家加量子位微信(qbitbot),備註「自動駕駛」申請加入哈~
推薦閱讀:
※2017 十大失敗 AI 案例
※微軟 Ignite 回顧:雲計算、人工智慧、混合現實,量子計算
※只有曲別針的世界
※人工智慧時代,未來孩子的教育重心是什麼?
TAG:GoogleBrain | 人工智能 | 深度学习DeepLearning |