Facebook新方法加速AI訓練,120萬張圖只用1小時
在你刷知乎的時候,可能遇到過這個問題:在機器學習模型的訓練期間,大概幾十分鐘到幾小時不等,大家都會在等實驗的時候做什麼? - 知乎
Facebook今天在西雅圖Data@Scale大會上公布的一篇新論文說,他們用不著花太長時間等待,在ImageNet -1k的120萬張圖片上完成訓練,以前需要幾天,現在只要1小時。
該公司的工程師Pieter Noordhuis分享了新發表的論文《準確、大規模的小批量SGD:在1小時內訓練ImageNet》。這篇論文展示了,具有創新性的基礎設計如何規模提高深度學習的效率。
論文作者還包括賈揚清、何凱明等。
Paper下載鏈接:
https://research.fb.com/wp-content/uploads/2017/06/imagenet1kin1h3.pdf在Facebook人工智慧研究院和應用機器學習團隊的密切合作下,這篇論文描述了Facebook研究員如何將訓練ImageNet -1k資料庫(其中包含超過120萬張圖片)的時間從幾天減少至1小時,同時確保分類的準確性。該團隊使用Caffe2和Gloo庫去實現合作通信(這兩個庫文件都已上傳至Github),以及Facebook的下一代GPU伺服器Big Basin。這一服務的設計已於今年早些時候提交給了「開放計算項目」。
憑藉這些成果,機器學習研究員可以開展試驗,測試假設,以及推動一系列有依賴關係的技術的發展,無論是有趣的頭像濾鏡,還是用於現實增強的360度視頻。
陳樺 編譯自 Facebook
量子位出品 | 公眾號 QbitAI【完】
One More Thing…
今天AI界還有哪些事值得關注?在量子位(QbitAI)公眾號對話界面回復「今天」,看我們全網搜羅的AI行業和研究動態。筆芯~
推薦閱讀:
※Facebook IPO 不久,股價就跌破 20 美元,投資者主要擔憂什麼?
※視頻直播:無需意義和專業,只要「生活在別處」
※為什麼 Facebook 領先 Twitter,而新浪微博用戶量卻超過人人?
※越南都開放臉書Facebook了?
※Joe Hewitt 在 Facebook 任職期間完成了什麼項目?