深度學習巨頭Yann Lecun 中科院自動化所座談及清華大學講座乾貨速遞（一）（內含珍貴歷史影像及學術八卦）
2017年3月22日星期三，空氣重度污染的北京迎來了人工智慧領域一位重量級的嘉賓——Facebook人工智慧實驗室主任，卷積神經網路的發明人Yann Lecun教授。Yann Lecun一行上午在中國科學院自動化研究所舉行了40分鐘的小型座談會，下午在清華大學舉辦了「深度學習與人工智慧的未來」主題演講。筆者有幸全程參與了上述兩項活動，現將活動的主要內容及個人感悟與大家分享，歡迎各位分享、轉發。未經本人授權，任何組織、個人不得擅自使用本文的文字及圖片資料。
3.22 上午 中國科學院自動化研究所智能化大廈17層紫東咖啡廳 主場
Lecun的到來所里之前也沒有做過多的宣傳，可能是由於上一次Andrew NG來做報告，整個學術報告廳被擠爆，這一次所里只舉行了一個40人左右小而精的座談會。主要形式以嘉賓和聽眾互動為主。座談會的主持人是我們的副所長劉成林研究員，主要嘉賓包括Yann Lecun教授，Facebook 副總裁企業發展副總裁Vaughan Smith博士和田淵棟博士。
座談會的開始，劉所長進行了熱情而簡短的歡迎致辭，接下來就以問答互動的形式開始了座談。每一個問題我可能無法全部記清楚，現把我自己印象比較深刻的問題簡要總結，部分問題在下午清華的講座中也談到了。其中一位同學談到了了深度學習目前還沒有相關理論解釋的問題。Lecun的觀點是，並非所有的研究都是現有理論後有實踐，很多問題都是人們先發現了某種現象，後來才找到了合理的理論解釋。在下午清華的講座的QA環節，Lecun又舉了幾個具體例子，瓦特發明蒸汽機是在動力學理論之前，人們最早發明飛機的時候，也沒有完善的空氣動力學理論。深度學習就是理論在實踐之後。劉所長問了一個關於GAN的問題，Lecun對GAN讚不絕口，並補充說明了GAN不是他自己的idea，是Ian Goodfellow在讀博士期間提出來的，下午清華講座中有關於GAN的詳細介紹，這裡暫不展開。還有同學問到了哪些領域深度學習並不work，Lecun回答是也談到了Logistic Regression這些較為經典的模型可以發揮威力的場景。（筆者補充：其實當我們的數據量較小的時候，深度學習的效果可能沒有傳統的經典模型那麼好）。很幸運自己獲得了座談會最後的一個提問機會，我的問題是關於深度學習對抗樣本的，深度學習在計算機視覺、語音識別、自然語言處理都取得了突破性的進展，但是研究者也發現深度神經網路也是很容易被愚弄的，當對一張圖片加上人為的雜訊之後，系統會將其錯誤分類，類似的現象在強化學習領域裡也被觀察到，智能體可能會被攻擊者誤導執行錯誤的動作，對抗樣本和AI的安全密切相關，對此，您有何評論？Lecun說到這是一個很好的問題，他在做手寫字元識別的時候也注意到了這種現象，當時為了探索什麼圖像會讓卷積網路完美的預測一個數字4，然後將梯度反向傳播的輸入圖像，所得到的結果和預想的是不一樣的。他認為非監督學習是解決對抗樣本問題的一個比較有效的思路。在座談會的最後，劉所長請Yann Lecun教授給在座的同學一句寄語，Lecen教授說我們現在正處於一個AI發展很好的時代，未來AI取得的重要突破，在座的同學就可能扮演重要的角色。教授的諄諄教誨真是給我我等莫大的學習動力。
3.22 下午清華大學禮堂
講座主題：「深度學習與人工智慧的未來」
講座由清華大學交叉信息研究院院長，圖靈獎獲得者姚期智教授主持，下面奉上講座ppt，一張ppt勝千言，下面我們看圖說話
神經網路歷史回顧，感知機介紹，那個時候的計算機真是老古董，之前的特徵提取以人工的特徵為主（hand-crafted feature）
有意思的學術八卦：大神間的賭局，Jackel和Vapnik（SVM發明者）打了兩次賭，賭一頓飯，一人贏了一次，所以覺得兩人共同為飯局買單，大神的賭局見證了神經網路的興起，搞學術的還是嚴謹，打賭都有字據見證人，Lecun作為見證人可能是這頓飯唯一沒有花錢的 此處應有一個笑cry的表情
由於時間緊張，可能會有不少筆誤，歡迎大家指正!
推薦閱讀：
TAG:深度学习DeepLearning | 人工智能 | TensorFlow |