被殘忍拒絕過，方顯英雄本色

允中 發自 凹非寺

量子位 出品 | 公眾號 QbitAI

今天是一篇充滿「被拒」情感色彩的推送。三組故事，都和AI有關。

這是第一組。

一篇論文，一篇「不同尋常」的論文，不久前發布在arXiv上。

通常論文們都會在Comments一項，注釋出論文的光輝履歷。譬如被哪個頂會Accepted了，或者至少正被某頂級期刊Review中。

但這一篇，不一樣（BGM請腦補）。

還沒來得及細看標題，我們就被Comments里大喇喇寫著的一句話，吸引了眼球：「Rejected from ICLR 2018」……

蛤？被ICLR拒了？還這麼高調？

再抬眼一眼，兩位作者之一，正是已經升任Facebook首席AI科學家的Yann LeCun。他還有另一重身份：ICLR大會的創始人，以及現任的大會主席。

看到這裡，量子位不禁有些感慨（想笑）。

LeCun參與的論文，（又）被LeCun創辦的大會拒絕了。

要知道，ICLR 2018大會共收到論文，總共收到了900多篇論文。其中只有508篇論文徹底被拒。

這個入圍比例，在AI的頂會裡面，算是感人了。差不多快比NIPS高出一倍。所以，一篇論文想被ICLR拒掉，相對哈、相對還是比較難的事情。

但LeCun還是做到了。

而且吧，還是兩篇……真的，這次共有三篇LeCun參與的論文投了ICLR，但是有兩篇被華麗麗的拒掉了，還有一篇，只中了Workshop Papers。

三篇論文的OpenReview的評分：5.67、3.50、5.70。

在自己的「地盤」遇上這種事兒，就LeCun這暴脾氣，你猜他在Twitter和Facebook會怎麼懟回去？哼哼，他一句話也沒有說~

因為，他可能已經習慣了。

LeCun應該不會忘記，去年的ICLR 2017大會，他也有論文也被華麗麗的拒掉了……而且入圍了所謂慘遭ICLR 2017拒絕的十大好論文。好在他不孤單，另一位主席Yoshua Bengio也入圍了「十大慘拒」排行榜。

再看今年，Bengio有9篇被拒掉了。

說到這裡，想起LeCun在NYU的同事，更是Yoshua Bengio的弟子Kyunghyun Cho，。ICLR 2018結果發布後，他在Twitter上感慨，有篇他以為能中Poster的論文，最後被拒了。

結尾，他發了一個「lol…」

拒稿是門手藝，笑對需要勇氣。

但其實，被拒稿這種事，對搞神經網路的學者來說，算得了什麼。

不信來看第二組故事。

每個年初，都是回憶的季節。

特別是回憶起申請學校被拒的往昔。

斗酒搞出GANs的Ian Goodfellow，年紀輕輕已經聞名天下。但他也有自己的挫折時光，前不久他回首申請學校的往事時說：

「我從來沒從MIT收到回信。我被CMU拒掉。雖然最後被多倫多大學錄取，但是沒能和我期望的導師一起工作。我獲得過國家科學基金會的表彰，但一分錢也沒撥給我。」

之所以談起這些，都是因為加州大學伯克利分校的助理教授Moritz Hardt，這也是一位頗具知名度的人工智慧學者。去年Ali Rahimi在NIPS掀起「鍊金術」風波時還曾提到他。

「每年這個時候我都會提醒自己：一個成功學術生涯的典型開端，就是從被一堆優秀的研究生院拒絕開始的。」就是Hardt這句話，引發了Goodfellow的感慨。

發出感慨的還有更多人。比方Nicolas Le Roux說，他16歲被高中拒掉、18歲被巴黎綜合理工大學拒掉、21歲被多倫多大學拒掉、26歲被伯克利拒掉、28歲被谷歌拒掉……現在他是谷歌大腦的機器學習研究員，Goodfellow的同事。

總之，申學校被拒引發不少人的共鳴。

這讓現在倫敦搞機器學習的研究員Ferenc Huszár都有點「懷疑人生」，他說：是不是因為我沒被拒過，所以沒有學術生涯……（當然他是開玩笑的）

但失敗是成功之母這種論調，是不是一種倖存者偏差？

對於這種質疑，Goodfellow說也有可能。但他強調：「不要因為暫時的失敗灰心喪氣。」他說可以失望但不要泄氣。

Goodfellow說他自己不會因為被拒絕而質疑自己是不是不夠好，反而會一直想「接下來幹什麼才是最佳選擇？」

對當時求學中的Goodfellow來說，最大的問題就是缺少獎學金，他一直不斷申請更多，直到三年後拿到谷歌的獎學金。

有人打趣說，也許Goodfellow去了MIT就會搞GOFAI（有效的老式人工智慧），而不是搞出GANs了。

還有人說雖然Goodfellow當年被MIT拒掉，但好在後來MIT Technology Review補償給他一個「35下35」的獎勵。

好吧。申請學校被拒，畢竟只是一時。

第三組故事是關於被拒絕後更長久的堅守。

也許這些你都曾有所耳聞。

整個人工智慧行業，儘管只有幾十年的發展，但其間已經經歷過幾起幾落。然後逐步從「寒冬」中慢慢的復甦。

1980年代LeCun在巴黎讀大學時，計算機就是瞎子，無法識別圖片中的內容，也無法判斷攝像頭前方出現了什麼。但就在那個時候，LeCun偶然涉足了探索人工智慧領域的一種方法：「智能神經網路」。

這並不是一條新路，而且並不受待見。但在攻讀博士學位時，LeCun頂著一片質疑聲專註於研究神經網路。「我只是不相信他們所說的。」他說。

1990年代中期，LeCun加入貝爾實驗室研究人工智慧，但AT&T的內部矛盾導致了他的團隊分裂。他們成功的讓ATM學會了讀取支票，但「在取得真正成功的那一天，整個項目被解散。這令人非常沮喪。」

2000年代初期，LeCun的處境愈發邊緣化。一些學術機構甚至不允許LeCun在它們舉辦的會議上發表論文。計算機視覺的圈子將其拒之門外。

其他人日子也不好過。

在蒙特利爾大學任教的Yoshua Bengio發現，他很難找到願意與自己共事的研究生。「我需要強迫學生從事這方面的研究，他們害怕在博士畢業後找不到工作。」

同一時期，Hinton實驗室的學生回憶說：當時還是AI的「冬天」，搞人工智慧研究既沒什麼就業前景，也沒什麼資金支持，更別提工業界的青睞。

Hinton出生於一個學術背景顯赫的世家。在他長大成人的過程中，母親給過他兩種選擇：「做學者，或是做失敗者。」Hinton說，自己一輩子都在壓抑、沮喪中掙扎。

但他投入研究的神經網路，真真是經歷過漫長而幽暗的歲月。除了面對學術上的不認可，他的兩任妻子先後罹患了癌症。而他自己也深受背痛困擾。

Bengio評價Hinton時說「他有時可以穿過黑暗看清事物。但他的個人生活非常不容易。他也有他的黑暗時代」。

不過最終，他們都算是等到了春天。

關於第三組故事更多的細節，可以看看量子位之前發布的《LeCun列傳》和《Hinton：人類就是機器，絕妙的機器》。Hinton那篇發布後，總覺得有首歌很適合。

就在這裡補一下吧。