看到了CVPR 2018 accepted paper list,大家有什麼想說的?
身邊的幾個朋友都反映這次CVPR 的paper list 結果有點怪,很多初審結果不錯的,甚至三個poster 的,寫完rebuttal 之後,也最終被拒了,而初審結果很差的最後被接收了!有沒有同感的,或者老司機可以解釋一下出現這種情況的原因!都說rebuttal 很重要,圈子裡的人都了解,但是不至於差別這麼大吧?
作為reviewer外加老闆是ac,全程見證審稿過程
首先投稿數量很大,審稿水準很差,ac傾向於相信本領域有名望的教授的審稿意見,對於無名小卒給的很random的審稿意見基本上就是看看而已。因此就算三個審稿人里有兩個人的意見特別好,如果他們是研究生而第三個審稿人是ac認識的大教授,ac肯定更傾向於相信第三個人。第二點,dl文章極其難審。很多文章包裝的很fancy,審稿人看不出什麼不足又看不出什麼特別出眾的地方,基本上打個poster或者borderline了事。所以一個熱門領域可能會有好多分數差不多的文章,高分拒的情況不要意外。p.s.老闆從多倫多回來之後,說到ac之間討論了某熱度很高的數據集的case不夠全面,容易用一些hack來刷高分。我也的確見到了很多有overfitting嫌疑的文章用它來刷分,相信這些因素也在ac的考慮中。
第三點,我老闆負責的幾十篇文章中,搞傳統數學模型的文章審稿評分都很低。一來在代碼實現方面傳統模型遠不如dl容易,導致文章的最終包裝效果差,實驗的呈現不好,數據集上的表現不好,二來近年來dl發展太猛,很多審稿人的數學背景不足以看懂一些topic,導致審稿意見千奇百怪。到頭來ac還是要親自審一遍文章。畢竟除了不斷刷高數據集performance的dl文章,ac還是希望能見到一些新的idea,因此很有可能強上某些審稿意見不好但是的確有新貢獻的東西。
所以說,哪來這麼多黑幕。。。高分文章被拒很有可能是同一個topic有好幾篇審稿意見都差不多高的競爭者,或者可能打高分的審稿人在領域內地位不夠審稿意見缺乏可信度。我的老闆就很明確的說,審稿的時候不只要看一篇文章的結果如何,還要考慮這篇文章是否真的為一個領域帶來了新的knowledge。。
另外,看了一下別人的回答,表示說rebuttal沒用的純屬胡扯。。。個人認為主要原因是reviewer水平參差不齊,但也不只有這個原因。結合我審稿和投稿的經驗大概有以下幾個情況...
- 有一些小朋友審稿人看到別人給了一個reject就動搖了,急忙改成reject。- 有些作者看到一個strong reject strong confident就放棄這個reviewer了,rebuttal隻字不提,實際上給出這種分的很容易ac就當成廢票了。我這次有一個weak reject strong confident的summary就完全寫錯了,我rebuttal開頭就懟這個reviewer,結果ac看到了同意我們的說法忽略了這個reject。- 三個poster還被拒的情況我沒遇到過,有一種可能的原因是這個topic平均分數就高,ac手裡一打類似的paper假如分都高,不可能都接收。我遇到過同時幾篇文章拿cnn做image dehazing的,最後分數都不太差也只要了一篇,想想也合理,因為要的那篇比別人多做了個應用。當然這只是我自己的看法。簡而言之,vision的會reviewer和rebuttal質量真的很一般,導致結果不完美一點不奇怪,哎。還記得有一年居然收到郵件說收到的review平均長度只有xxxx words,請不夠長度的寫長一點,也是醉了。兩個borderline,一個poster/oral 被拒。其中一個borderline初審的時候表示,解答完8個問題傾向於接收。最後按照他的要求,rebuttal 補了三個實驗。今天心態崩了一天……
今天看到了最終意見,之前的承諾補實驗改分數的審稿人降低了分數,原因是同他給的參考文獻比沒有原創。可解決問題不是一個方向,只是大方向關鍵詞一樣,方法也根本不一樣。rebuttal的時候,提出我缺少引用該參考文獻,現在又說兩個方法一樣,當初如果提出這一點,rebuttal時就懟回去了。最終,ac決定有爭議就站在reviewer一方(查了一下,那篇參考文獻的作者是今年的ac)。
尊重ac的決定,只是reviewer不負責任,同行是冤家,感覺被審稿人針對了。太委屈。。。轉投ECCV希望不要碰到他了,先放到arxiv上吧,以防萬一。
這屆cvpr真是令人捉摸不定,reviewer給拒的文章,ac要強接。那既然這樣為什麼要找reviewer,ac自己審不就好了……
雖然中了。
但經過幾次投稿後,我算是明白了。運氣是多麼的重要,碰到合適的 reviewers 是多麼的重要。那些被拒的,也有好文章。也有不少水文混進去的。
保持平常心。
看見好多答主匿名,可見其中五味雜陳。
我的答案可能跟問題不是那麼相關,我就寫幾點對這個問題的看法。1.近年來,深度學習/人工智慧在學術界和工業界都大火,很多國家甚至把人工智慧上升到國家的戰略高度了。
2.工業界瘋狂搶奪深度學習人才,大家給應屆畢業生開出薪資之高,讓我這個從業者都目瞪口呆。很多老師留*優秀*的深度學習碩士讀博難度越來越大:讀博5年每個月2千-5千的工資,碩士畢業直接進工業界年薪30萬到50萬。是你,你怎麼選?3.深度學習大火,導致很多專業的學生跨專業考研深度學習方向,使得計算機/電子相關專業的本科和碩士大量擴招。4.深度學習的門檻相對低一些,開源的代碼又多,大家很容易就達到一個比較好的性能。5.工業界和學術界評價一個學生/老師/研究員水平高低很大程度看你發了幾篇cvpr/eccv/iccv. 從業人員大增,門檻降低,評價標準過於簡單粗暴(數數幾篇三大會議),導致三大會議投稿量大增,競爭過於激烈。每篇論文都關係到學生畢業的年薪,老師的晉陞及項目的申請,研究員的KPI.
6. 會議投稿數量大增,必然要增加很多審稿人,導致審稿人的質量下降。現在的審稿人又極忙,很多人都不好好審稿。所以我一再囑咐作者要把審稿人當成SB,要把文章喂到審稿人嘴裡,要寫得邏輯清楚,文章的要點(如contributions,與相關工作的不同點等)要反覆提及。否則審稿人看得太快沒看見或沒看懂,就給你一個低分。7.基數大了(投稿量及審稿人數量),偶然現象的絕對數目就多了啊,如高分被拒,低分接收。8.一個有趣的現象。這次一審結果出來後,周圍大家都說自己的分數很低啊,所以這次會議的平均分很低,所以初審低分的同學都有希望喔。終審結果出來後,這批人沒有聲音了。換了另一批人發聲啦「我中了6篇」「我中了5篇,感謝****」 「否極泰來,我中了2篇」。所以不同情境下,你聽到了不同人在發聲。由於你觀測樣本有限,結論通常biased.9.馬太效應加劇,強者(大組)更強,弱者(小組)的機會越來越少,而不是越來越百花齊放。原因很多,其中一個原因是,大組掌握大量資源,老師論文經驗豐富,學術經驗豐富,手底下的博後博士能力強,關鍵是數量越來越多,計算資源也越來越多,這些團隊內部相互合作,取長補短,小組很難與之抗衡。有的大組甚至是流水線作業,有人數學建模,有人實驗,有人寫作,你擅長哪個模塊就做哪個模塊。有的大組甚至細化到專人負責作圖,專人負責改英文,論文投之前組內先請資深一點的博後和青年教師來一輪預審稿。10.陰謀論。有人的地方就有江湖,有利益的地方就有不公。陰謀和不公當然有啦,打招呼啊,殺死競爭對手啊。但這不是主流,我們應該在儘力提升自己的論文質量,而不是到處哭訴不公(關鍵哭訴沒用啊)。11.看見很多學生論文被拒了,甚至崩潰了,好心疼你們啊,抱抱:)讓我為你們做點什麼吧。我們公司正在招聘機器視覺深度學習的人才,快來加入我們,用技術真正地改變世界,讓世界變得更便捷,更美好,更安全。我們的目標是星辰大海,而不是一篇論文被拒就哭天搶地。年輕人,格局大一些。招聘鏈接:http://mp.weixin.qq.com/s/qC0xCF5SlV1ClXM_tHOgdA看了第11條,別打我,逃:)我微信:289885133Reviewer和author飄過。review的幾篇paper的其他reviewer和我自己paper的reviewer都談到了和某篇stateofart的比較。問題是那篇paper沒有代碼(siggraph的),而且作者(日本的)一概不回郵件,很多次郵件問實現細節,或者讓幫忙跑下結果都不回。所以最終我的paper和很多paper都只能從那篇paper上crop幾個圖比較。搞笑的是,某些reviewer(我審的paper)就說沒代碼不是理由,你該自己實現。我當時還抱不平在討論的時候說,這個坑我也經歷過,這篇stateofart確實有點奇怪。但我rebuttal自己實現了之後一個reviewer就說你不能亂實現你該直接用他paper的圖比較。總之這個方向最後我審的九篇paper全被拒了。自己的也被拒了。可能因為這篇stateofart實在是太牛逼了吧。
我強烈建議限制有工業背景的reviewer和AC的人數,尤其是涉及工業常見領域比如什麼face XXX,pedestrian XXX之類的,一個領域和錢搭上關係想乾淨也乾淨不了,畢竟都是人審的。
一般情況下兩個AC還是比較公正的。我有一篇最後2個weak reject 1個poster, 但給weak reject的兩個reviewers是明顯胡扯的那種,AC看過paper和rebuttal後支持第三個reviewer的意見強收了。
CVPR最後是2個AC獨立給意見,如果意見一致就是最終意見,意見不一致會分到第3個AC給最終意見。總體來說還是很負責的,2個AC都眼瞎我覺得不太可能,被拒還是有原因的。
祝被拒的仁兄們高中ECCV,恭喜paper被收的諸位,給大家拜個晚年。
我覺得不僅要看評分,更重要的是看提出的意見吧。
我的初審是2個borderline,1個weak reject.
但是borderline給出的意見都是關於論文細節的疑問,在rebuttal中解釋清楚了,他們就都改成poster了。weak reject那個提了一大堆問題,感覺我們都不在一個頻道上,所以rebuttal花了半頁的篇幅回復也還是沒有任何改變。
最終AC也看了一下,覺得論文還不錯,就接受了。
到底是水論文還是真正令人拍案稱奇的乾貨,你們自己心裡沒點ABC數?
能不能被接受你們自己投稿前心裡沒點底么?
我相信ac的公平性,沒有那麼多陰謀論。畢竟三大會,也該限制下水論文了。像是各種撞車的idea,哪怕在某些數據集效果不錯,也不足以被頂會接收。真正好的話,不早被工業屆應用了?要我說,是前些年cv界水論文太多被慣壞了,現在競爭的人多了,水平高了,跟之前水平相當的水論文不中,這不是很正常么?這次cvpr就是告訴大家,水論文不管用了。這是新常態,接受就好,還是多做點能激發出一系列論文的乾貨吧。其實多倫多匹配系統本身就是個bug,如果你的paper cite了一篇或者幾篇paper很多次,那麼這篇paper的作者們都是優先順序很高的reviewer,經常會匹配到兩個reviewer來自同一個機構,兩個人給的審稿意見幾乎沒什麼差別。遇到有惡意的,一個人給boaderline,一個給weak reject,然後第二輪全改成reject,我這次深有體會
順便吐個槽,有個reviewer說我的paper和某paper很像,我說我這篇17年3月份就放了arXiv(當時投iccv),他們是兩個月之後才放的arXiv,換言之就是他們抄我們的,結果這個reviewer怒了,第二輪直接strong reject。希望圈內人少點兒惡意競爭,讓領域更和諧一些
某saliency大組paper 3個poster。AC: 我saliency見一個殺一個。於是
我覺得都是正常的,大家不必過分的抱怨。據說去年蘋果的bp初審也不怎麼樣。至於ac權力的問題,不至於以「冤家」和「被針對」來描述,但是ac有自己的喜好和偏向是肯定,就像上面有人回答,對此情況只有另投;我覺得還是應該對ac的專業性以及職業操守抱有正面的期望。(但是人脈可能真的很重要 )
另,今年投的一篇初審是兩個p/o一個borderline。最終決定也是被接收了。雖然本人對這篇論文也是不甚滿意,但是好在「包裝」和想要表達的「中心思想」不錯。大家千萬不要陷入唯性能論的陷阱。自己做的「改進」在寫文章的時候要把動機和原理盡量包裝得好看一點。
組裡兩篇,都是拒,然後ac強接。。。。
一篇全是接,ac強拒。。。
我是一個論文寫都沒寫過的小弱,不請自來跑題一下:曬一下多倫多大學一個組2017年的戰績
有的老闆,跨學術界和工業界,手握眾多funding
有的PhD,h-index已經超過了某些AP,甚至Associate P
這估計就是,人和狗的差距