[CVPR2018筆記]Squeeze-and-Excitation Networks

今年的oral,令人印象深刻的一篇文章,網上解讀很多,相當於在channels上加了一個attention機制,給不同的channel不同的權重。

這篇文章行文思路清晰,哪怕學習寫論文也要看一看(=_=)

Squeeze

簡言之就是全局平均池化,是因為低層的感受野太小導致效果差

Excitation

這個環節主要是搞清channels之間的關係及重要性。這裡作者提出了兩個要求,

1, 靈活,作者解釋:能夠學習channels間非線性的關係;

2,必須學習一個非互斥關係,因為設計的block是為了強調多個channels而非一個

這裡設計了兩個全連接層,一個降維,一個升回原來的維度

這裡降維再升維,作者給出的解釋是為了降低計算複雜度和協助泛化。


推薦閱讀:

首發——Large Margin Object Tracking with Circulant Feature Maps
簡單自編碼器實現zero-shot learning (CVPR 2017)--論文筆記
CVPR2018 | 讓AI識別語義空間關係:斯坦福大學李飛飛組提出「參考關係模型」
看到了CVPR 2018 accepted paper list,大家有什麼想說的?

TAG:CVPR | 計算機視覺 | 卷積神經網路CNN |