如何評價ECCV2016中提出的center loss？

01-14

A Discriminative Feature Learning Approach for Deep Face Recognition這篇文章

center loss的原理主要是在softmax loss的基礎上，通過對訓練集的每個類別在特徵空間分別維護一個類中心，在訓練過程，增加樣本經過網路映射後在特徵空間與類中心的距離約束，從而兼顧了類內聚合與類間分離。

同樣是作為訓練階段的輔助loss，center loss相對於contrastive和triplet loss的優點顯然省去了複雜並且含糊的樣本對構造過程，只需要在特徵輸出層中引入即可，看下圖

另一個角度上說，center loss採取的是在訓練過程中用空間換取時間的策略，對於不惜計算資源的深度學習任務而言也算是提供了一種新的思路吧~

訓練速度相比沒加centerloss慢了好幾倍，是不是loss代碼需要優化？

正在試驗，本質上是一種度量學習，對於centerpoint的學習是一種較為巧妙的構思，演算法簡單，代碼高度精簡，使用比其它度量學習方便。目前在我自己搭建的網路上提升了約1%，即單個網路（5個卷積層而已）在lfw上得到98.5%的成績。但原論文中作者提到99%以上的識別率似乎是在pca以後，還請其他大神不吝賜教

在Cifar10和Cifar100上測試過Center Loss，發現效果並不是很好，準確率明顯低於單獨的Softmax；在Mnist上測試加上Center Loss的Softmax好於單獨的Softmax；所以個人理解之所以Center Loss是針對人臉識別的Loss是有原因的，個人認為人臉的中心性更強一些，也就是說一個人的所有臉取平均值之後的人臉我們還是可以辨識是不是這個人，所以Center Loss才能發揮作用～以上僅僅個人的看法

在微調的時候，你么有凍結前面的參數更新嗎？是微調內積層還是整個網路層的參數？

怎麼centerloss只用CPU的時候是對的，用gpu的時候就報錯啊？