人臉識別之insightface

09-19

人臉識別之insightface

來自專欄人工智慧學習

論文地址：https://arxiv.org/pdf/1801.07698.pdf

項目源碼：deepinsight/insightface

簡介

作者在三個方面做了相關工作：

訓練數據

利用公開數據集，去除雜訊數據後訓練。

網路結構和設置

高性能卷積神經網路，如ResNet和Inception-ResNet，比VGG和Inception V1有較好的性能，不同的應用在速度和精度之間做權衡，對應移動設備，精度更加重要。

損失函數

1、歐式邊際損失函數

softmax損失函數在訓練中通常採用的損失函數，中心損失、距離損失和邊界損失增加了懲罰係數以減小方差或增加類間距，但是當訓練樣本身份達到百萬級的時候，需要消耗大量的GPU內存。

對比損失和T三元損失是訓練配對策略，contrastive loss函數包含正負樣本，其梯度拉近正樣本、遠離負樣本，Triplet loss函數使正樣本類間距最小、負樣本類間距最大。但是在訓練過程中，選擇有效的正負樣本是很困難的。

2、角度和餘弦損失函數

SphereFace cos(mθ)，權重正則化的人臉識別中採用了L-softmax

從sotfmax到arcface

softmax損失函數

softmax損失函數在深度人臉識別中經常使用，但是，在正人臉對中不能取得很高的相似度，在負人臉對中不能取得很低的相似度，從而導致效果不好。

權重歸一化

為了簡單化，我們將偏置參數 $b_j = 0$ ,然後將轉換為目標logit：

通過L2正則修正 $||W_jk|| = 1$ ，則有

在SphereFace實驗中，權重L2正則化僅僅提高了一點。

乘邊距角度

增加一個邊距m

$θ_{yi} ∈ [0, π/m]$ ,用單調函數 $ψ(θ_{yi})$ 替代 $cos(mθ_{yi})$

$ψ(θ_{yi}) = (?1)^kcos(mθ_{yi}) ? 2k, θ_{yi} ∈ [kπ/m ,(k+1)π/m]$

計入超參 $lambda$

特徵正則化

特徵正則化廣泛用於人臉識別系統中，L2很容易應用在現有的深度學習網路中並取得很好的效果。

通過L2修正 $||x_i||$ ， $||x_i||$ 縮放為s

增加cosin邊距

有三個好處：1、沒有複雜的超參，2、沒有softmax的情況下更容易收斂，更清晰，3、性能明顯提高

增加邊距角度

角度邊距比consin邊距有更好的幾何解析，並且角度空間的對應超球面的距離。

對cos增加一個邊距m，當 $θ ∈ [0, π ? m]$ 時，cos（θ+ m) 比cos(θ)要小，定義arcface為：

$cos(θ+m) = cos θ cos m?sin θ sin m$

損失函數的比較

目標邏輯分析

作者使用LResNet34E-IR網路，訓練集使用MS1M數據集。

在4（a）圖中，對於SphereFace，m = 4、λ = 5的訓練曲線與m = 1.5、λ = 0的相似，但是SphereFace的m取值必須為整數，m = 2、λ = 0時訓練不收斂。從Softmax中略微降低目標logit曲線，可以增加訓練難度，提高性能，但降低過多會導致訓練發散。

CosineFace的曲線沿y軸負方向移動，ArcFace沿x軸負方向移動，至此，我們很容易理解從softmax到CosineFace和ArcFace的改進。

對於ArcFace，邊距m=0.5，當 $θ ∈ [0^?, 180^? ]$ ，目標曲線不是單調遞減的，實際上在 $θ > 151.35^?$ 的時候是單調遞增的。在圖4（c）中， $heta$ 在 $90^o$ 為中心，最大 $105^o$ 呈高斯分布。在訓練中幾乎不沒有增加ArcFace的間距。

圖4（c）中，CosineFace和ArcFace的高斯分布的中心從 $90^o$ 移動之 $35^o-40^o$ 。在圖4（a）中，在 $30^o$ 至 $90^o$ 區間，ArcFace的曲線低於consineFace，所以在這以區間，ArcFace比ConsineFace有著更嚴格的邊際懲罰。在4（b）中，分布是sotfmax、ConsinFace、ArcFace的收斂區別，開始的時候，ArcFace比CosineFace的懲罰項要重，紅色虛線在藍色虛線的下方，在訓練末期，ArcFace比CosineFace收斂得更好，如右邊 $heta$ 的柱狀圖（圖4(c)）並且收斂曲線更高（圖4(b)）。在圖4(c)中，在訓練末期， $heta$ 的取值大多數小於 $60^o$ ，訓練樣本中最為困難的是訓練數據的雜訊問題。CosineFace在 $θ < 30^o$ 有著更嚴格的邊際懲罰項（圖4(a)），在訓練末期難於達到此區間。因此，我們可以明白SphereFace在此階段，帶有相對較小的邊際值，卻有著較好的表現。

總之，當 $θ ∈ [60^o, 90^o]$ 時，加入較大的邊際懲罰項可能會引起訓練不收斂，比如SphereFace (m = 2，λ = 0)。當 $θ ∈ [30^o, 60^o]$ 時，加入邊際值可能會提升性能，因為這個部分對應於最有效的難以訓練的負樣本。當 $θ < 30^o$ 時，加入邊際值可能不會提升性能，因為這一部分對於的是較容易訓練的樣本。在圖4(a)中在 $[60^o, 90^o]$ 的區間，我們可以明白為什麼從Softmax、SphereFace、CosineFace（在他們最好的係數設置的情況下）到ArcFace有著較好的性能提升，需要注意的是 $30^o$ 和 $60^o$ 是容易訓練和難以訓練樣本的初略分界點。

實驗

作者用MegaFace作為驗證集，LFW，CFP和AgeDB作為測試集，並取得了很好的表現。

數據

訓練數據

VggFace2

VggFace2包含8,631個身份共3,141,890張圖片，由於VggFace2是一個高質量的數據集，因此沒有對數據做處理。

MS-Celeb-1M

MS-Celeb-1M包含100K的身份共1000萬張圖片，減少圖像的雜訊獲得高質量的數據集，我們將每個身份的所有人臉圖像按其與身份中心的距離進行排序。對於特定的身份，離身份特徵中心較遠的特徵集被自動刪除。作者最終得到85K唯一的身份和380萬的數據集。

驗證集

LFW

給出6000對人臉做驗證

CFP

使用最優挑戰性的子集CFP-FP做驗證

AgeDB

使用最優挑戰性的子集AgeDB-30做驗證

測試集

圖5中，從Facesrub 數據集中給出雜訊數據。圖8(c)中展示了到特徵中心的consin距離。事實上人臉圖像221和136並不是Aaron Eckhart，我們手動清除並最終發現605個噪音數據。在測試期間，我們把噪音數據更換為正常數據，識別精度大約提高1%。在圖6(b)中，給出從MegaFace干擾項中的噪音數據，四個人臉頭像都是Alec Baldwin，手動清除MegaFace干擾項並最終發現707個噪音數據。在測試中，我們增加一個附加維度來區分噪音數據，這樣可以增加15%的識別精度。