MPS與圖像識別

08-14

MPS與圖像識別

4 人贊了文章

（來sell一下我們最近的一個小工作，手動捂臉）

a simple matrix product state algorithm for image recognition?

arxiv.org

這個工作的想法非常簡單而巧妙，在這篇文章（Stoudenmire, Edwin, and David J. Schwab. "Supervised learning with tensor networks." Advances in Neural Information Processing Systems. 2016.）里已經提到了使用tensor network來做圖像識別。由於圖像一般是二維的，採用一維的MPS的時候涉及到一個路徑選取的問題，會在轉折的地方帶來較大的bond dimension；而如果我們採用二維的TN，運算量則會比較大。

我們通過DCT變換（類似於傅里葉變換）將二維的圖片變到二維頻域空間，再根據頻率從小到大，自然地得到了一維的頻率路徑，在此基礎上訓練MPS。一個很有趣的發現是，我們計算每個頻率site上面的單點糾纏(single site entangle entropy)和二分糾纏(bi-partition entangle entropy), 會發現這兩個entropy都隨著頻率的增大快速下降到0。我們接下來根據這個進行圖片裁剪，比如，最大糾纏為S，我們將閾值設為0.1S，捨棄糾纏熵低於閾值的site，在只保留了約10%的site的情況下，得到的測試集精度基本不變。這個方法或許能夠運用在更大的圖片識別上。

更多的技術細節在arxiv文章中。這個小工作是ICFO非常nice的博後冉仕舉師兄帶著本渣做的，是本渣第一次練習做關於TN的工作，希望以後能做得更deep一點。