L1範數優化的線性化方法如何證明?

公式3中的EMR和EXT只是論文前文的一些矩陣乘積,請主要關註上一個公式的證明。另外根據公式3的理解,min y+z應該是指最小化y+z這個矩陣的所有元素之和。


對L1 norm如何線性化的理解最主要的是要想明白為什麼對單一元素的最小化,即min |x| 等價於

以下的線性規劃問題。

egin{eqnarray}
min  y+z\
 y-z=x\
y,zgeq 0
end{eqnarray}

現在假設以上的線性規劃問題的最優解是y_0,z_0,並且y_0>0,z_0>0,這個時候,總可以找到一個很小的正數alpha使得y_1=y_0-alpha geq 0, z_1=z_0-alpha geq 0。而對於y_1,z_1 它們滿足以上線性規劃的所有約束,比如y_1-z_1=y_0-alpha-(z_0-alpha)=y_0-z_0=x,但這組可行解卻具有比y_0,z_0更小的目標函數值,即y_0+z_0-2alpha 。這就證明了y_0,z_0並不是最優解,從而導出矛盾。所以這一段的結論就是對於以上的線性規劃問題,其最優解必須滿足要嗎y=0, 要嗎z=0,從而其最優目標值要嗎是x,要嗎是-x,即|x|

現在推廣到有限維度的向量L1 norm最小化,即min ||X||_1=min sum_1^n |x_i|。它等價於以下的線性規劃問題:

egin{eqnarray}
min  e(Y+Z)\
 Y-Z=X\
Y,Zgeq 0
end{eqnarray}

其中e是1行n列的矩陣,並且每個元素都是1。


你好,請問這是那片論文的內容


推薦閱讀:

生存數據的左右截尾是什麼?請舉例說明。
有些電影小說里人物經常說的成功率是怎麼算出來的?
按一個人壽命70歲計算,一個人一生呼出了多重的碳?
請問有沒有概率與幾何結合的知識或者理論?請教諸位大神~~

TAG:數學 | 統計 | 線性代數 | 高等數學 | 矩陣 |