標籤:

範數定義中,為什麼需要滿足正定、齊次、f(x+y)<=f(x)+f(y)?

希望大牛能從引進範數的目的的角度,分別解釋下,為什麼範數需要滿足這三個條件?


範數是歐氏空間中向量長度的推廣。大家熟知的歐氏空間中的向量長度自然是非負的,正齊次的,並且滿足三角不等式。


因為範數代表的是非歐空間下的長度概念。所以

1.非負保證了長度存在

2.齊次保證了描述同一長度的起始點唯一確定

3.三角不等式保證了長度的路徑唯一確定

這樣才能將範數作為長度在非歐空間下的推廣。


因為性質好。

@申力立 已經說了norm是歐式空間中向量長度的推廣。在歐式空間里,這個定義構造的長度(也可以理解為點與點的差的距離)最符合我們的直觀理解。當然你也可以定義其他形式的長度函數,但是只要是滿足我們的常識的,必定滿足非負,齊次,三角不等式三個條件。

數學是用來解決現實問題的,現實生活中還有一些定義能抽象成norm,比如

誤差: 非負,齊次,兩個誤差互相抵消小於兩個單獨的誤差

風險: 沒有負的風險,齊次,兩個資產的風險互相抵消小於兩個單獨資產的風險

很多符合常識的定義都符合這三個條件, 所以範數有很強的普適性

有些場合某些條件可能不一定是必要的,但有的話有更好的性質。一個函數同時滿足齊次性跟次可加性的話就滿足凸性{ af(x) + (1-a)f(y) &>= f(ax+(1-a)y) },如果最優化問題里目標函數滿足凸性,就可以全局最優化,某些問題還能找到解析解。把誤差最小化的最小二乘法就是一個很好的例子。


並不十分相關的答案。

首先正定性分為『正值性』和『 0 = f(x) 當且僅當 x = 0 』

參見範數

1.『正值性』可以由『齊次性』和『三角不等式』聯立導出。

亦即:取 x = 0, f(y) &<= f(y) + f(0), 得到 f(0) &>= 0, 故 0 &<= f(0) &<= f(y) + f(-y) = 2f(y), 此為『正值性』

2. 『 0 = f(x) 當且僅當 x = 0 』是使研究對象免於 trivial 的條件。

否則在某方向上有 y!= 0 且 f(y) = 0, 這樣這個方向上的範數就退化了一階。(說法不嚴謹,可大致看作一個投影)

3. 『齊次性』和『三角不等式』的目的是為了讓每一個向量可以通過一組線性無關的基來控制(就是約束大小的意思),於是可以進一步討論收斂的問題,而這恰是範數的目的。

才疏學淺,日後完善。請多指教。


下面是補充和擴展北海若的答案:

正定性或非負性( non-negativity):對於

非負保證了長度存在。

確定性( definiteness),當且僅當x=0時,f(x)=0

確定性保證了描述同一長度的起始點唯一確定

齊次性(homogeneity),對於

齊次保證長度的可擴展的標準一致,例如在上面的公式中就是擴展t倍。

滿足三角不等式(triangle inequality),對於

三角不等式保證了長度的路徑唯一確定。

此回答在機器學習中的線性代數系列(二):矩陣的操作和性質中有描述。


推薦閱讀:

定義在Rn上的非負多元多項式一定可以表示為多個多項式的平方和嗎?
正交矩陣的列正交則行一定正交,是什麼決定的?
如何理解範數的等價性?
所有PDE解析解都找到的話對科學界有什麼影響?
計算數學在數學界是什麼樣的地位?

TAG:數學 | 範數 |