範數定義中,為什麼需要滿足正定、齊次、f(x+y)<=f(x)+f(y)?
希望大牛能從引進範數的目的的角度,分別解釋下,為什麼範數需要滿足這三個條件?
範數是歐氏空間中向量長度的推廣。大家熟知的歐氏空間中的向量長度自然是非負的,正齊次的,並且滿足三角不等式。
因為範數代表的是非歐空間下的長度概念。所以
1.非負保證了長度存在
2.齊次保證了描述同一長度的起始點唯一確定3.三角不等式保證了長度的路徑唯一確定這樣才能將範數作為長度在非歐空間下的推廣。因為性質好。
@申力立 已經說了norm是歐式空間中向量長度的推廣。在歐式空間里,這個定義構造的長度(也可以理解為點與點的差的距離)最符合我們的直觀理解。當然你也可以定義其他形式的長度函數,但是只要是滿足我們的常識的,必定滿足非負,齊次,三角不等式三個條件。
數學是用來解決現實問題的,現實生活中還有一些定義能抽象成norm,比如
誤差: 非負,齊次,兩個誤差互相抵消小於兩個單獨的誤差
風險: 沒有負的風險,齊次,兩個資產的風險互相抵消小於兩個單獨資產的風險很多符合常識的定義都符合這三個條件, 所以範數有很強的普適性。
有些場合某些條件可能不一定是必要的,但有的話有更好的性質。一個函數同時滿足齊次性跟次可加性的話就滿足凸性{ af(x) + (1-a)f(y) &>= f(ax+(1-a)y) },如果最優化問題里目標函數滿足凸性,就可以全局最優化,某些問題還能找到解析解。把誤差最小化的最小二乘法就是一個很好的例子。並不十分相關的答案。首先正定性分為『正值性』和『 0 = f(x) 當且僅當 x = 0 』參見範數
1.『正值性』可以由『齊次性』和『三角不等式』聯立導出。
亦即:取 x = 0, f(y) &<= f(y) + f(0), 得到 f(0) &>= 0, 故 0 &<= f(0) &<= f(y) + f(-y) = 2f(y), 此為『正值性』2. 『 0 = f(x) 當且僅當 x = 0 』是使研究對象免於 trivial 的條件。否則在某方向上有 y!= 0 且 f(y) = 0, 這樣這個方向上的範數就退化了一階。(說法不嚴謹,可大致看作一個投影)3. 『齊次性』和『三角不等式』的目的是為了讓每一個向量可以通過一組線性無關的基來控制(就是約束大小的意思),於是可以進一步討論收斂的問題,而這恰是範數的目的。
才疏學淺,日後完善。請多指教。下面是補充和擴展北海若的答案:
正定性或非負性( non-negativity):對於
非負保證了長度存在。
確定性( definiteness),當且僅當x=0時,f(x)=0
確定性保證了描述同一長度的起始點唯一確定
齊次性(homogeneity),對於
齊次保證長度的可擴展的標準一致,例如在上面的公式中就是擴展t倍。
滿足三角不等式(triangle inequality),對於
三角不等式保證了長度的路徑唯一確定。
此回答在機器學習中的線性代數系列(二):矩陣的操作和性質中有描述。
推薦閱讀:
※定義在Rn上的非負多元多項式一定可以表示為多個多項式的平方和嗎?
※正交矩陣的列正交則行一定正交,是什麼決定的?
※如何理解範數的等價性?
※所有PDE解析解都找到的話對科學界有什麼影響?
※計算數學在數學界是什麼樣的地位?