求解零空間的思考
02-22
昨天在討論憶臻專欄機器學習演算法與自然語言處理中的線代第七課時,對於回代構建零空間這點產生了疑問,就是為什麼直接將 賦值 和 ,然後求出特解,進而求出零空間。今天我簡單總結一下我的思考。
在回代的前一步是對矩陣A消元,得到矩陣 ,然後進行回代,可得到方程組 ,進而可將X表示為 。
下面是對X的分析。
直觀來看,X可以表示為 ,跟列空間的表示很相似。通過這篇文章,可以讓你對零空間和列空間與A的關係有個更深的認識。這裡提一下維數定理:假設 A 是 矩陣, 維數定理就是: dim Ker(A) + rank(A) = n。dim Ker(A)表示零空間的維度。
也許上一段的表述還是不好理解,那下面我們用代數方法直接證明。首先,明確要證明的是任意給 賦值得到的特解,構成的零空間 與將 賦值 和 得到的特解,構成的零空間 ,記為等價,即同一個空間。具體來說,以前者的兩個特解,進行任意的線性組合得到的向量,均是後者兩個特解的某種線性組合。以後者的兩個特解,進行任意的線性組合得到的向量,均是前者兩個特解的某種線性組合。
設賦值給 的值為 和 ,注意兩個向量不能線性相關。設對於 中某一個向量 為 ,設存在 與 使得 ,建立等式可得 , 有解,故存在。對於 中任意向量同理可證。故兩空間等價。
其實, 與 均為 與 的線性組合,所以組成的空間還是同一個。具體來說 , 。則
推薦閱讀:
※關於方陣的特徵值和特徵向量的思考
※SVD分解是對矩陣行空間與列空間的關聯
※PRML筆記|線代拾遺(1)
TAG:線性代數 |