標籤:

將線性代數形象化(四) · 逆矩陣、列空間與秩

/***************************************************

前言:最近因為思考一些問題需要用到線代,然後在B站上找到了一個不錯的線代講解系列視頻,特點在於將線性代數中常見的行列式、向量、矩陣、點積、叉乘、特徵向量等等形象直觀地表現出來,作者也是花了很大的心思,通俗易懂(雖然有些視頻我看了兩遍才懂。。。)在以前的學習中,線代一上來就是各種計算,得到一個結果就完事了。具體為什麼要這麼算,這麼算的意義在哪,一無所知。因此在看的過程中懂了以前很多沒懂的點,也從另一個角度更好地理解了線代。為了在自己腦里形成一個更清晰的脈絡,所以也嘗試整理一下,包括自己以前踩過的坑以及自己的思考領悟,主要參考該系列視頻。如果我不偷懶並且順利的話,預計一個月填完吧~~

視頻鏈接:【官方雙語/合集】線性代數的本質 - 系列合集

***************************************************/

【*】本篇所說的矩陣,全都是方陣。暫不涉及非方陣的情況。

線性方程組

上一篇開頭我提到過,因為我們學習的慣性,有人認為從線性方程組作為線代的切入點會更容易接受。下面我們就來看看這種說法為什麼有道理。如圖所示:

方陣 left[begin{array}{ccc}2&5&34&0&81&3&0end{array}right] 稱為相關係數矩陣 A ,向量 left[begin{array}{c}xyzend{array}right] 稱為未知變數 vec{x} ,常數向量 left[begin{array}{c}-302end{array}right] 稱為結果 vec{v} 。則該線性方程組可簡寫為 Avec{x}=vec{v} 。(這裡也就是矩陣乘法啦~)

該線性方程組的含義是,向量 vec{x} 經過矩陣 A 所描述的變換後到達向量 vec{v} 。所以,要求出向量 vec{x} ,我們就要從結果 vec{v} 開始,反向變換。於是就有了逆矩陣的概念。

逆矩陣

從上面的討論可以看出,逆矩陣其實相當於一個倒推過程,即反向變換。但我們知道,矩陣存在著逆矩陣不存在的情況。在上一篇里也說了,判斷逆矩陣是否存在,方法之一就是看該矩陣的行列式是否為0。為什麼這麼說呢?

首先我們先來考察 det(A)ne 0 的情況:

  • A 行列式不為0,意味著在該張成空間內進行線性變換,空間沒有被壓縮。所以,對每一個確定的 vec{v} A ,有且僅有一個 vec {x} 與之對應,故有唯一解。從 vec{v}vec{x} 的逆向變換矩陣,稱為「矩陣A的逆」,記作 A^{-1} 。(這裡也證明了為什麼det(A)ne 0 等價於 A 的逆矩陣存在)有了這樣的介紹以後,我們就很容易理解, A^{-1}A=I 為什麼成立了(又稱恆等變換)。
  • 使用計算機求得 A^{-1} 後,就可以在原方程兩邊同時左乘 A^{-1} ,化簡得 vec{x}=A^{-1}vec{v} ,此即原線性方程組的解。

接下來我們考察 det(A)=0 的情況:

  • 此時空間被壓縮到較低的維度,此時沒有逆變換,因為無法將一條線無損地「解壓縮」為一個平面。若壓縮後的向量剛好落在壓縮後的空間上,則解存在;否則不存在。如圖所示。

  • 自然地,要完整明白地說清楚解的情況的話,必須要講到齊次線性方程組、非齊次線性方程組、增廣矩陣、秩等概念。下面可能會有所涉及。但這部分內容目的僅在於直觀理解線代,所以不會進行講解。估計以後會專門寫一篇來填坑~

這裡需要說明一下,前面介紹非方陣時提到過 mtimes n 維非方陣( m > n )可以將低維空間映射到高維空間。注意這裡是「映射」,而不是「解壓縮」。映射的意思是將低維空間放到更高維度的空間里,好比從將一張沒有厚度的紙放到三維空間,它還是二維的。紙不會因為被放到三維空間就變成了三維。(其實將非方陣補0成方陣後就會發現,全0的列對應的就是該維度基向量為0向量)

列空間與秩

對於det(A)=0使空間壓縮的情況,我們使用「秩」(rank)來描述變換後空間的維度。當變換結果為一條直線時,即變換後空間為一維,稱該變換的秩為1;當變換後結果為一個平面時,即變換後空間為二維,稱該變換的秩為2;以此類推。注意,這裡說的是「該變換的秩」,即秩這一概念的對象是變換矩陣,當變換矩陣為3*3維時,它的秩仍可能為2或1,意味著經過該矩陣變換後空間被壓縮成一個平面或一條線。

列空間:所有可能的輸出向量 Avec{v} 構成的集合。也即矩陣列向量所張成的空間。

因此,秩的精確定義為矩陣列空間的維度。當秩與列數相等時,秩達到最大值,此時稱「滿秩」。

零空間(核)

  • 零空間一定包含在列空間中,因為線性變換必須保持原點位置不變。
  • 對滿秩變換來說,變換後落到原點的只有零向量自身。
  • 對非滿秩變換,由於空間被壓縮,變換後會有一系列向量被壓成零向量,即落在原點。
  • 變換後落在原點的向量的集合,就稱為矩陣的「零空間」,或稱為「核」
  • 對線性齊次方程組,零空間給出的就是向量方程所有可能的解。對非線性齊次方程組,若解存在,則零空間給出的就是基礎解系。

小結

  1. 矩陣的逆,相當於求一個線性變換的逆變換。 A^{-1}A 稱恆等變換。
  2. det(A)ne 0Leftrightarrow A^{-1}存在det(A)=0Leftrightarrow A^{-1}不存在
  3. 矩陣的秩,即矩陣列空間的維度。更形象一點的表述為變換後空間的維度。
  4. 變換後落在原點的向量的集合,稱為矩陣的「零空間」,「核」。

========================================

本系列其他文章:

將線性代數形象化(一)· 向量

將線性代數形象化(二)· 矩陣與線性變換

將線性代數形象化(三) · 行列式


推薦閱讀:

坐標係為什麼是正交的?
【線性代數】為什麼矩陣求逆行列變換不能混用
如何直觀地理解拉格朗日插值法?
模式識別與機器學習第八講(附錄C, 2)
特徵值和特徵向量[MIT線代第二十一課]

TAG:线性代数 |