最近在看線性代數,對於其中子空間(subspace)的概念很是不理解?

最近在看線性代數,對於其中子空間(subspace)的概念很是不理解:

1. 首先是subspace的定義方式:設W是線性空間V的非空子集,則WV的子空間的充要條件是:(1)若alpha ,eta in W,則alpha +eta in W;(2)若alpha in W, k in R,則kalpha in W

子空間為什麼能這麼定義,又為什麼要這麼定義,好奇怪啊,而且這哪裡體現出「子」這個關係了,不都是W子集自身的加法和數乘的封閉性的體現嗎?

2. 其次是subspace有什麼具體應用嗎?這個概念這樣定義出來有什麼用?


子空間啊,比如說二維平面中的一條線,三維空間中的一個平面。推廣到高維只有靠這樣的定義了。如果你不清楚的話可以這樣看,W是V的子空間,如果W作為集合是V的子集,並且W自身又是線性空間。


1.子空間之所以這樣定義,其實和定義線性空間的思維模式是一樣的,對於一個空間,我們希望空間內的元素經過線性組合之後仍然在該空間內(封閉性),那麼這樣的空間就是一個線性(子)空間。如何能夠實現線性組合仍在空間內呢?那麼只要元素滿足兩條性質,就是你列的那兩條。一個簡單的推理:假設x_1,x_2都在空間內,那麼k_1x_1由性質2就知道也在空間內,相應的k_2x_2也在空間內,再有性質1就知道k_1x_1+k_2x_2在空間內,這樣就證明了線性組合仍在空間內,而證明的基石就是列出的那兩條性質。你所說的哪裡體現出「子」的性質,其實就在於封閉性,這就是「子」的性質,那麼你肯定會問這與原空間的定義有什麼區別,其實沒啥區別,原空間也是原空間的一個子空間,只不過這個子空間是最大的子空間,而最小的子空間是0空間,在這之間有一系列子空間,如直線,平面等等,唯一一點就是這些子空間的標誌性特徵在於它們都是封閉的線性空間,而類似兩條直線或者兩個平面構成的元素集就不可以稱為一個子空間,其實稍微說得深一些,任何有限個子空間的並集都不可能構成原空間,這是外話。在學習線性代數的過程中,一定要牢牢把握線性組合這一概念,這是核心概念,也是標誌著線性空間的核心性質。

2.子空間有很多的應用,但我覺得最廣泛的應用還是來自於奇異值分解(SVD),初學線性代數可能不會接觸到這一方法,但是我可以直觀地和你說明什麼是奇異值分解以及其與子空間的關係。

假如我們在三維空間內有一些離散分布的數據點,但是這些數據點近似分布在一個二維子平面內,可能有一些偏差,那麼奇異值分解所做的就是尋找這個最佳的二維子平面,從而擬合三維空間的數據點分布,這種用子空間去擬合數據的方式實際上就是一般說的線性擬合方法,這裡就涉及到了子空間,下面的圖直觀感受一下svd。

在上圖中,藍色的數據點近似分布在一個二維平面內,svd尋找到了表示這個二維平面的兩個基向量,就是左圖中紅色的箭頭,然後將數據點投影到這個平面內得到右圖所示的數據點近似結果。


子集又具有線性空間結構,當然就叫子空間了


這個講法沒猜錯的話是 《Linear Algebra Done Right》?

從W是V的子空間的定義可以看出要滿足兩個條件:

  1. W是V的非空子集
  2. W是一個向量空間(vector space)
    1. 非空(在第一條中已經滿足)
    2. closed under addition(即若alpha ,eta in W,則alpha +eta in W
    3. closed under multiplication(即若alpha in W, k in R,則kalpha in W

你會困惑是因為這個充要條件其實隱藏了W是V的非空子集這一部分,把它挪到了前提當中,後面的定義確實只是為了使得W滿足向量空間的要求(除了非空在前提中已經滿足)。

可以說W是V的子空間 := W是向量空間 + W是V的子集

至於為什麼要這樣定義,這主要是因為子空間作為原向量空間的子集而同時具有完備性,在後續學習映射、矩陣等知識的時候非常便利。

一上來覺得比較抽象不要緊,帶著疑問往前看,等學完了回頭看看想必會豁然開朗。


我原來也有和你一樣的問題,現在感覺慢慢明白了一點點

但是,現在我反思一下自己不明白的原因,是因為我對線性空間的概念一直理解的不透徹。

什麼是線性空間?即對於加法和數乘封閉的向量的一個集合!

比如平面上x軸和y軸上面兩個單位向量,他們在一個平面上

他們線性組合(加法和數乘)可以鋪滿整個平面!!!!

三維(可以鋪滿整個三維空間)

四維,......n維。

所以對向量的線性組合(加法和數乘)封閉就是線性空間

既然線性空間就是這麼定義的,子空間這麼定義也十分自然呀,不這麼定義反而覺得會奇怪

覺得談子空間一定要針對其所在的線性空間來談。一個七維空間的六維子空間和一個六維空間的六維子空間是不一樣的感覺

自己感覺關鍵是為什麼要定義子空間!

應該是很有用吧~~~~

子空間有什麼作用?感覺子空間和基還有矩陣的秩有著深刻聯繫。在求一個矩陣的列向量所在的子空間的維數的時候,就是通過判斷矩陣的秩來判斷的。如何構造這個矩陣子空間也是通過利用列向量的基來的。然後還可以根據子空間來擴充基,最終構造出來整個線性空間。

這對於很多事情就容易理解了。

為什麼有時候Ax=b是無解的。因為Ax可以看作A的列向量的線性組合,然後A不是滿秩矩陣,所以A的列向量的線性組合構成了線性空間的某個子空間,而b這個向量沒在這個子空間裡面,所以就沒有解了。

比如:三維空間(立體)的一個二維子空間是一個過原點的平面,即Ax,但是b在三維線性空間裡面卻不在這個平面上面,即不在這個子空間上面。所以就無解了。

再舉一個例子,好像也就是通過線性代數來闡釋最小二乘法,還是上面的問題,既然上面的是無解的,那麼我能不能求出一個最接近的結果呢?答案是可以的,那就讓b在這個二維子空間上面投影(線性組合,因為b在平面上的投影肯定在平面上),這樣就肯定有解了,而且這個解是最接近Ax=b中的x的。

還有Ax=0;矩陣A的列向量組成的子空間,和x組成的子空間合起來正好是整個線性空間!


我覺得這兩張照片能夠很好滴回答你的疑惑


記住這句話,三維空間的子空間是平面,平面的子空間是線。

真-子空間滿足兩點

1.子集。

2.降維。

我們老師講完子空間之後我一頭霧水,看了MIT的講解,他直接在平面中畫了一條線,然後跟你說,這就是子空間。(當然,共享0元)


試著這麼理解。

子空間也是一個線性空間,所以他必須滿足抽象的加法和乘法。也就是你給出的兩個條件。

子字體現在了它是線性空間的子集。

由於線性空間已經定義了加法和乘法運算,也就是告訴了加法和乘法這兩個抽象運算到底怎麼進行。所以子集只需要給明其是一個封閉於抽象加法與乘法的。

同時元素零必須在裡面。

舉個簡單的例子,二維坐標系下的平面構成一個線性空間,也就是說坐標系下的點是其元素。那通過原點的直線就是子空間了。


若W 是線性空間V 的非空子集,且W 是線性空間,則W 是V 的子空間。若W 滿足上述兩個條件,不難證明W 滿足線性空間的八條公理,即W 是線性空間,也即W 是V 的子空間。


它是「子」就是因為它是子集呀。。。


雖然我不太懂 線性代數,不過你說的subspace可以去看下 網易公開課 mit的線性代數課程,裡面有關於subspace非常好的解釋。

其實你仔細看你發的關於子空間的定義,

W是線性空間V的非空子集,則WV的子空間的充要條件是:(1)若alpha ,eta in W,則alpha +eta in W;(2)若alpha in W, k in R,則kalpha in W

比較直觀的理解,就是子空間中的向量,經過線性變換之後,還是在子空間中,就是說,子空間中的向量運算在子空間中是封閉的。

這個定義可能跟後面這一個知識點 Ax=0,和Ax=b有關吧

詳細的話,還是推薦看下,網易公開課 mit的線性代數課程。


推薦閱讀:

關於方陣的特徵值和特徵向量的思考
求解零空間的思考
PRML筆記|線代拾遺(1)
SVD分解是對矩陣行空間與列空間的關聯

TAG:數學 | 空間 | 線性代數 |