《深度學習》「花書」的佐餐，線性代數就從這份筆記開始吧

原作：Hadrien Jean

線性栗子 編譯自 GitHub

量子位 出品 | 公眾號 QbitAI

最近，巴黎高等師範學院的博士生Hadrien Jean，整理了關於深度學習「花書」的一套筆記，還有幸在推特上被Ian Goodfellow老師翻了牌。

這份筆記是針對「花書」的線性代數一章，快要畢業的Jean希望初來乍到的小朋友們，可以在筆記的輔佐之下，了解深度學習里最常用的數學理論，並加以輕鬆的支配。

要解鎖自己的數據科學技能，或許就要從線性代數開始。而對於深度學習領域的大家，如果把理論和代碼搭配食用，療效可能會更好。

而Jean在筆記里列舉的各種例子，可以幫助初學者用一種更直觀且實用的方式，學好線代。要跟住他的腳步，可能需要準備好Numpy和Python。

現在，我們來看一下，這份筆記走的是怎樣一個療程——

1 標量、向量、矩陣和張量

這一課講了向量和矩陣，以及它們的一些基礎運算。另外，這裡介紹了Numpy的一些相關函數，也淺淺地談到了Broadcasting機制。

2 矩陣和向量的乘法

本小節主要討論的是，向量和矩陣的點積，我們可以從中了解矩陣的一些屬性。之後，便是用矩陣符號來創建一個線性方程組——這也是日後的學習里，經常要做的事情。

3 單位矩陣和逆矩陣

我們要了解這兩種矩陣為什麼重要，然後知道怎樣在Numpy里和它們玩耍。另外，本小節包含用逆矩陣求解線性方程組的一個例題。

4 線性依賴與線性生成空間

線性方程組，除非無解，不然要麼有唯一解，要麼有無窮多解。

看著圖像，我們可能更直觀地了解，這件看上去理所當然的事情，背後的道理是什麼。

回到方程組的矩陣形式，感受Gilbert Strang說的「橫看成嶺側成峰」——豎看幾個方程，橫看一個方程里的多個係數。

然後，我們要理解什麼是線性組合，還會看到關於超定和欠定方程組的幾個例子。

5 範數

向量的範數是個函數，將一個向量輸入，我們就得到一個正值——可以把它看做向量的長度。

範數可以用來衡量模型預測值與實際值之間的距離。

6 特殊的矩陣和向量

一些矩陣和向量，會有和普通矩陣/向量不一樣的有趣特性。雖然，這個小節不長，但對理解後面的內容會有幫助。

7 特徵分解

這裡，有線性代數的一些主要概念。我們可以對特徵向量和特徵值，有一個初步的了解。

大家將會看到，矩陣並不像外表那樣單調，它們可以作為線性變換的工具。用一個矩陣對它的特徵向量做些加工，便會得到方向相同的新向量。

然後，矩陣還可以用來表示二次函數。利用矩陣的特徵分解，可以找到對應函數的最大值和最小值。

如果堅持讀到這個小節，就可以解鎖用Python將線性變換可視化的操作。

8 奇異值分解 (SVD)

這是除了特徵值分解之外的，另一種矩陣分解方式。SVD是將一個矩陣，分解到三個新矩陣裡面。

依照「將矩陣看做空間的線性變換」這一理念，我們可以將這些新的矩陣，當做空間的子變換——變換並非一步達成，而是經過了三個分解動作。

走到這裡，就可以撿起「將SVD用於圖像處理」的新裝備。

9 摩爾-彭若斯偽逆

在研究矩陣的路上，我們會遇到不同的風景。

並不是所有矩陣都有自己的逆矩陣。不幸之處不在於孤獨，而在於逆矩陣可以用來解方程組。方程組無解的時候，也就沒有逆矩陣。

不過，如果將誤差最小化，我們也可以找到一個很像解的東西。偽逆便是用來找假解的。

10 跡

上圖就是矩陣的跡。後面講到主成分分析 (PCA) 的時候，會需要這個看上去不怎麼厲害的東西。

11 行列式

行列式是一個奇妙的數值，可以告訴我們關於矩陣的很多秘密。

12 主成分分析 (PCA) 例題

恭喜大家來到線性代數的最後一課。

用上前十一課傳授的全部技能，便能掌握這一數據分析重要工具的使用方法。

雖然，我還沒有非常了解，用Python和Numpy學線代，會是怎樣一種愉快的體驗。不過，這份筆記看去有幾分軟妹，圖片配色和我學線代那年所見的硬漢畫風截然不同，相信初學者的各位也會很有食慾的。

據說，「花書」和春天更配哦。

全套筆記真容在此：

花書線代章節在此：

— 完 —

歡迎大家關注我們的專欄：量子位 - 知乎專欄

誠摯招聘

量子位正在招募編輯/記者，工作地點在北京中關村。期待有才氣、有熱情的同學加入我們！相關細節，請在量子位公眾號(QbitAI)對話界面，回復「招聘」兩個字。

量子位 QbitAI · 頭條號簽約作者

?? ? 追蹤AI技術和產品新動態