向量/矩陣導數是屬於哪個學科的內容?有什麼好的教材/資料可以推薦?
01-07
最近看書(機器學習方面)經常遇到一些對矩陣/向量求導的運算。想知道這些內容是屬於哪個學科呢?有沒有什麼值得推薦的學習資料?
感謝邀請。
主要是矩陣論的內容吧,下面幾本書中都不同程度地涉及了你所關心的論題,至於是否貼切就不知道了。
1. 張賢達《矩陣分析與應用》清華大學出版社。這是一本很全面的介紹矩陣理論及其應用的書。其中也涉及到了對矩陣(包括向量)求導運算的內容。例如:第5章 梯度分析與最優化中,
這是一些基本法則,你看看跟你需要的內容是不是相符。
2. 下面這本書:
3. 和2.類似的書還有下面這本:
不過就是多元微積分,或者說是多變數微積分。
只是用矩陣這樣的代數形式寫出來了而已。
形式上的東西,不用在意。
張量分析
推薦一個自己前一陣兒整理的筆記吧,不講嚴格的分析,只講最實用的公式和推公式的心得,希望能幫到後來人。
http://pan.baidu.com/s/1jGFBSNk
裡面有一個 matrix vector derivatives for machine learning.pdf
查詢的話翻 The Matrix Cookbook 就可以了。
想從頭推可以看各種矩陣分析的書。沒必要一步一步推,只要記住常用形式就行了。記不住的話,推導的時候可以參考這個
Matrix Manual: Matrix CalculusDec 2015啊,當時不知道這個網頁是Mike的,現在來他實驗室了。。。好神奇線性代數的內容,資料我推薦《線性代數》(上交版),這本書雖然基本都是羅列知識點,但是還是蠻全面,基礎的。
矩陣論
數學分析和一些高等代數中講了一些,感覺對機器學習已經夠用了。如果想深入了解就隨便找本矩陣論讀。
推薦閱讀:
※行列式與矩陣是什麼關係?
※數學家最初發明行列式和矩陣是為了解決什麼問題?
※二階張量與矩陣的區別與聯繫是什麼?
※矩陣行列式是如何求二階導數?