機器學習中隨機梯度演算法要用到負黎曼梯度,如何理解黎曼流形,黎曼梯度?

機器學習中隨機梯度演算法要用到負黎曼梯度,如何理解黎曼流形,黎曼梯度?有沒有一些通俗易懂的資料推薦以便對黎曼微分的快速入門。題主背景:機器學習,最優化問題。請注意是通俗易懂的,理解原理為主。


有本書叫Optimization algorithms on matrix manifold,挺通俗易懂的,可以讀一下。黎曼梯度就是普通梯度投影到tagent space上,說白了就是tagent space這個平面上找一個方向讓函數下降最多


推薦Optimization algorithms on matrix manifolds一書。要深入了解的話,可以再查閱一些基礎的黎曼幾何教材。黎曼梯度就是指黎曼流形上的梯度。


推薦閱讀:

具體哪裡會用到泛函分析和測度論?
如何評價丘成桐團隊關於GAN的論文?
為什麼非科班這麼難進數據挖掘這一行?
量子計算機和量子演算法的出現會給機器學習領域帶來什麼樣的變革,為什麼會帶來這樣的變革?原理是什麼?
在機器學習時代,程序如何利用機器學習的原理反機器學習呢?

TAG:機器學習 | 最優化 | 張量 | 梯度下降 | 黎曼幾何 |