大數據與深度學習區別？

01-16

老是看到大數據數據挖掘深度學習機器學習等，，請問下這些有什麼區別呢？

簡單來說：

1）深度學習（Deep Learning）只是機器學習（Machine Learning）的一種類別，一個子領域。機器學習 &> 深度學習

2）大數據（Big Data）不是具體的方法，甚至不算具體的研究學科，而只是對某一類問題，或需處理的數據的描述。

具體來說：

1）機器學習（Machine Learning）是一個大的方向，裡面包括了很多種approach，比如deep learning, GMM, SVM, HMM, dictionary learning, knn, Adaboosting...不同的方法會使用不同的模型，不同的假設，不同的解法。這些模型可以是線性，也可以是非線性的。他們可能是基於統計的，也可能是基於稀疏的....

不過他們的共同點是：都是data-driven的模型，都是學習一種更加abstract的方式來表達特定的數據，假設和模型都對特定數據廣泛適用。好處是，這種學習出來的表達方式可以幫助我們更好的理解和分析數據，挖掘數據隱藏的結構和關係。

Machine Learning的任務也可以不同，可以是預測（prediction），分類（classification），聚類（clustering），識別（recognition），重建（reconstruction），約束（regularization），甚至降噪（denoising），超分辨（super-resolution），除馬賽克（Demosaicing）等等....

2）深度學習（Deep Learning）是機器學習的一個子類，一般特指學習高層數的網路結構。這個結構中通常會結合線性和非線性的關係。

Deep Learning也會分各種不同的模型，比如CNN, RNN, DBN...他們的解法也會不同。

Deep Learning目前非常流行，因為他們在圖像，視覺，語音等各種應用中表現出了很好的empirical performance。並且利用gpu的並行運算，在模型相當複雜，數據特別大量的情況下，依然可以達到很理想的學習速度。

因為Deep Learning往往會構建多層數，多節點，多複雜度的模型，人們依然缺乏多裡面學習的結構模型的理解。很多時候，Deep Learning甚至會被認為擁有類似於人類神經網路的結構，並且這種類似性被當做deep learning居然更大potential的依據。但答主個人認為，其實這略有些牽強...聽起來更像是先有了這種network的結構，再找一個類似性。當然，這僅僅是個人觀點...（私貨私貨）

3）大數據（Big Data，我們也叫他逼格數據....）是對數據和問題的描述。通常被廣泛接受的定義是3個V上的「大」：Volume（數據量）, Velocity（數據速度）還有variety（數據類別）。大數據問題（Big-data problem）可以指那種在這三個V上因為大而帶來的挑戰。

Volume很好理解。一般也可以認為是Large-scale data（其實學術上用這個更準確，只是我們出去吹逼的時候就都叫big data了...）。「大」可以是數據的維度，也可以是數據的size。一般claim自己是big-data的演算法會比較scalable，複雜度上對這兩個不敏感。演算法和系統上，人們喜歡選擇並行（Parallel），分布（distributed）等屬性的方法來增加capability。

Velocity就是數據到達的速度。對於數據高速到達的情況，需要對應的演算法或者系統要有效的處理。而且數據在時間上可能存在變化，對應的演算法或者系統居然做出調整和即時判斷，以適應新的數據。這就要求我們提出高效（Efficiency），即時（real-time），動態（dynamic），還有有預測性（predictive）等等....

Variaty指的是數據的類別。以往的演算法或者系統往往針對某一種已知特定類別的數據來適應。而一般大數據也會指針對處理那些unstructured data或者multi-modal data，這就對傳統的處理方法帶來了挑戰。

@Bihan Wen 博士已經講了區別。

很顯然，大數據和深度學習完全是兩個不同領域的名詞。大數據在描述數據本身的顯性的一個狀態。而深度學習或者說機器學習則在試圖描述數據內在的邏輯。

所以深度學習（或者機器學習）可以是建立於大數據之上的一些方法論。

當然深度學習（或者機器學習）也可以建立於小數據之上。

更甚至，大數據也可以不依託於機器學習，而只是依託於規則，來尋找數據的內在邏輯。

所以兩者之間並沒有必然的聯繫。

只是說，當兩者聯繫在一起之後，會產生1+1&>2的效應。

關於「大數據」是否是一個偽命題，我不敢確定。

但至少我並不認為這是一個劃時代的、革命性的辭彙。數據自古有之。只是當時我們認為儲存這些雜亂數據代價遠遠超過應用這些雜亂數據帶來的收益。而現在，我們相信這些雜亂數據當中充滿金礦。

而「深度學習」在我看來是一個劃時代的、革命性的辭彙。

它變革了傳統的、構建於特徵工程之上的機器學習的思路。將一部分的領域專家解放，或者說殺死。

多層非線性神經網路模型（深度學習）的強大學習能力，逼近任意函數的能力，使得它與大數據結合後，會獲得更優的描述這個大數據內在邏輯的信息。

當然即使是基於傳統的機器學習模型，當我們給模型更多數據的時候，它往往能夠獲得比較少數據情況下更好的結果。但是，傳統模型弱表達能力，使得它必須通過構建特徵工程來實現數據內在邏輯的挖掘。而特徵工程多數時候都是有損的。而深度學習多數時候避免了這一步。

這決定了傳統機器學習方法和深度學習模型之間的區別。

另外一個真正值得關注的問題是，真正的大數據本身必然是弱標註的，或者甚至於是無標註的。

對於這類數據的處理才是大數據研究者真正應當關注的。

從宣傳心態的角度解釋：

大數據——我很牛逼，我是會玩數據的

深度學習——我超牛逼，分分鐘教你做人

——我要找個女朋友（大數據）

——來，看你骨骼精奇，送你一套不傳之《泡學秘籍》（深度學習）

第一，直男和彎男分別先明確目標，我是要男朋友還是要女朋友？（大數據的核心目標，挖掘出有用的信息）

第二，先找出一些有可能成為男or女朋友的人等，列一個名單。唉，她上次多看了我兩眼，是不是對我有意思？不管了，先列上去。（數據分析，數據處理，數據清洗，去除掉一些干擾因素)

第三，針對每一個潛在對象，深挖根底，知己知彼（是謂熟悉業務邏輯）

第四，名單準備好後，分頭約出來，使用各路泡學招數（機器學習模型，數據挖掘方法粉墨登場）

第五，泡學不一定管用啊，怎麼辦？換套路，換方法，先搞定她閨蜜等等，或者打出各路組合拳。（數據挖掘從來都沒有一個模型通吃的，大多都是好多好多個模型與方法的組合運用，組合方式有串並級等等）

第六，名單上的全都失敗了怎麼辦？很有可能是名單太少，擴大規模繼續來。（數據量太少，挖掘不出有用信息，過擬合欠擬合這些毛病太多）

第七，你使出九九八十一招，打出一記漂亮的組合拳之後終於搞定了一女神級人物了，你可以著書立說揚名於後世，千秋萬代，泡學聖祖！（提出一套自己的機器學習模型，Hinton他老人家十幾年如一日終於抱的美人歸——深度學習）

扯得有些多了，並且有些牽強，大家看看作罷。

大數據是業務驅動的，一個以龐大數據規模為基礎的生態體系。而深度學習等等機器學習模型只不過是這個龐大生態體系里的一些為我所用的工具而已。當然，機器學習不限於大數據領域，諸如人工智慧我認為是不能歸於大數據的。

借著上面的回答：

1. 深度學習（我現在不懂這是個啥）應該屬於machine learning的範疇；

2. big data, 首先這是個營銷概念，並不是個技術辭彙。big data很籠統的把data mining, machine learning, statistical modelling 等等亂七八糟的跟數據分析相關的技術打包來講了，是個營銷概念。

Bihan Wen答得很好了。

簡單地說，大數據描述的是你將要處理的對象，正確地來說，應該是大規模數據(large-scale data)；深度學習描述的是你將要採用的技術。

舉例就是，我運用卷積網路處理十萬胸片。

看了各位的回答我好像明白了，大數據是一個行業上的問題或者說現象，而深度學習是解決這個問題的一個方法（或者說演算法）；當然，深度學習還可以解決其他很多問題，比如計算機視覺，自然語言處理等等。

學習了，雖然還懵逼著。不然來幾個正在做大數據分析的朋友和我聊聊，可能更容易明白：）

深度學習，是機器學習領域的一類方法。

深度學習，很多時候都是指深度神經網路；常用的，如深度卷積網路，自動編碼器，深度玻爾茲曼機。很多有關深度學習的應用，在圖像識別/語音識別領域。

深度學習並不是多麼新鮮的概念，有人說這是一種人工神經網路的復興。對深度學習的研究，關注的是如何訓練/如何簡化深度結構。

如果不是因為谷歌的無人駕駛和弈棋機，大概沒那麼多人關注這個概念吧。