CNN卷積神經網路當前最主要的應用除了圖像處理還有其他的應用方面嗎?

再補充問一下: 哪些領域適合deep learning . deep learning 在圖像,語音,文本處理中的成熟程度、商業化程度及商業前景


http://arxiv.org/abs/1502.01710

Text Understanding from Scratch

Xiang Zhang, Yann LeCun

(Submitted on 5 Feb 2015)

This article demontrates that we can apply deep learning to text understanding from character-level inputs all the way up to abstract text concepts, using temporal convolutional networks (ConvNets). We apply ConvNets to various large-scale datasets, including ontology classification, sentiment analysis, and text categorization. We show that temporal ConvNets can achieve astonishing performance without the knowledge of words, phrases, sentences and any other syntactic or semantic structures with regards to a human language. Evidence shows that our models can work for both English and Chinese.


cnn當然也可以做語音啦!但是圖像是最適合的,因為它就是為圖像而生的網路結構!

*?゜??*:.?..?.:*?"(*?▽?*)"?*:.?. .?.:*?゜??*

我說你們這些剛入dl門的傢伙,整天不看論文,就會上知乎問這樣那樣的問題,有什麼用?

有時間多看看論文熏陶熏陶,少開點腦洞!

還商業應用,前景!?你是未來馬雲啊!

懂的人會上知乎嗎?

都在頂會灌水好嗎?有空搭理你們?


自然語言處理

CNN在自然語言處理中的應用很多,這主要得益於文本可以通過詞向量來轉化二維結構的數據(每個詞用n維向量表示,所以一個m個詞的句子就是m*n維的矩陣)。

基本的NLP任務如詞性標註(POS)、命名實體識別(NER)語義角色標註(SRL)等都有paper用CNN玩過,參考論文:Collobert R, Weston J, Bottou L, et al. Natural language processing (almost) from scratch[J]. Journal of Machine Learning Research, 2011, 12(Aug): 2493-2537.(這篇2000+引用量的論文NLP研究者都會看過的)

場景應用的任務:

1、信息抽取:

  • 關係抽取:自動化所用分段CNN做的Zeng D, Liu K, Chen Y, et al. Distant Supervision for Relation Extraction via Piecewise Convolutional Neural Networks[C]//Emnlp. 2015: 1753-1762.
  • 事件抽取:也是自動化所的Chen Y, Xu L, Liu K, et al. Event Extraction via Dynamic Multi-Pooling Convolutional Neural Networks[C]//ACL (1). 2015: 167-176.

2、問答系統:

  • 問答系統的問答對匹配的子任務可以看作句子相似度匹配。這方面有用多角度CNN(MP-CNN)做的。He H, Gimpel K, Lin J J. Multi-Perspective Sentence Similarity Modeling with Convolutional Neural Networks[C]//EMNLP. 2015: 1576-1586.

3、機器翻譯

  • 前一陣被媒體吹上天的Facebook用CNN做的神經機器翻譯。Gehring J, Auli M, Grangier D, et al. Convolutional Sequence to Sequence Learning[J]. arXiv preprint arXiv:1705.03122, 2017.

4、其他

  • 其實CNN本身的結構是與NLP任務不太搭配的,所以還有一些有意思的CNN的變種。比如這個門限層次CNN,用金字塔狀的卷積來自適應的學到句子的向量表示。Zhao H, Lu Z, Poupart P. Self-Adaptive Hierarchical Sentence Model[C]//IJCAI. 2015: 4069-4076.

某些有意思的場景

除CV和NLP外,還有很多領域也有CNN的成功應用。比如信息安全領域用CNN來做流量分類(將流量建模成圖像,然後流量分類任務就成了圖像分類)。可惜論文找不到了=.=


CNN的強大之處在於可以將低維淺層特徵映射到高維高層特徵,所以凡是滿足局部相關性的數據理論上都可以用CNN來處理,比如語音,比如文本。在自然語言處理上,可以用CNN來做一些基礎任務,比如詞性標記,實體識別,文本分類等,也可以做一些前沿的任務,比如機器翻譯,聊天機器人等等


哈哈哈哈哈,不能我一個人笑


應用場景很多。不管是圖像還是自然語言處理。我還看到過應用在軟體工程里,大體上還是和自然語言處理差不多...

商業化前景...不是很了解,很多新概念新模型還是停留在論文上...


圖像方面有圖像識別,圖像標註,圖像主題生成,圖像內容生成,物體標註,等。

視頻方面有視頻分類,視頻標準,視頻預測等

自然語言方面有對話生成,文本生成,機器翻譯等

其它方面包括機器人控制,遊戲,參數控制等


還有text/sentence classification~~


Alpha go 就是用CNN做的。關鍵看人的想法


cnn 訓練視頻 有相關論文嗎


推薦閱讀:

多類分類下為什麼用softmax而不是用其他歸一化方法?
為什麼都說神經網路是個黑箱?
為什麼人工智慧的研究都是基於演算法,而不是基於「硬體」?
人工智慧是根據什麼原理來設計和製造的?
有關神經網路和遺傳演算法?

TAG:圖像處理 | 神經網路 |