李宏毅機器學習2016 第十九講 結構化學習簡介
視頻鏈接:李宏毅機器學習(2016)_演講?公開課_科技_bilibili_嗶哩嗶哩
課程資源:Hung-yi Lee
課程相關PPT已經打包命名好了:鏈接:https://pan.baidu.com/s/1c3Jyh6S 密碼:77u5
我的第十八講筆記:李宏毅機器學習2016 第十八講 支持向量機
Introduction of Structured Learning
本章主要介紹了結構化學習的原理及應用。
1.結構化學習(Structured Learning)
在之前的學習中,輸入和輸出都是向量。然而在現實生活中,我們需要解決的問題並不都是此類問題。因此我們需要一個更加強大的函數。
其輸入輸出都是對象,而對象可能是序列、列表、樹或者是邊界盒等等。
舉例來說,對於語音識別,其輸入輸出都是序列。
2.通用框架(Unified Framework)
設計一種解決此類問題的通用框架。
在訓練階段找到一個函數F能夠評估出對象x和y有多匹配,越匹配其函數輸出R越大;在測試階段就可以遍歷所有的y找到能夠使得F最大的y,其輸出就是x的輸出結果。
目標檢測(Object Detection)
此時X就是圖像,Y就是定位的邊界盒。
在訓練階段,定位出目越正確函數的輸出值就越大。
在測試階段,就可以遍歷所有可能的邊界盒,找到能夠使輸出值最大的y,就是輸出結果。
當然結構化學習的通用框架也可以應用在文檔總結(Document Summarization)、圖像搜索(Image Retrieval)等問題。
通用框架的另一種解釋(統計學)。
在這種解釋中,可以將F(x,y)解釋為x和y一起出現的概率。關於概率方法的缺點是概率不能解釋所有的事物(Probability cannot explain everything),而且概率值得0-1限制是不必要的(0-1 constraint is not necessary);優點是有意義的(meaningful)。
3.通用框架的三個問題
通用框架主要有三個問題,解決了這三個問題,就能很好的解決結構化學習的問題。
問題1是怎麼用F(X,Y)來計算X和Y之間的匹配性呢?
問題2是說應該用什麼方法來解決這個最大化問題呢?
問題3說的是在給定訓練數據德情況下,怎樣找F(x,y)?
4.總結
本章簡要介紹了結構化學習(Structured Learning),解決問題的通用框架(Unified Framework)以及通用框架的三個問題(Three Problems of Unified Framework)。
推薦閱讀:
※一位老師,一位領導,一個讓全體學生考上目標學校的故事
※具有自學習(Self-paced learning)的集成學習(Boosting)分類器--(IJCAI 2016)--論文筆記
※處理不均衡數據 (機器學習)
※關於設計與人工智慧的十個觀點
※近200篇機器學習&深度學習資料分享(含各種文檔,視頻,源碼等)
TAG:机器学习 |