李宏毅機器學習2016 第二十講 結構化線性模型
視頻鏈接:李宏毅機器學習(2016)_演講?公開課_科技_bilibili_嗶哩嗶哩
課程資源:Hung-yi Lee
課程相關PPT已經打包命名好了:鏈接:https://pan.baidu.com/s/1c3Jyh6S 密碼:77u5
我的第十九講筆記:李宏毅機器學習2016 第十九講 結構化學習簡介
Structured Linear Model
本章主要講解了結構化線性模型的求解。
1.結構化線性模型(Structured Linear Model)
在第十九講最後,結構化模型問題通常有三個問題。解決了這三個問題,就可以成功解決結構化學習問題。當問題1中的F(x,y)是一個特有的形式時,問題3就很容易解決。
2.問題1(Problem 1)
在結構化線性模型中,問題1將模型定義為線性的。將x和y用一些特徵characteristics來表示。
再將其乘上權值,線性組合起來形成F(x,y)。
舉例目標檢測。
x為圖像,y為邊界框,上圖中所示的特徵是隨便取的某些特徵。當然可以用CNN卷積神經網路,深度學習的方法來提取特徵。這樣提取的特徵是能work的。
當然其他的文檔總結(Document Summarization)、圖像搜索(Image Retrieval)同樣也可以應用。
3.問題2(problem 2)
在這裡,我們假定已經解決了這個問題。能夠解出最大化問題。
4.問題3(Problem 3)
給定訓練數據,能夠訓練出滿足要求的權值。該權值滿足對於所有的訓練樣本,所有的不正確的樣本與權值乘積和值要小於正確樣本與權值乘積和。
直觀上來看此類問題很難,其實不然。
演算法如上所示,和感知器(Perceptron)學習方法有點類似,且此方法是能夠收斂的。關於為何能收斂涉及太多的數學知識就不進行說明了。
5.總結
通過分析結構化線性模型的三個問題,最終可以將其由三個問題簡化為2個問題。問題變成了如何提取特徵以及怎樣找到最大值。
推薦閱讀:
※「轉行人工智慧」是否前景一片光明?
※識別王者英雄 - 一個 PM 的機器學習入門之旅
※機器學習系列-Logistic回歸:我看你像誰 (下篇)
※Python語言下的機器學習庫
※深度學習在推薦領域的應用
TAG:机器学习 |