提升方法(AdaBoost)

提升(boosting)方法是一種常用的統計學習方法,在分類問題中,通過改變訓練樣本的權重,學習多個基本分類器,並將這些分類器進行線性組合,提高分類性能。

兩個關鍵問題:

  • 如何改變訓練數據的權值或概率分布
  • 如何線性組合弱分類器

AdaBoost

訓練數據集 T={(x_1,y_1),(x_2,y_2)...(x_N,y_N)}

初始數據權值分布 D_1=[w_{11},...,w_{1i},...w_{1N}],w_{1i}=frac{1}{N}

=============

突然不想寫了,統計學習方法第一遍基本擼完,除了9、10、11像在看天書。決定先不看後面三章了。

接下來準備擼西瓜書和數據挖掘導論和用python造輪子。

剛剛又買了五六本盜版書,好久沒買手癢了。

既然都看到這兒了,少年點個贊可好?感謝!

done 2017年12月4日14:53:07


推薦閱讀:

CS259D:數據挖掘與網路安全講義筆記
【翻譯】Brian2高級指導_狀態更新
機器學習之邏輯回歸分類
機器學習篇-名詞:候選集,覆蓋率
一文弄懂神經網路中的反向傳播法——BackPropagation

TAG:機器學習 | adaboost |