台大林軒田機器學習課第四講筆記：機器學習的可行性
05-11
本講先通過一些例子證明，如果目標函數 的形態沒有任何限制，那麼學習是不可能的。接下來，課程講述了如何根據取樣的分布判斷樣本的分布，以及取樣得到某事件的概率與樣本中該事件發生的概率的差的上界（Hoeffding不等式）。這意味著，如果所有數據使用獨立同分布產生且樣本量足夠大，可以判斷模型
在樣本外的數據上表現與在已知樣本數據上的表現是接近的。最後，課程證明在數據量足夠，假設集有限的情況下，所有
都滿足前述性質。這意味著對任何演算法
，其返回的模型
在未知樣本上的錯誤率都接近於其在已知樣本上的錯誤率，機器學習是可行的
詳細內容戳我
推薦閱讀：
※RF、GBDT、XGBoost常見面試題整理
※Coursera Machine Learning疑惑與解答-第1篇-Week3 Assignments
※機器學習不僅僅是模型
※Building Deep Neural Network from scratch-吳恩達深度學習第一課第四周習題答案(1)
※機器學習課程筆記---（1）單變數線性回歸
TAG:機器學習 |