[貝葉斯三]之決策函數和決策面
03-03
<個人網頁blog已經上線,一大波乾貨即將來襲:https://faiculty.com/>
/* 版權聲明:公開學習資源,只供線上學習,不可轉載,如需轉載請聯繫本人 .*/
一、決策面(Decision Surfaces)
1.1 概念
如果輸入的數據是一個維空間特徵,考慮一個分類問題,那麼分類器將會把這個維空間的特徵點分為個區域。每個區域顯然就屬於一個類別,如果輸入一個點落在第個區域,那麼就屬於第類。分割成這些區域的邊界就稱為決策面。
1.2 例子
下面是一個簡答的例子:
輸入是一維,決策函數是,將兩個類別的函數取值畫出(如圖的高斯函數圖形)。如圖虛線部分就是決策面(該決策面其實就是一個點),點的左邊因為函數值大,所以判定為第一類。
1.3 數學化
對於兩個相鄰的區域和來說,如果輸入樣本,我們分別計算該樣本屬於第的概率和第類的概率,並定義函數, 那麼此時有如下三種情況。
就是分割 區域和的決策面。
二、判決函數
如果函數是單調遞增函數,那麼判決函數可以定義為如下:決策規則和之前所闡述的一致。
常用的判決函數有如下幾種。
三、小節
- 1維特徵空間:決策面是一個點
- 2維特徵空間:決策面是一條線
- 3維特徵空間:決策面是超平面(Hyperplane)
- 決策區域是由決策面決定的
推薦閱讀:
※Cousera deeplearning.ai筆記 — 淺層神經網路(Shallow neural network)
※深入機器學習系列21-最大熵模型
※機器學習-變數離散之MDLP-20180217
※機器學習演算法簡介
※機器學習入門之邏輯回歸分類
TAG:機器學習 |