遷移學習中的domain adaptation的定義說特徵空間相同,這裡指的是什麼意思?

遷移學習中的domain adaptation的定義說特徵空間相同,這裡指的是什麼意思?


我的理解是:

1. 首先,Transfer Learning or Domain Adaptation 的研究是基於兩個(或多個)不同域(Domain)的,它的目的是從一個域中(Source Domain)中學習一些知識,並將其遷移到另外一個域(Target Domain)中來增強目標任務的性能。而這個域的定義是基於特徵空間的。

2. 那什麼是特徵那? 在進行遷移之前,我們要首先通過一些能夠定量化的參量來描述一個事物或問題的屬性,比如,我們描述一個人時可以採用身高L體重M,這些參量是對所研究事物某些方面特點的定量化描述,但是通常一個事物或問題存在許多特徵來描述其特點,比如除了身高和體重外還可以由膚色等特徵來進行描述,而特徵的選擇是影響學習任務性能的重要問題。

3. 知道了特徵,那什麼是特徵空間那?我們還應用上面的例子來進行說明,我們用身高L體重M來描述一個人的特點,那麼就可以應用這兩個量所構成的平面上的某一點來描述一個人的特點,比如一個人身高1.7米,重200kg。那麼,這個平面上的每一個點都描述了一個由這兩個參量描述的人的特點(無論合不合理)。我們把這個數學意義上夠描述所有可能性的「容器」稱為特徵空間。擴展一下,如果有n個特徵向量,那麼它們共同張成的空間稱為n維特徵空間,這個空間內的每一個點描述了一個可能的事物,這個事物在該問題中由n個屬性描述。

4. 對於一個遷移學習問題而言,兩個域的特徵空間相同的意思是,對於這兩個域我們應用了相同的屬性來描述事物的特點(但是,並不是說兩個域相同了,因為還有邊緣概率密度是否相等的問題)。該類遷移學習被稱為homogeneous transfer learning。


推薦閱讀:

人工智慧會如何改變世界?

TAG:遷移學習TransferLearning |