《artificial intelligence》Lecture 2 Representation Dimensions

1. agent的原理？

it takes in sensory information from its environment, the process is to form some representation, it forms on a model in its head of the world out there, and based on what goal or preferences are and what it knows it can do, and what it knows about its own actions, it constructs a plan and proceeds to change the world in the ways that would make it better for the agent.

2. 從這個過程可以看出來，AI的一個基礎問題是representation？

是的，如何represent the world。

3. representation是表示什麼？

represent the state of the world, and your own state.

所以叫做representing the world and yourself.

獲得knowledge的方式有兩種，一種是已經寫在程序里了，一種是learning。

一般的machine learning用feature來representation，比如用30個feature來表示一個問題的輸入，這種叫做feature-based representation。

這個老師稱feature-based representation為impoverished representation（無力的表示），哈哈。

什麼叫reasoning呢？就是我們獲得了knowedge以後，比如30個feature，我們利用這些feature組成的規則（比如最簡單的線性回歸），來生成我們的result或action，這就叫做reasoning。

可以看出ML就是典型的representation and reasoning。

reasoning有很多種，比如經典logic，或是概率推斷，或是ML從數據中建模，都叫做reasoning。

4. 所以系統基本上都可以認為是RR系統？

應該是的。

想一下從一張照片識別貓狗是不是representation and reasoning system？

是的，CNN的卷積層做的就是representation learning，全連接層做的是reasoning。

representation除了用Deep learning可以自動學到，還可以通過feature engineering手工獲得。

5. 那麼如何進行representation？

首先這個representation要滿足一定條件：

做個題吧：

因為一般來說，我們應該選擇能夠描述該問題，而且又盡量簡單的表示方法。而general意味著表示會更複雜，這樣compuatation complexity也會增加。

所以通常我們比較關係問了解決特定問題的sub representations/tightening representations that just solve the particular problem we are dealing with，而不是general representation。

6. 什麼是anytime algorithm？

In computer science, an anytime algorithm is an algorithm that can return a valid solution to a problem even if it is interrupted before it ends. The algorithm is expected to find better and better solutions the more time it keeps running.

7. AI這整門課是不是就是在學representation和reasoning？

是的！

8. search也是一種reasoning嘛？

我覺得是的，可以把search看作一種reasoning。

9. 不同domain的representation有哪些不同？

在20年之前，基本上都是研究deterministic domain的。

static是指可以一次性把多階段的action都規劃好，而sequential是指只能一個action一個action的決策，因為第一個action後state可能是隨機的。

propositions就是feature的意思，explicit states和features的不同在於，如果有3個燈泡，我們觀察它們的亮滅，那麼explict states有8種狀態，而feature有3個，每個代表一個燈泡的亮滅。

deterministic和stochastic domains實際上也是AI研究的兩大流派所分別研究的領域。

在1970s，這兩派還有點勢不兩立的意思，一個派別的conference不允許另外一個流派的人參加。那個時候，研究deterministic的叫做AI，研究stochastic的叫做pattern recognition（現在叫machine learning）

到了1980s，人們開始意識點，兩派的觀點我們都需要，兩派開始融合。

用feature表示更compactness。

再舉一個火星探索機器人的例子：

10. 這個課程也是按representation去組織的

11. 上面介紹的是最重要的幾個representational dimension，還有其它dimension嘛？

感覺這本書把這些dimension叫做representation dimension有些怪啊，在《人工智慧，一種現代方法》中叫做environment characteristic，感覺更清晰一些。

但是叫做representation也可以，就是對世界的表現形式的抽象。

多agent的問題，這個老師推薦了coursera的一門課：Game Theory | Coursera

所以本門課的內容，就是在不同的representation的情況下，如何進行reasoning。

其它參考資料：

關於knowledge representation：

Knowledge representation and reasoning

推薦閱讀：