【認知升級】·第二天|關於思考：Alphago也不過是弱人工智慧

文 | 王爍 編輯 | 儒商詩人來源 | 《30天認知訓練營》 首發於微信

| Begin |

大家晚上好，我是儒商詩人；今天帶來王爍老師「認知訓練營」的第二天課程，這一講課程王爍老師帶來了一個底層問題——關於思考，怎麼樣才能做到更好地思考。

王爍老師在開篇講三個思想實驗

分別它們是圖靈測試、中文屋子和億年機器人。

第一個思想實驗：

—— 圖靈測試 ——

圖片/來源網路

先來講第一個，圖靈測試。

很多年前，現代計算機之父圖靈（Alan Turing）構造出圖靈機也就是計算機的基本概念，他知道猛獸即將出柙。圖靈機本身只是個思想實驗，什麼是思想實驗呢？

科學家理解世界的辦法主要是觀察和做實驗，而思想實驗在現實中也沒法實驗，就用你的想像去構造的實驗。

圖靈機就是這樣一個想像中的抽象計算機模型，但今天最複雜的計算機仍沒有超過當初寫在紙上的圖靈機理論上能達到的能力範圍。

圖靈思考的下一個問題：機器能達到多高的智慧？

他又構造了一個思想實驗，對機器智慧的終極測試——圖靈測試。

想像這樣一個場景：人類與另一方交流，彼此隔離，另一方對於人類來說是個黑盒子，你對他一無所知。交流僅通過「鍵盤—屏幕」進行，人類通過鍵盤輸入，對方通過屏幕回應。如果人類無法通過交流辨別對方是人類還是機器，那麼就可以說機器通過了測試，擁有與人等價的智能。

圖靈自己只關心機器是否擁有智能（thinking），並未涉及機器能否像人一樣獲得「意向（intentionality）」、「意識(consciousness)」乃至「意志（ will）」。但哲學家們就關心這些；不僅哲學家們關心，普通人也關心。

人人都關心機器會不會獲得意向、意識、意志。一旦機器獲得了這些東西，人類在地球上的好日子就算過完了。而且，對人類自己的意向、意識和意志，人類自己還不太明白，還想通過與機器智慧相比較，找到理解我們人類自己的線索。

解釋一下，所謂意向（intentionality），就是心智在場（mind）、表達、代表事物的能力；所謂意識（consciousness），就是知道「自我」；所謂意志（will） ，就是自主選擇。

既然圖靈不關心，哲學家出手綁架了圖靈測試。他們認為，與人等價的智能應該包含意向、意識、意志這些內容。沒有它們，認知何來？不能自知，無法自決，談何智慧？

著名哲學家塞爾（John Searle）把擁有意向、意識、意志的機器智能叫作強人工智慧（Strong AI），而沒有這些只會計算、推斷，解決具體問題的機器智能叫作弱人工智慧（Weak AI）。

今天你能聽到的強人工智慧和弱人工智慧，就是始自於一個哲學家的分類。

在圖靈測試的基礎上，哲學家們提出了新問題：假設機器通過了圖靈測試，那麼它是否已經獲得意向、意識、意志，擁有強人工智慧？

這個問題沒法直接回答。到今天也還沒有任何一部機器通過圖靈測試，也沒有一部機器獲得強人工智慧。現有的所有人工智慧都是弱人工智慧，就算阿爾法圍棋這般碾壓人類圍棋手，也一樣是弱人工智慧。

所以現實中無法檢驗，機器能否獲得強人工智慧。 但是現實中無法檢驗這件事，並沒有難倒哲學家。

第二個思想實驗：

—— 中文屋子 ——

圖片/來源網路

會做思想實驗的又不止圖靈一個，實際上，哲學家倒是思想實驗的鼻祖，從柏拉圖以來，思想實驗就是他們主要的思想工具。

哲學家塞爾構造了一個精巧的思想實驗，同時也是圖靈測試的一個變形，叫作中文屋子（Chinese room）。

中文屋子的精巧之處在於，塞爾自己充當了圖靈測試中被測的機器這個角色，而他確切知道自己這部機器沒有人類智能，於是難題解決。

具體如下：

想像一間屋子，裡面有一個人，就是塞爾自己，一沓紙，一支筆，一個中英文對照表。

人從門縫裡塞進紙條，上面是用中文提的問題。塞爾用對照表查出與其對應的英文問題，給出英文答案，再用對照表查出對應的中文，抄寫在紙條上塞回門縫。

回答完美無缺，屋外的人無法分辨屋裡的是人還是機器，於是圖靈測試通過。

屋內外通過紙條的整個對話應答過程儘管完美，但不存在理解（understanding）這回事——塞爾自己完全不懂中文。

通過將自己置換到機器人的角色，塞爾看到了機器人的「內心」。測試結束，他穿越回來，恢復哲學家身份，告訴大家那個通過 圖靈測試的機器其實並沒有智慧，因為他自己就是那個機器！

他確切知道自己不理解中文，屋子裡的其他所有東西，紙、筆、對照表，也沒有一樣有「理解力」。中文屋子裡沒有理解力，只有單純的計算（computation）。

塞爾認為，沒有理解就沒有意向，也不會有真正的思維，更沒有意識、意志，這些層層遞進的高級人類智慧。他宣布，中文屋子思想實驗說明，哪怕通過圖靈測試，機器也還是機器，不會擁有與人等價的智慧，最多只是貌似而已。

強人工智慧不可能只通過計算獲得，它有賴於大腦還未揭開的某個特殊機理。

塞爾中文屋子成為當代討論最多的思想實驗。這事的本質是這樣的：哲學家先給圖靈測試增加了一個強人工智慧的靶子，然後宣布擊敗了它。並不太公平，但人們還是普遍長出一口氣，沒有想看到機器成為人上人。

我呢，覺的他高興得太早。再來一個思想實驗。

第三個思想實驗：

—— 億年機器人 ——

圖片/來源網路

如果你想親身看到一億年後的地球，現在能想像的惟一辦法是休眠。你爬進休眠艙，然後在一億年後醒來。

可是，問題沒這麼簡單。休眠艙需要經受一億年考驗，要保證能源供給不斷，要能經得起環境災變，萬一受損還得自我修復，數不清的考驗它都得能應付，否則你就再也醒不來了。

你找個最理想的位置，有維繫休眠艙所需的所有資源，然後固定在那裡。行不行？

這不算好辦法，一億年間，地震、海嘯、隕石撞地球，這麼長時段中，想想就知道沒法靠譜地預測風險如何降臨。千年一遇的事情每天都在發生。不然，福島核電站怎麼會出事故？天津港怎麼會發生大爆炸？更別說一億年。

未來無從預測，那怎麼辦？

製造一個能感知環境、迴避風險、尋找資源的機器人，把休眠艙放進去。

說到這裡，你應該明白點了。不動，能動，是從自然界複製而來的兩個策略，前者是植物策略，後者是動物策略。

要求機器擇機而動，你從一開始給它下達了指令，「讓我活著」，然後便沉睡一億年，不再給它臨場指導。你的機器人必須能夠自己制定策略，「知道」如何去尋找資源，如何轉移到安全地帶，如何預判和迴避危險。

這些你既不可能都提前想到，就算想到一部分你也不能事事都提前準備，你準備不起：所需資源太多，太笨重，更不能適應環境變化。

挑戰不止於此。未來一億年不會只有你的那個機器人，可能有許多機器人，彼此競爭、合作。你的機器人得具備合縱連橫的能力，需求層層嵌套。

如果你的機器人最終不辱使命，將你保存到一億年之後，那麼它多半發展出了自運行的能力。你在休眠中，不能實時控制，機器人在保存你生命的最終目標之下，根據環境變遷，會自己衍生出許多次生目標。這是天大的事：衍生就意味著脫離，脫離於當初的目標。

不忘初心，何其之難。允許機器有相機決策自主權，那麼自主決策的進程一定會超越你的預想範圍，這就叫失控。

—— 兩個思想實驗，針鋒相對 ——

講到這裡，你應該多明白一點了。這個故事中的機器人就是人類自己。在演化中，基因創造出人來做它們的機器人，以保護它們在人類身體深處漫漫休眠。人是基因為了自己永生而造出來的機器人，但在基因不得不讓渡的自主決策空間中，人類演化出了自由意志。

我們作為人的利益，與「造物主」基因的利益，走上岔路。從基因不得不賦予人類學習能力，授權自主決策的那一天起，基因失控，人類自立，就成為註定的結果。

一言點醒夢中人。既然人本來是機器，機器何嘗不能是人？

億年機器人這個思想實驗，來自丹尼爾·丹尼特的《直覺泵與其他思維工具》（ Intuition Pumps and Other Tools for Thinking ）。丹尼特是現代進化論科普大家，也是最具科學家氣質的哲學家。在機器智慧與人類智慧的大辯論中，他的看法與提出「中文屋子」的哲學家塞爾針鋒相對。

他認為，不需要什麼神秘的大腦特殊機理，運算層層嵌套，足以湧現出與人類相當的智慧，因為人類智慧亦不外乎是。

在塞爾的中文屋子裡，塞爾這個人、紙、筆、對照表，沒有一樣「理解」中文，但那也沒關係，「理解」從所有這些東西構成的整體中湧現出來。

塞爾和丹尼特，針鋒相對，現在沒法說哪個看法對。有數據的地方，數據說話；沒有數據的地方，故事說話。

現在沒有數據，只能看你喜歡哪個思想實驗多一點。我自己是更喜歡丹尼特，強烈推薦《直覺泵與其他思維工具》這本書。

直覺泵這個詞就是丹尼特為思想實驗發明的，指在沒有證據、數據的地方，我們從公認的直覺開始做思想實驗，看它將我們帶到何方。丹尼特首創直覺泵這個名詞，又恰是從批評塞爾的中文屋子思想實驗開始。

——小結 ——

總結一下，我們今天討論的問題是，思考是怎樣湧現的。

今天主要講了三個經典的思想實驗：圖靈測試、中文屋子和億年機器人。

其中最後一個思想實驗，我特別希望你能記住，它來自《直覺泵與其他思維工具》這本書。

圖片/來源網路

看到這裡，你應該對思考力、思維的本質有些了解了吧？

—— 今日思考 ——

最後王爍老師留下的思考題：

你覺得機器人會獲得人腦的智能嗎？對於上文提到的兩個思想實驗，中文屋子和億年機器人，它們得出的結論是相反的，你更喜歡哪個呢？

歡迎在留言區留下你的感悟與分享你的觀點給你的朋友

下一節課我們將會與王爍老師一起討論一門學問，它會告訴你如何不被無常的命運所傷害。

| End |

關於我對思考題的回答

儒商詩人的回答：

我個人比較傾向於「億年機器人」，說個題外話，當看到王爍老師的這個問題的時候。令我想起了先前看過一本書——《未來簡史》，裡面提到「智神」的概念，而且提到「智人」到「智神」的轉變其中一個方法便是非有機生物工程。

回頭說說「億年機器人」，如王爍老師說道：「在你沉睡一億年之際，機器人會跟進環境等因素不斷迭代，是會逐漸延伸出一個新的趨向於『智能』的機制」。在這個時候機器人理論上是可以具備意向的條件，那是否代表機器人已經是超於人類的「智神」了呢？那麼人類對於已經趨向於智能的機器人而言，會不會給它形成「舊物種」的認知？（好像也完全沒有不可能）

順帶說說中文屋子，我對它的看法是，基於「通過圖靈測試即智能」的認知而延伸出來的思想實驗，感覺這是人類對於智能的主觀認知，缺乏客觀條件。就算通過了也未必智能。

《30天訓練營》·第二天

持續更新中...

關注儒商詩人（微信公眾號：儒商詩人），收看王爍老師的付費專欄《30天訓練營》全部內容

推薦閱讀：