【原著解讀】丹尼特的《心靈的演化》：後智能設計時代

我們理解的限度是什麼？

不同於其他物種，我們人類就是智能設計者（intelligent designers）。我們設計出各種各樣的工具，來擴展我們的能力。其中也包括思維工具，它們讓我們的思維能力得到極大的擴張，能讓我們用10分鐘的時間勝過亞里士多德多年的思考。

我們人類生活在大自然中，也生活在自己所建構的虛擬現實之中。大自然中沒有貨幣和法律，這些都是虛擬現實中的虛構物。這些入侵了我們大腦的模因，給了我們強大的智能。擁有智能的人類所建構起來的社會，我們稱之為文明。

文明化的人類，有能力理解自己的文明嗎？我們能用自己的頭腦來自己頭腦這團超複雜的神經網路嗎？

這看似不可能的任務，就像提著自己的頭髮從而飛起來一樣，實際上是有可能的。因為人類並不是用頭腦來理解頭腦，我們是在用作為模因虛擬機的心智來理解物理上存在的神經網路。而這台模因虛擬機會隨著思維工具的載入數量增多，而變得越來越強大，解謎能力也越來越強。

喬姆斯基曾經區分了可解的問題與不可解的謎題。他認為前者是科學專註的目標，後者則是神秘且可不知的東西，諸如人類的意識以及自由意志。丹尼特不認可喬姆斯基的說法，他認為人類的語言能力賦予了人類如同超能力般的智能，一些問題之所以看似神秘，是因為表述得不夠清楚。等科學家或哲學家們把問題問得足夠清晰，謎題自然就變成問題了。

也許，單個人的理解能力的確有限，但今天的科研事業已經不是獨行俠的工作了。絕大多數論文都不止一個作者。從事實驗研究和田野調查的科學家們不一定完全理解了他們所使用的數學工具和理論模型。而冥思苦想的理論科學家們也不一定掌握了做實驗的人腦中的所有信息。沒有人讀過所有論文，重複過所有的實驗。我們人類大多依賴團隊和集體的能力，來理解某個複雜的現象。這可以被稱之為分散式理解，整個團隊能理解所有事情，但任何一個單一成員都無法理解全貌和所有細節。

「媽媽你看！，我沒有手了！」

本節開頭，丹尼特引用了兩句重要的話。一是懷特海說的「Civilization advances by extending the number of important operations we can perform without thinking about them.」二是費曼說的「What I cannot create, I do not understand.」

懷特海的意思是說，文明的發展在於，人們不動腦子就能達到的表現水平越來越高了。剛開始，人們要思索半天，才能解決一個複雜的問題。後來，人們幾乎不用思考，就能解決複雜的問題。比如，今天的我們用滑鼠點幾個按鍵，就能對數據進行統計分析。以前的研究人員還需要自行計算並查表，現在全都交給計算機軟體自動化處理了。

但費曼又說，我們不能創造（製造）的東西，我們就不理解。現在的機器學習技術越來越先進，演算法能達到的表現，已經不是程序員們所能理解的了。以圍棋程序AlphaGo為例，團隊中的任何一個人的圍棋水平都達不到AlphaGo的水平，人們無法理解AlphaGo的「思路」。我們創造不出某個走棋結果，自然也理解不了這個走棋結果。

這意味著，我們人類已經能創造自己理解不了的東西了。這就像是一個黑箱，我們往裡面輸入數據，它就吐出分析結果。但我們都無法理解這個黑箱的運作過程。引用一段原文：Today, we are generating brain-children, and brain-grandchildren, and brain-greatgrandchildren that depend on processes we cannot follow in detail, even when we can prove that the results are trustworthy.

智能主體的結構

IBM的沃森是一款能用自然語言回答問題的人工智慧系統，它曾在某個類似百科知識式答題比賽中戰勝人類選手，引起許多媒體的關注。當時（2011年），人們又開始討論，人工智慧會不會超越人類？

學界的研究和公眾的認識，總是有一定的脫節。公眾主要通過大眾傳媒來了解科學進展，而研究者則通過專業的期刊以及和同行們交流來了解研究進展。當AlphaGo在2016年打敗李世石時，人工智慧威脅論又開始引起喧囂。

我們的確能看到，人工智慧程序的的能力越來越強，但它們真的會像某些科幻電影或科幻遊戲中所展現的那樣，成為人類的威脅嗎？它們會產生自主意識，並視人類為威脅，試圖消滅或奴役人類嗎？

在之前的章節中，我們看到了丹尼特對人類的智能和意識所做的研究。人類是地球上只能最強的動物，是格里高利式造物。而海豚、黑猩猩、烏鴉、狗等聰明的動物，也只達到了波普爾式造物的水平。人類頭腦中寄生著許多模因，尤其是那些語詞模因，它們是強大的思維工具，給了人類反思式的理解能力。

人類可以理解那些模因的意義，而計算機並不理解，它們只是按照規則進行計算。或者說，IBM的沃森並不真的理解節目主持人提的問題，它只是對自然語言進行處理，然後利用某種演算法，從自己的資料庫中尋找最可能的回答。我的電腦剛升級Win10系統時，有了小娜這個有趣的功能。那時，我花了一個下午「調戲」她，讓她給我唱歌、朗誦詩詞、講故事、搜索天氣、講笑話、聊天等等。但往後，我就對她失去了興趣。因為她並不是真正的她，她並不理解我說的話。當我說雙關語時，她無法像人類一樣給出恰當的回答。

丹尼特認為，計算機原則上是可以實現強人工智慧的，但我們不應該去追求強人工智慧。我們應該把機器當作工具來利用，而不是試圖建造機器人同事，來發揮人類應該發揮的作用。人類做出決策，承擔責任。而我們不應該讓機器做出決策，因為機器無法承擔責任。

引用一段原文：Curiosity killed the cat, according to one meme, and animal curiosity, driven bottom-up by the presence of novelty, is an important high-risk, high-payoff feature in many species, but only human beings have the capacity for controlled, systematic, foresighted, hypothesis-testing curiosity, a feature of the users that emerge in each brain, users who can exploit their brains』 vast capacity for uncovering statistical regularities. The user-illusion of consciousness plays the same role in each of us that the human-computer interfaces of Watson and other deep-learning systems play; they provide something like a showcase for talents, a 「marketplace of ideas」 in which real-time evaluation and competition can enhance the speed and resolution of quality control.

丹尼特想說的是，人類是一種活生生的動物，我們有著自己的好奇心，還會去控制自己的好奇心。而機器則是無生命的工具，在可預見的時間內，我們都難以發明像人類一樣的機器。發明像人類一樣的機器，最低成本的方式，還是生孩子。

順便一提，丹尼特認為，圖靈測試的確是檢驗強人工智慧的好方法，因為和人類進行開放式的溝通，已經要求溝通者能把握自由漂浮的理由。而這已經是人類不同於其他動物的核心特徵了。如果機器能實現這個功能，那麼我們就不應該再把這個機器當作工具，而應該當作具備主體性的人了。但丹尼特並不認為目前的深度學習技術，可以在50年內達到強人工智慧的程度。強人工智慧威脅論在丹尼特看來，只不過是類似都市傳說的無稽之談。

我們的未來

毋庸置疑，機器已經能在許多方面戰勝人類。舉重成了一種表演式的運動，而不是像古代一樣，有一定的實用性。今天的我們不再教孩子使用計算尺，而是教孩子使用計算器。如果有些問題只需要按幾個按鈕就能解決，那我們就應該教孩子如何按那些按鈕，而不是強迫孩子們死記硬背那些枯燥的信息。大部分情況下，我們只需要將原理講解一下，然後教會孩子們操縱某個黑箱機器就行了。

但是，如果涉及醫學教育，情況就有些複雜了。假定IBM的沃森為病人做出的診斷，比有著幾十年臨床經驗的老醫生所做出的診斷，從統計上看，更可靠。那麼，我們還要訓練新醫生嗎？乾脆讓人工智慧程序為我們診斷疾病，如何？但是，如果誤診怎麼辦？誤診的話，是IBM公司負責，還是使用IBM的沃森的那家醫院負責，還是按按鈕的那個醫生負責，亦或者病人自己負責？我們總不能讓沃森這台機器負責吧。

丹尼特在這個問題上，沒有給出明確的回答。不過，它區分出兩種類型的機器。一種是類似推土機一樣的機器，可以讓一個普通人擁有強大的土木工程作業能力。還有一種就是健身房裡的健身機器，它可以增強我們的肌肉，讓我們變得更有力量。

丹尼特和他的同事一直在開發後一種機器，這種機器可以訓練人類的腦力，讓人們的想像力變得更強，智能水平更高。不過，大家不要覺得這種機器很神奇，它其實就是目前已經在使用的教學工具而已。

丹尼特認為，人工智慧給我們帶來最大的危害，並不是它們會在某些方面的表現超出人類，而是人類傾向於高估它們的能力。目前的所有人工智慧程序，以及在可預見的未來里，將要開發出的人工智慧程序，其實全都是工具。它們不具備反思式的理解能力，它們不用負責任。而使用這些工具的人類，會誤以為這些工具像人類一樣會思考，會誤以為這些工具會在受到損害時自我修復。人類一旦完全依賴這些工具，情況就很糟糕了。

丹尼特引用了他的朋友侯世達寫給谷歌的公開信。侯世達向谷歌抱怨說，谷歌搜索引擎總是試圖猜測侯世達想表達什麼意思。當侯世達搜索關鍵詞「BAC」時，谷歌根據統計分析，會認為侯世達可能想要搜索「ABC」，然後自動顯示ABC的結果。但是，侯世達並不是這樣想的，他有時候就是想要知道「BAC」的搜索結果。換句話說，當某些人搜索某些小眾的關鍵詞（甚至是病句時），這些人的確是想要知道這些關鍵詞的搜索結果，而不是讓谷歌「自動糾正」我們人類的想法。侯世達有時候會對這種「自動糾正」功能非常反感，因為這些機器試圖猜測侯世達心裡在想什麼，但總是猜不對。

丹尼特認為，現在情況已經很緊急了。越來越多的人誤以為機器可以像人一樣思考，我們開始像依賴同事和親友一樣依賴機器。而這是一個嚴重的錯誤，必須儘快糾正。我們必須認識到，機器只是工具，不是人。人工智慧這種看起來很聰明的機器，也只是工具，不是人。不要讓機器成為我們僅有的信息過濾器，不要讓機器決定我們應該知道什麼，不應該知道什麼。當機器開始給你推送信息，說「你可能對這個東西感興趣」，機器並不用為自己的推送而負責。如果我們只看機器給自己推送的信息，那就會陷入偏見之中，無法理解真實世界的全貌。

終於回到家了

丹尼特在這最後一節總結了一下全書。我盡量按照他的原意，複述一下整個內容：

在旅程之初，我們了解了笛卡爾的想法。笛卡爾認為「自我」是某種抽象的靈魂，它不由物質組成，它是存粹的思考者。笛卡爾的二元論思想，其實也是大多數人的默認思想。以笛卡爾講這種常識表述得非常清晰，而且他為結論給出的論證，也看似非常合理。

但是，隨著科學的發展，我們漸漸發現，笛卡爾的想法不符合科學世界觀。這個世界中的一切，似乎都由物質、能量、信息等客觀的東西組成。這個科學世界裡，容不下靈魂的位置。為了調和人類顯象圖景和科學圖景的矛盾，丹尼特援引了達爾文的危險觀念。

丹尼特認為，達爾文就是這個世界上最偉大的哲學家。許多人都嚴重低估了達爾文提出的演化論究竟有多大的威力。如果我們接受演化論，那就可以推出，盲目的自然選擇過程，能夠產生出精妙的智能結構。心靈（智能、意識等）這種看似神秘的東西，其實也是一步步慢慢演化出來的。

接下來，我們知道了，有些理由是自由漂浮的，不需要推理者，也能存在理由（reasons without reasoners）。不需要理解，也能有能力（competence without comprehension）。達爾文的演化論聯通了「何以如此（How come）」和「為了什麼（What for）」這兩類解釋，它是解答諸多哲學謎題的鑰匙。

在理解了達爾文反直覺的思想後，我們又遇到了另一位思想史上的巨人：圖靈。圖靈的洞見也違反了大多數人的常識。根據圖靈的理論所誕生的計算機，就是一種不理解「計算」但是又有計算能力的機器。如此一來，我們又遇到了一個問題。如果「理解」或者「反思」並不是智能的源泉，那還要它有何用？如果不理解，一樣能具備能力，那為何還要理解？

這個問題讓我們開始反思信息的本質。信息是值得竊取的設計（information as design worth stealing），這個定義強調了信息對於有機體的價值。而香農的資訊理論給信息下的定義，是從一種物理學的客觀視角上來衡量信息的量。香農意義上的信息，和日常生活中所講的信息，不是同一回事。

有機體利用這些有價值的語義信息，來保護自己，維持自己的存在，並且自我複製，繁衍後代。我們人類也是有機體的一員，也會利用一切可以利用的信息，來實現自己的目標。對於絕大多數有機體來說，這種利用信息的過程都是自下而上的信息處理過程。它更像是市場經濟，而不是計劃經濟。

「達爾文過程」是理解所有過程的關鍵。簡單點說，就是盲目地複製，盲目地試錯。有些淘汰，有些生存下來。生存下來的又產生隨機的變異，一些變異會幫助有機體複製得更廣，一些變異則會讓有機體的複雜數量變小。這種差異化的複製（繁衍）過程，即是理解生命起源的關鍵，也是理解物種演化的關鍵，還是理解神經過程的關鍵。甚至，它也是理解人類群體行為的關鍵，理解人類文化的關鍵。

人類的心智是如何演化出來的呢？觀察人腦，我們可以發現，每一個神經元就像是野生神經元（feral neurons），它們似乎有著自己的想法，想要獲取能量，發揮作用，生存下來。這些神經元還會被外物所寄生。人腦中的神經元被模因所寄生，尤其是語詞模因，這是它們給了人類超越黑猩猩、海豚、烏鴉等其他物種的智能水平。

語詞模因的自我複製（Words striving to reproduce）是理解人類文化的關鍵。所有的動物都在其活動環境（Gibsonian affordances）中趨利避害，而人類的活動環境（affordances）已經不同於其他所有動物了。可以說，人類並不生活在自然環境中，人類生活在虛構環境中。人類的世界裡，存在著一些對於其他動物來說並不存在的東西。尤其是那些思維工具（thinking tools)，它們就像是文化雲端應用商店中的小軟體，每個安裝了特定虛擬機（通常是母語虛擬機）的人，都可以從文化雲端中下載這些小軟體，增強自己的思維能力。

文化也在不斷的演化，它的演化過程從無方向式的隨機演化，變成有方向的智能演化。原因是因為，人類的思維能力已經足夠強大，我們已經能夠理解演化的過程，也就可以操縱演化的過程。我們就是名副其實的智能設計者（intelligent designers），我們能夠理解模式，而不是僅僅做模式識別。

和其他所有動物一樣，人類也由基因所設計，但人類還由模因所設計。兩者對人類的共同作用，讓人類產生了意識，一種良性的用戶錯覺。我們人類有了Wilfrid Sellars所說的顯象圖景，這個圖景和科學圖景差異很大。為了讓我們理解兩者之間的衝突，丹尼特又援引了休謨的洞見。如此一來，我們就能認識到，人類所以為的原因，其實更多是結果。人類以為世界是顯象圖景中的樣子，但實際上，世界更像是科學圖景中的樣子，而且援引科學圖景中的知識，我們還可以解釋為什麼人類會有這種錯覺。

隨著人類的智能越來越強，我們已經能夠創造出更有智能的機器，也就是人工智慧。自上而下式的GOFAI（老式人工智慧）漸漸被自下而上式機器學習系統所取代。這也體現了Orgel』s Second Rule（Evolution is cleverer than you are）的意義。但我們也不必擔心強人工智慧會像科幻電影中那樣對人類倒戈相向。因為這些自下而上式的機器依然無法理解人類能理解的東西。這些工具要想發揮正常的功能，依賴於人類。同時，人類也依賴這些工具。

筆者的補充

丹尼特的英文原文讀起來比較押韻，很帶感。但翻譯成中文後，完全沒有那個韻味了。所以，我建議大家還是去讀一讀原文。一方面，我的解讀會跳過絕大多數細節。甚至，還可能有理解上的誤差和錯位。另一方面，我會不由自主地強調心靈哲學對於批判性思維教育的意義，而丹尼特倒不是很關心這個問題。

如果大家忘掉了一些細節，那還可以試著以下面12條反常識的結論為線索，試著努力理解一下丹尼特想要展示的世界觀：

1.奇怪的達爾文式倒置推理（像人類這樣有智能的動物，是由無智能的盲目演化過程所設計的產物）

2.無需推理者的理由（有些理由是自由漂浮的，它們不需要被有機體理解）

3.無需理解的能力（某個東西不需要有人類這樣的高階反思能力和理解能力，一樣能展現許多嘆為觀止的能力）

4.奇怪的圖靈式倒置推理（不需要理解計算，就能實現計算功能）

5.信息是值得竊取的設計（信息對於有機體來說是很有價值的東西，它能幫助有機體趨利避害，更好地繁衍後代）

6.達爾文主義的達爾文主義（達爾文過程（差異化複製）是理解萬物演變的關鍵）

7.野生神經元（人腦中的神經元和計算機里的人工神經元差異非常大，它就像是有著自己目的的生命體一樣，會主動找工作，維持自己的日常能量消耗，它們似乎不想『死』）

8.詞語正在努力自我複製（詞語是一種可以說出來的模因，它們也在利用人類複製自己。也正是詞語這種模因，讓人類擁有了別的動物所沒有的文化）

9.文化演化的演化（演化過程自己也會演化，從盲目地試錯到定向搜索。它會變得越來越強大）

10.奇怪的休謨式倒置推理（人類往往會誤以為一些屬性是世界本身的客觀屬性。實際上，這些屬性是人類這種動物和世界交互的結果）

11.意識是用戶錯覺（人類主觀的意識是演化出來的用戶錯覺，它是神經過程的結果，並不是神經過程的原因）

12.後智能設計時代（我們已經到了人類與人工智慧機器共存的時代，但我們應該以人類為主體，以人工智慧機器為工具，而不是反過來）

還有些補充內容，因為違反某種規定，屢次發送失敗。可能涉及新無神論思想，或者我也不清楚的敏感詞。不過也沒關係。那些補充內容，我放在以後的文章里，分開補充好了。

歡迎關注微信公眾號：認真想

致力於普及批判性思維與通識教育

認真想小助手微信號：Reason-A