你這是什麼邏輯? | 王培AI專欄
儘管神經元網路對很多專門問題的確非常有效，但仍未解決通用智能系統的核心問題。因為 「思維」 （或稱其為 「智能」 、 「認知」 等等）不能被簡單看成用數據擬合一個函數。本文試圖說明，為什麼仍有理由認為思維遵循某種 「邏輯」 ，但這種邏輯不是 「經典邏輯」 。經典邏輯並沒有錯，但是在知識和資源不足的情況下不能用，而非公理化邏輯則正體現了在這種情況下的理性原則。
王培（美國天普大學計算機與信息科學系）
我在《人工智慧迷途：計算機的高技能等於高智能嗎？》中介紹了 「通用人工智慧」 的概念，並在《計算機會有超人的智能嗎？》中提到了我設計的 「納思」 系統[1]。這個系統的全名是 「非公理化推理系統」 （Non-Axiomatic Reasoning System，NARS）。顧名思義，我試圖構建一個遵從邏輯規則的計算機推理系統，以此實現通用人工智慧。
有些對人工智慧有了解的讀者看到這裡已經開始搖頭了：「基於邏輯的人工智慧不是條死胡同嗎？現在最有希望實現人工智慧的技術不是深度神經元網路嗎？」 我在《機器是如何被騙並騙人的？》中已經簡單說明了我對神經元網路的看法：這項技術對很多專門問題的確非常有效，但仍未解決通用智能系統的核心問題。 「思維」 （或稱其為 「智能」 、 「認知」 等等）不能被簡單看成用數據擬合一個函數。
當然，神經元網路有局限性不說明邏輯就沒有局限性。實際上，基於邏輯的人工智慧所遭到的批評要多得多。下面我們得從頭說起。
「邏輯」 一般是指正確的推理規則，而也常被引申來指正確的思維規則或論證規則。 「首先總結人的思維規律，然後據此構建計算機系統」 聽起來像是個實現 「思維機器」 的合理計劃。這裡的主要難點在第一步，因為對什麼是 「人類的邏輯」 ，學者們仍然是眾說紛紜，甚至思維是否真有 「邏輯」 都是個有爭議的話題。這個論題在邏輯學、心理學、哲學等領域已經討論了兩千多年了。一方面，有理由認為人類思維的確有某些普適規則，否則我們完全不可能互相理解或彼此說服。另一方面，對這種規則的嚴格刻畫僅僅獲得了有限的成功，而大量思維活動仍處於 「無邏輯可言」 的境地。
就其內容而言，一個 「邏輯」 系統主要包括：
1)關於語言的規定，比如一套語法規則。只有滿足要求的語句才可以被處理。
2)關於語義的規定，即指出如何在原則上確定語詞的意義和語句的真值。
3)關於規則的規定，即指出如何正確地從前提語句組合中推出結論語句。
在歷史上影響最大的邏輯系統是亞里士多德建立的傳統邏輯和弗雷格、羅素等建立的數理邏輯。這些 「經典」 邏輯系統在很多領域中取得了偉大的成就，但在解釋人類思維時仍有明顯的局限性，包括下列廣為人知的問題：
·不確定性的表示與處理：經典邏輯中的語句非真即假，而人類知識中往往不可能完全消除各種不確定性，尤其是預測、解釋、概括、分類等推理活動似乎無法得到完全確定的結論。
·非演繹推理的合法性：人類思維在很大程度上依賴于歸納、歸因、類比等推理類型，但它們都可能從真前提中推出假結論，即不具有傳統意義下的 「保真性」 ，所以在經典邏輯中均不合法。
·可修正的常識推理：那些一般有效，但有例外的 「常識」 常常在推理中被作為真前提來使用。在認識到例外發生後，這種推理的一些結論需要修正。比如看到一隻鳥，人們會依據常識認為它會飛，直到獲得相反的證據。
研究者們對這些問題的態度大致可分為三類。在人工智慧的背景下，其典型表現形式分別是：
1.保守主義： 「人的思維不符合經典邏輯那是因為人腦沒進化好。人工智慧應該遵循經典邏輯，而不是模仿人的壞榜樣。」
2.修正主義： 「人的思維不符合經典邏輯那是因為經典邏輯沒設計對。人工智慧應該遵循一種接近人的思維現實的新邏輯。」
3.激進主義： 「人的思維不符合經典邏輯那是因為思維根本不符合任何邏輯。人工智慧應該遵循一種「非邏輯」方案，比如神經元網路。」
本文的目的就是要說明為什麼仍有理由認為思維遵循某種 「邏輯」 （所以激進主義是錯的），但這種邏輯不是 「經典邏輯」 （所以保守主義也是錯的）。其實持這種修正主義想法的人不少，也不限於人工智慧領域。在邏輯學界已經有多種 「非經典邏輯」 被提出來了，包括多值邏輯、模糊邏輯、概率邏輯、歸納邏輯、非單調邏輯、相關邏輯、超協調邏輯等等。這些邏輯系統的一個共同特點是試圖在某一方面改造經典邏輯以符合現實推理活動的要求，而同時在其它方面仍遵循經典邏輯的傳統（見參考資料[2]）。這些 「保守的修正主義」 方案各自都取得了一定的成功，但如果我們的目的是給推理活動以至於思維活動提供一個統一的規範性理論，那麼這些方案就是 「頭疼醫頭，腳疼醫腳」 了，即對 「病源」 的挖掘還不夠深。如果前述問題都是同一個 「疾病」 的不同 「癥狀」 呢？那我們就該需要一種 「激進的修正主義」 了。這正是我的立場。
如我在《人工智慧：何為「智」？》中說明的，有理由把智能看成一種在現實的知識和資源的約束下發揮的高級適應能力。這就要求智能系統必須是 「開放」 的，即新知識和新問題可以在任何時刻出現，且新知識可能和系統已有的知識相衝突，而新問題也可能超出系統已有的知識範圍或時空資源限度。不難看出，我們的日常思維活動常常是在這種情況下進行的，而我們也希望人工智慧系統能在這種條件下工作。但問題是這種系統中的推理總體上無法遵循經典邏輯。
在數學中，推理的正確性（邏輯有效性）是有嚴格標準的，其最典型的形式就是定理的證明過程。這一過程從一組其真值不受懷疑的公理出發，靠推理規則的保真性來逐步證明各個定理。這一過程的可靠性保證了數學中定理的權威地位。但數學之外怎麼辦呢？傳統的辦法是把相對可靠的知識（ 「事實」 ）權當 「公理」 來用，然後靠推理規則的保真性獲得大量具有同等可靠性的導出結論。這個 「公理化方法」 的另一個名稱是 「假說演繹法」 ，其中的前提被當作假說，而靠演繹得到結論。不管怎麼稱呼，這類方法使得數理邏輯在數學之外也得到了廣泛的應用。
一旦推理系統的知識和資源是相對不足的，其中的推理就不再能被看作公理系統中的定理證明，因為系統中沒有其真值完全免受未來經驗挑戰的 「公理」 作為起點。即使某些知識足夠可靠，僅靠它們也往往不足以為所有問題提供可靠的答覆，更不要說所有答覆都還有時間要求。因為系統的加工和存儲能力都是有限的，即使對已有的知識也會有 「沒記住」 和 「沒想到」 的情況。邏輯學界對這類挑戰的傳統回應是說解決這些問題超出了邏輯學的範圍，因為邏輯學只關注封閉系統中的推理問題，且不考慮資源約束。但在現實情況下真的沒有 「邏輯」 可言嗎？在沒有辦法保證結論絕對正確的情況下，真的是隨便怎麼說都一樣有理了嗎？
我在參考資料[1] 中描述了一個 「非公理化邏輯」 NAL（譯成 「娜拉」 怎樣？），其主要目標就是為智能系統（包括人類和計算機）中的推理活動建立一個統一的規範性模型。我試圖以適應性原則為基礎定義一種 「相對理性」 ，即在絕對意義下的 「正確」 不可得的情況下， 「合理的」 的答案就是系統在現實資源約束下所能找到的與以往經驗一致程度最高的答案。在這裡取代 「公理」 或 「事實」 成為真理標準的是系統的 「經驗」 ，而經驗是隨時間積累的，因此不是一個恆定不變的基準。如我在《證實、證偽、證明、證據：何以為 「證」 ？》中所介紹的，在非公理推理系統 「納思」 中，一個陳述的真值是對已有證據的度量。在知識不足的情況下，真值中的不確定性是不可避免的，而推理規則的 「保真性」 不再是保證推理結論與公理或事實完全一致，而是保證推理結論和前提的關係符合這種基於證據的真值定義。在《 「意思」 是什麼意思？》中，我說明了在納思中一個語詞或概念的意義不是其定義或指稱的事物，而是和其它語詞或概念在經驗基礎上所建立的聯繫，因此會隨著經驗積累和情境變化而改變。
和上述語義學原則相配合，NAL的語法規則和推理規則屬於「詞項邏輯」，即更接近亞里士多德邏輯而非數理邏輯。具體說來，詞項邏輯中的典型陳述是 「主謂句」 形式的，如 「甲是乙」 ；其中的典型推理規則是 「三段論」 形式的，如從 「甲是乙」 和 「乙是丙」 中推出 「甲是丙」 。在這種邏輯中，一個典型陳述表達了兩個概念間的可替代關係（ 「是」 ），而一個的典型推理規則表達了一種從已有的概念替代關係中建立新的替代關係的方式。作為一種多值邏輯，NAL中的每個陳述依照《證實、證偽、證明、證據：何以為 「證」 ?》中的定義得到一個真值，以刻畫經驗對其支持（或反對）的程度。每個推理規則根據前提（及其真值）確定結論（及其真值）。
這篇短文自然無法描述NAL的細節（見參考資料[1]），而只是指出有這麼一種 「邏輯」 存在，並例舉其一些有趣的特徵。
首先，說NAL是個邏輯，是因為其目的是將 「合理的推理」 規範化、形式化和計算機化。這裡以 「推理」 涵蓋思維活動的各種基本步驟。在目前的納思系統中，NAL不僅統一實現了多種傳統意義下的 「推理」 （如演繹、歸納、歸因、比較、類推、修正、選擇、抽象、預測、解釋等），而且統一解釋了很多傳統上不被看作 「推理」 的認知功能或現象（如學習、規劃、決策、感知、行動、通訊、記憶、注意、靈感、直覺、想像、情感、遊戲、審美等）。上述功能和現象以後會逐步介紹，而這裡只是討論和「邏輯」這個概念關係最密切的問題。
說NAL是 「規範性」 的，是因為上述功能都是建立在一個統一的 「相對理性」 的基礎之上的。因為這個理論預設比其它規範性推理模型（如數理邏輯和概率論）的預設更接近於人的現實，所以納思的表現和人的思維活動更加接近，儘管其設計目標並不是在所有細節上模擬人類行為（見《圖靈測試是人工智慧的標準嗎？》中的討論）。比如說，很多以往被看作 「謬誤」 和 「偏見」 的現象在納思中成為不可避免的（儘管並不一定是有益的）。
雖然有上述理由和優點，NAL還是被很多人（尤其是邏輯學家和人工智慧學家）看成個怪物，因為它和他們所熟悉的 「邏輯」 太不一樣了。從理論基礎到技術細節，NAL挑戰了大量邏輯學界廣為接受的觀念和預設。比如說，從一組正確的觀察中可以 「合乎邏輯地」 導出一個可能被後面的觀察推翻的預測嗎？
對這類疑問，我的回答是：在不同的情境中適用的 「邏輯」 是不同的。經典邏輯並沒有錯，但是在知識和資源不足的情況下不能用，而非公理化邏輯則正體現了在這種情況下的理性原則。在不能假定未來和過去完全一樣的情況下，沒有哪種預測方法能保證不出錯，因此按照經典邏輯什麼結論也證明不了。NAL在此情況下會提供和已有證據一致性最高的結論。這種結論在和未來經驗比較時可能會錯，但在和過去經驗比較時的確是對的。像我在《人工智慧：何為 「智」 ？》中所指出的，對具有適應性的系統而言（不論是人還是機器），經驗性信念的評價標準應當是過去經驗，而非未來經驗。因此， 「錯誤的預測」 仍可能是 「合乎邏輯的」 。
但另一方面，並不是每種認知功能都對應一種特定的 「邏輯」 。比如說，國內一種流行的說法是 「思維可分為抽象思維、形象思維、靈感思維三種形式」 。但在納思中，這三種 「思維」 只不過是系統在不同條件下的不同表現，其差別是相對的，而其中的邏輯是統一於NAL的。這裡細節以後再說，但起碼我們不能僅由於它們在外部表象上的差異就斷定它們是不同的思維形式。這就好比說思維的結果可能對也可能錯，但這不能被解釋為我們是在交替使用 「正確思維」 和 「錯誤思維」 兩種思維機制。
恰當地區分不同的邏輯還有助於澄清很多錯誤觀念。比如說，在對人工智慧的能力和局限的討論中，不斷有人以哥德爾不完全性定理為依據斷言人工智慧不可能到達人類智能的水平。既然這個定理說當一個推理系統足夠強有力時，我們總可以找到一個其不能證明的真命題，那豈不是說明我們總比這種系統聰明？這個斷言的問題之一是哥德爾不完全性定理是關於公理化推理系統的，因此對於納思這樣的非公理化系統完全不適用，因此用這個定理不能說明我們永遠比納思高明。當然，這不是說納思是具有 「完全性」 的（即可以證明所有真理），因為所有開放系統（包括我們自己）根據「開放性」的定義就都是不完全的，因此在這一點上 「人」 和 「機」 並無根本差別。這裡的教訓是不能想當然地把人工智慧系統看成公理化推理系統。實際上哥德爾不完全性定理儘管很偉大，但和人工智慧並無直接關係。
儘管目前 「經典邏輯」 常被當成 「邏輯」 的同義語，定理證明的邏輯和適應性行為的邏輯實際上是根本不同的。二者的確有共同點，但差異足夠大，以至於應當被當成不同的系統。各種非經典邏輯都是看到了這一點，但大都從經典邏輯走得不夠遠。為滿足通用人工智慧的需求，在 「邏輯」 上很可能必須以 「激進修正主義」 的態度重起爐灶不可，這也正是為什麼包括我在內的人工智慧研究者干起了邏輯學家的活計，因為人工智慧的任務、工具和制約條件為邏輯研究提供了一個獨特的視角。這一實驗的結果又會反過來深化我們對人類思維的認識，這就是我為什麼在《人工智慧危險嗎？》中說人工智慧的研究在很大程度上也體現了人類自我認識的努力。
參考資料
[1] Pei Wang, Non-Axiomatic Logic: A Model of Intelligent Reasoning，World Scientific Publishing, 2013
[2] Susan Haack, Deviant Logic, Fuzzy Logic: Beyond the Formalism，University of Chicago Press, 1996
了解作者信息和他在賽先生上已發表的文章，請點擊頁面左下角的「閱讀原文」訪問他的主頁。本文圖片來源於網路。
投稿、授權等請聯繫：iscientists@126.com
您可回復"年份+月份"（如201510），獲取指定年月文章，或返回主頁點擊子菜單獲取或搜索往期文章。
賽先生由百人傳媒投資和創辦，文小剛、劉克峰、顏寧三位國際著名科學家擔任主編，告訴你正在發生的科學。上帝忘了給我們翅膀，於是，科學家帶領我們飛翔。
微信號：iscientists
▲
長按圖片識別二維碼關注我們
推薦閱讀：
※每個人都在自己的邏輯里不可自拔
※法律邏輯是訓練法律思維能力的必要的有效的工具
※你的未來財富取決於你的現在投資
※《先有蛋還是先有雞的邏輯》
※日本「脫亞入歐」的邏輯 | 道田