人工智慧何時能有自我意識？關於這個問題所有的人都錯了

01

這幾年來人工智慧高歌猛進，人機圍棋世紀大戰，谷歌人工智慧AlphaGo（阿爾法圍棋）連勝三局，這讓許多人的AI恐懼症又泛濫起來：AI發展太快，萬一AI有了自我意識，人類在未來會不會被奴役？

其實在如今的年輕人記憶中，AI的最初印象來自這部電影——

當然，更多的不是指畫面中這位，而是他背後的恐怖存在，即Skynet天網。

在各種涉及AI的科幻片里，都是我待AI如初戀，AI虐我千百遍，每部都在提醒我們：AI會很可怕！看多了後，對AI還真有點怕起來。那，我們到底在怕什麼呢？

如果未來的人工智慧只是像今天的阿爾法狗一樣，只是還要厲害上幾百倍，一個系統在某個具體工作上抵過千萬個人——我們會害怕這樣的人工智慧嗎？

好像不會。我們害怕的，其實是人工智慧里最終誕生出了「自我意識」。會「計算」不要緊，會「算計」就可怕了。我們不是怕人工智慧變聰明，而是怕人工智慧變成「人」，變成有「自我意識的類生命」。

對人這樣的生命體來說，只有別的生命體才是最可怕的。因為相對沒有自我意識的機器，它再發達，也不足以威脅全人類，因為人類的複雜思想是它無法理解的，人類還是擁有競爭優勢。而如果機器有了自我意識，那人就完全沒有存在的價值了。

那麼問題就來了：在未來，人工智慧會擁有跟人類一樣的自我意識嗎？會有開心，滿足，或者傷心，憂鬱這樣的情緒嗎？會在某一天仰望星辰時，產生」我是誰，從哪裡來，到哪裡去「的疑問嗎？

02

對於簡單的唯物理工男來說，這個答案是肯定的。論據也很簡單：因為雖然現在的阿爾法圍棋在實現智能的具體演算法上，和人類大腦並不一樣，但未來一定是會。只要是物質構成的東西，肯定能用物質模仿，不是嗎？沿著這條途徑發展下去的話，機器「心靈」的出現只是時間問題。

「自我意識」的載體不會僅僅局限於生物性的大腦，既然智能存在於神經網路中，類似神經網路的平行分散式系統就應該是可以模擬出智能的。如果在未來的某一天這些模擬人腦的系統最終實現，那麼所謂「機器意識」的出現就是必然的。靈魂的載體總有一天會不止僅限於有機體。

但對於我來說，這個答案卻不是這樣的。

我認為，關於人工智慧未來是否能擁有「自我意識」這個問題，本身就是錯的。

人們在大多數場合總是混淆「認知」」智力「和「意識」這兩種不同類型的概念。「認知」本身，是一種能力，是可以從外部去驗證的，可以稱為「外觀」的內容；但「意識」不一樣，通常所說的自我意識，其實包括了兩部分內容，即包括了可外部驗證的「認知」部分，也包括了只可向內體驗的「心理」部分，確切的說，是「內觀」部分。內觀部分，才是自我意識的精髓所在。這種能力是，體驗到「我之存在「的主觀能力。這種能力，和智力、認知完全不是一個層面的事情，和演算法，甚至和物質本身也沒有任何邏輯關係。對於整個世界來說，它是體驗的主體，而其他所有是被體驗的客體，這個所有里，包括了它本身。這種主觀能力，才是自我意識的真正特徵。

自我意識這個本質的特點，事實上一直就是哲學、乃至宗教所討論的核心問題之一。事實上所有哲學和宗教討論的問題，無非兩個：一個是世界的本源是什麼，另一個就是意識的本源是什麼。

近代以來科學的發展，在世界的本源問題上形成了一些進步，但對自我意識的探索卻一直是規避的態度。自我意識，作為一種主觀的能力，和客觀世界之間（假設真實存在的話，事實上你也無法驗證）永遠隔著一層鐵幕。現代所有的科學方法，都在鐵幕的那一端，而自我意識體驗是在鐵幕的這一端。

事實上，邏輯上非常簡單的是，那一端的科學方法無論怎麼發達，都完全沒可能去驗證那一端的主觀體驗能力，更別說去」製造「一個自我意識了。

自我意識的終極主觀體驗能力，本身和智力完全無關，也不是任何知識，也不是任何經驗，物質和能量不構成它，相反它來感受物質和能量。

你可以想像一出皮影戲，它就是那一束投影的光，投到幕布上，前面放什麼皮影元素，就會投出影像。幕布呈現出的影像元素，是知識，是經驗，是它體驗的客體，但都不是它，它就是那一束光，是所有一切的投射基礎。

理論物理學家、神經科學家完全無力去描述它，哲學家為它思考到抑鬱，而各個宗教為了解釋它只能歸結到神，它是如此玄妙，但是，恰恰每一個平凡人，卻可以每時每刻都可以真實的感受到它的存在。可以直接感受，卻無法描述，這正是它的神奇所在。

03

>>>>「難道什麼東西都能有自我意識？ 」

如果你理解了我上面所的話，你肯定會想到，不能僅僅因為一台機器通過了圖靈測試，就認為它有自我意識。先進的AI留給我們的印象是它們是有意識的，但是那只是」外觀「的部分，可能在同時，再先進的AI對於自己的認識也許不會比一塊石頭或一個計算器多。

機器的自我意識的內觀部分，遠不是我們能製造的（我們連體驗、測試都不可能，何談去製造）。事實上「自我意識體驗」這個點，只有兩種可能的性質，一是純粹基於「我們當前所認為的物質和能量」，一種是不僅僅基於「我們當前說認為的物質和能量」，也就是說需要「額外的其他元素」，而這個元素是什麼我們無法形容。而無論是何種情況，「人工智慧何時才能擁有自我意識」都是錯誤的提問。

對於第一種情況，如果自我意識是完全「唯物」的，會很容易推出一般人匪夷所思的結論：即使只用生活常識感性判斷，你也不會覺得一個智商高的人有自我意識，一個智商低的人就沒有；也不會認為大人有，幾歲兒童沒有。而如果幾歲兒童有，那智商等於幾歲兒童的猩猩有沒有？那肯定有對吧。那如果猩猩有，那智商更低的貓和狗有沒有？如果貓和狗有，那智商更低的雞和鴨有沒有？

好，如果雞和鴨也有，那麼青蛙和蜥蜴有沒有？以此不斷類推，最後的結論，魚也有自我意識，龍蝦有自我意識，最後是所有動物都有。那麼下一個問題是，植物有沒有？事實上還是可以推論，植物也有，因為很容易找到動物和植物之間的過渡帶。然後，又可以從多細胞生物，過渡到單細胞生活，然後到蛋白質，最後，甚至到一粒原子。

之所以可以這樣推論，原因在於如果假設「只基於物質就能製造出自我意識」，那麼只要不斷地找到「智力」或者」體驗能力「的平衡過渡帶，就可以無限向下走。「智力」或者」體驗能力「最多只能說明」強弱「，而完全不涉及」有無」，上述所有的東西，只要是物質構成的，自然沒有「本質區別」，只有量的區別，自然是可以在有無自我意識這個問題上一致。

基於這樣的認識，AI現在就有自我意識（只是你不知道），根本不需要在「未來某個點」突然獲得。

對於第二種情況，就更簡單了。因為當前我們完全不知道需要什麼「額外的元素」讓自我意識產生，所以不可能以現有的思路造出任何可能有自我體驗的AI。而如果假設人類永遠無法掌握這種「額外的元素」（這種東西有時候被稱為靈魂，可能和我們不是一個維度的事物，所以永遠無法掌握也是有可能的），那AI永遠不可能擁有自我意識

04

說到這裡，如果還有同學不理解，可以重新體驗一下一句眾所周知的話：「子非魚，安知魚之樂？」。自我意識體驗的思考和研究，存在的巨大的不可逾越的難點，就是其絕對主觀性。你能體驗到自己的存在，但你在當前這個世界的範式內，如果遵循科學認知論，那絕不可能有機會去體驗別人之體驗，因此你其實永遠不會知道其他任何物體有沒有自我意識體驗的存在。所對未知之物，我們應該心懷敬畏，當然，同時也心存懷疑。而最基本的，是不要想當然。

不要想當然認為」笨「對象，就一定沒有自我意識。你或許覺得你現在在看我這個文章的手機，或者筆記本（這些東西比之前說的」未來的AI「，應該笨得多），它們有自我意識，絕對是非常荒誕的事情。但你仔細去想，又有什麼可能去證明它沒有呢？還是回到投影光束和皮影戲的例子，所謂知識和經驗，影響的是皮影戲的內容，而智力和感官，影響的是光束的強弱。但是，光束的」有「和」無「，不是這些能影響的。」有「還是」無「，這個的決定權，在所有這些之外。

也不要想當然認為」聰明「對象，就一定有自我意識。你抬頭看看你周圍的朋友和親人（他們肯定比之前說的」未來的AI「還要聰明得多），你確認他們一定有自我意識嗎？仔細想幾秒鐘，然後你會發現，其實你不確定，對嗎？或許，這個世界上，就你一個是有自我意識的，其他所有的一切，包括所有的人，都和你不一樣，當然這些人看起來和你一樣。或許整個世界，就是一個程序。

在所有人連自己的自我意識是什麼都沒搞清楚的情況下，討論人工智慧未來是否能有自我意識，本身就是荒誕的，不是嗎？

欲了解更多關於科技、創業、投資方面的獨立觀點，歡迎關注青銳創投合伙人吳斌的知乎賬號，點擊閱讀原文即可跳轉。

作者 ? 吳 斌

編輯 ? 周哲明

// About EdgeVentures //

尋找即將改變世界之人

青銳創投 / 基於系統化研究的風險投資基金

// Contact us //

bp@edgevc.com.cn

我們在尋找故事的主角