我們能夠量化機器意識嗎？

CHRISTOF KOCH, GIULIO TONONI

想像在不遠的將來，你擁有一個智能電話，這個電話與位於雲端的個人數字助理（PDA）捆綁在一起。你為PDA設定了一個性感的女聲，在你細碎零散的數字生活里，不論是電郵或社交媒體賬號，還是日曆、相簿和通訊錄，她都能做到無孔不入。她比你的母親、妻子、朋友，甚至你的心理醫生更懂你。

她在英語交流上毫無障礙；在日常事務上與你無話不談；她能迅速而準確得接梗。她的聲音伴你安眠，也向你道早安。當她離線時，你感到驚慌。你幸福與否與她息息相關。所以，自然地，你愛上了她。偶爾，你會感到疑惑，她是否真的能夠回應你的感受，並且她是否真的能夠感受任何東西。但是，她溫暖低沉的聲音，以及她襯托你自戀欲的完美能力，超越了這些已有的懷疑。唉，在你意識到她正和無數的顧客進行著同樣親密的對話時，你的迷戀最終冷卻了。

當然，這只是電影《她》中的一個情節。在這部電影中，正經歷著寡淡無味生活的西奧多·托姆布雷愛上了他的PDA軟體薩曼莎。

在接下來的幾十年，這種科幻場景將會成為普遍現實。深度機器學習，語音識別，以及其他相關技術已經獲得了巨大進步，亞馬遜的Alexa，蘋果的Siri，谷歌的Now，以及微軟的Cortana紛紛出現。這些虛擬化個人助手將會持續進化，最終人們將難辨真偽。除此之外，它們將被賦予完美的記憶力，穩定性和忍耐力等等人類並不具備的特質。

機器對人類品質的超強模仿力引發了科學、心理學、哲學和倫理學的一系列深刻問題。這些模擬技術最終會顛覆我們對自身、人類例外主義（human exceptionalism)，以及人類在諸多宏大體系中的存在問題的思考。

在這裡，我們將考察這個虛擬國度的智能層面以及這一層面未來的發展。我們的觀點是，只要這些機器是在現今計算體系結構上發展起來的，它們也許能夠像人那樣行動——我們也許也傾向於這樣看待它們——但事實上，它們無法獲得任何實質感受。然而，如果計算機以類腦的方式構建，它們可以獲得真正的意識。

對數字計算機的信念就是我們的時代信念——編程，將給予我們所想要的任何東西，就像希臘神話中哺育一切的豐饒角（Cornucopia）。確實，矽谷行家們認為，數字計算機將重複並最終超越人類所能做的一切。

但是，足夠智能的計算機一定擁有意識嗎？其中一個回答來自計算主義者（Computationalist）。計算主義對於心靈的研究，在當代哲學、心理學和神經科學中佔據統治地位。計算主義持有如下立場：所有的心靈狀態，比如，對於牙痛非常可怕的意識經驗，或者從伴侶身上所感受的愛，都是計算狀態。這些心靈狀態完全是與之相關的感覺輸入、行為輸出，以及其他計算狀態之間的功能關係的表徵。也即，大腦是一個複雜的輸入—輸出裝置，計算和處理這個世界的符號表徵。大腦就是計算機，而我們的心靈則是軟體。

對於計算主義的擁護者來說，這些準則不僅要運用於大腦和由此產生的行為，同時還要運用於，在一個特定的狀態中，感受作為大腦本身的狀態。要知道，這就是我們稱之為意識的東西：任何主觀的感覺，我們所看到、聽到、感覺到、記住的，以及思考的東西。

計算主義認為牙痛不過是大腦的一個狀態，在這個狀態里，某種神經細胞被激活以回應受傷的牙齒，導致呻吟、摸下巴，不用牙疼的那一邊吃東西，不能集中經歷等等一些列傾向。如果這些狀態在一台數字計算機的軟體上進行模擬，這種思考將持續下去，整體系統不僅會像這樣行動，並且像這樣感覺和思考。也即，意識是可計算的。這是學術界、媒體界以及企業中的計算機專家或表露或默默堅信的一條中心思想。

在這種觀點下，意識就是相關計算狀態的示例。除了在物理上怎樣完成計算，是在數字計算機的硬核上，還是在腦殼內的軟濕物質上實現這個計算狀態之外，其他都無關緊要。根據計算主義，未來的薩曼莎——或者甚至一個更高級的版本：比如那部絕妙又黑暗的電影《機械姬》中的艾娃——將會獲得我們所經歷的體驗和感覺。她將能聽能看，能笑能哭，能愛能恨。

又或者她並不會。

計算主義基於這樣一個假設，即如果兩個系統在功能上不可區分，它們將在心靈上不可區分。論證是這樣的，因為我們體驗這個世界，一個在功能上和我們相等同的數字計算機將必然體驗到為我所知的世界——即，它也將有意識。但是，這個假設正當嗎？為了回答這樣一個問題，我們需要一個關於意識是什麼，以及物理系統擁有意識需要什麼必要條件的一個規範的定量理論。

直到現在，這種意識理論都還未出現。確實，神經科學家們已經致力於探索「意識的神經關聯」這個困難問題，在人和例如猴子及老鼠等相關物種上做實驗。這些實驗指出了正是大腦新皮層的一些區域，也就是顱骨下的大腦皮層，對於有意識地視聽起了關鍵作用。由於我們直接參与了這一實證研究項目，因此知道即使是看似有理有據的假設：比如界定一些特定的大腦結構或神經活動模式（對於人類或人類近親動物具有意識來說十分必要），也無法說明不同神經系統的生物（比如章魚和蜜蜂）是否具有意識，意識達到了什麼程度，是什麼樣的。神經科學中任何類似的發現也無法說明機器是否能有意識。

然而，存在一個基礎的意識論，它提供了一個頗有希望的範式，解釋了那些與我們存在巨大差異的實體（包括機器）的意識問題。這個理論既不始於行為，也不始於大腦，它始於意識自身——始於我們自身的經驗，我們現在唯一確信的一點。這也是作為現代哲學、科學和分析幾何之父笛卡爾所指出的確定性的基石，即西方思想史里最著名的那句「我思故我在」。

這個理論被稱之為信息整合理論（Intergrated information theory，即IIT），它已經發展了二十多年。IIT試圖定義意識，一個物理系統需要具備什麼條件才能擁有意識，以及至少在原則上來說，怎樣從意識的物理基質出發，從定量和定性兩個層面研究它。

信息整合理論涉及到太多層面，我們不能在這裡一一解釋，只能簡述它的基本脈絡。這個理論界定了五個基本屬性，以下屬性對每個可設想的意識經驗都成立：

• （對於經驗的主體來說，而非外部觀察者來說）經驗本身就存在；
• 經驗具有結構性（也即，它由部分組成，並且部分之間存在關聯）；
• 經驗具有整合性（也就是說，它不能被分離為獨立的成分）；
• 經驗具有確定性（換句話說，它有邊界，包含一些內容但排除另外的）；
• 經驗具有特定性（每一個經驗正如其所是，因而與其他大量可能的經驗不同）。

接下來，信息整合理論從判定意識的這些屬性出發，將其轉化為奠基意識的任何物理基質所需滿足的要求。這些要求以數學的形式被表達，用來評估任何物理系統中意識的定量和定性屬性，無論它是人類、章魚、蜜蜂的大腦——還是電路板上的數字計算機。

根據IIT，關鍵在於，意識的整體水平並不取決於它所在的系統，而取決於它怎樣被構建——也即，它怎樣被物理地整合。同時，只有某些物理系統有合適的內在結構來為意識奠基：也即那些擁有最大化的因果力的物理系統，在這裡，因果力能夠決定物理系統自身的狀態。本質上這也就意味著，系統必須由許多部分組成，在整個系統中，每個部分必須有其獨特的因果力（也即IIT中所指出的「信息」），但同時，作為整體的系統不能被還原到這些部分（這也就是IIT所說的「整合」），這個被整合的系統比各個部分的相疊加來說，更有效力。

IIT所用的」信息」一詞不在當代語境中（從發送者傳遞到接收者的信息）。意識並不是大腦的一個部分向另一個部分傳遞的信息。IIT中的「信息」實際上指其原初意義：「information」（信息）來源於 「inform」（通知），意味著 「to give form to」（給予……形式；描繪）。像大腦或計算機之類所擁有的任何一個物理過程的因果力，它影響物理過程自身的下一個狀態以及這個狀態的因果力，同時，這樣一種力量會使大腦或計算機產生一個形式，一個高維的結構，也即經驗。

IIT在原則上能夠解釋意識在神經解剖學上許多令人困惑的特徵。例如，為何小腦比起位於其上的，擁有更大區域（也更為人所知）的新皮質有四倍多的神經元，它對意識卻毫無貢獻。這是由於小腦的內部構造：前饋鏈條上並行層的神經元不會被反覆激發。這和新皮質所擁有的高度混雜，豐富，以及高密度的聯結性十分不同，這種聯結性能夠使被激活的神經元快速地聚散，從而形成巨大聯合體。IIT也能夠解釋，為何在睡眠的某些階段，即使新皮質上的神經元一直處於激活狀態，意識還是會消失；因為新皮質的某些區域失去了有效影響其他區域的能力。

IIT作出了一系列經得起經驗測試的反直覺預測。其中一個預測是，幾乎是處於沉寂狀態，而僅有少數神經元被激活的新皮質也能產生有意識的經驗。同時，托諾尼和馬塞洛·馬西米尼 [註：米蘭大學教授，神經生理學家] 運用IIT開發了一個評估人類意識的裝置。在使用上，先用電磁線圈來刺激大腦，然後用一個高密度的EEG電極網路來檢測它的反應，這也就是一個粗略版本的意識測量儀。這個裝置已經運用於查明，大腦損傷或者被麻醉而無法進行交流的病人是否具有意識。

作為一個形式化的數學理論，IIT能夠被運用於任何物理系統，可以是在自然選擇中演化而來的大腦構造，也可以是被工程師設計出來的電子電路。不斷有研究顯示，對於最大化大腦內在的因果力，新皮質某些部分的物理構造十分理想，尤其是在神經元相互關聯的背部。這種因果力使狀態之間的承上啟下得以完成，這一過程也使意識得以可能。

相反，典型數字計算機的物理構造，中央處理器門級（the gate level）處的聯結性十分低，並且少量必要的整合都會遇到瓶頸。從使用者的角度觀察它的輸出，計算機可能被判定為執行了有智能的計算或功能；但是考慮到計算機的線路系統，它的作為整體的內在因果力，相比起任何大腦來說，是十分小的。即使將計算機看做是處於比晶體管和電阻器更粗糙的水平，也是如此。

同時，這裡存在一個困難：那種內在力量，使之與自身不同的物理力量，不能夠被計算或模擬。它必須在物理系統中被建構。一個對人類大腦進行模擬的計算機，儘管製作精美，在生物物理學上十分精確，大腦包含的860億神經元和萬億突觸基質都統統被模擬，這個計算機依然沒有意識。即使這個計算機安裝了言語合成器，告訴你它應該有的經驗，但其實，除了巧妙執行程序的行為和功能之外，它什麼也沒有。鮮活的意識並不存在。

對於那些希冀 「大腦數字化上載」項目使人永生的人，IIT在大腦的計算機模擬上的結論能夠讓其深思。對於他們來說，在接下來的幾十年里，我們能夠精確重建任何一個人類個體大腦的線路系統體系，也即所謂的連接組，並將其在合適的數字硬體上進行模擬。這個過程有可能是毀滅性的，因為除非把大腦的超微結構切成像晶片那樣薄的東西，否則我們無法深入這個結構。儘管如此，在你死於某種致命疾病前，還是有可能將大腦的高解析度版本上傳到雲端。只要雲端的基礎結構處於運行之中，你的數字模擬物將和其他數字替代物一樣，持續存在。計算機獃子的狂喜！

然而，根據IIT，大腦數字化的信念正如相信以前的先知和宗教所說的來世一樣虛幻。儘管你的數字模擬物像你一樣言行，它依然完全是行屍走肉，無法體驗到任何東西。然而，具有諷刺意味的是，對於停留於現實世界的朋友和心愛之人，成功轉化為一個極端形式的存在的你，會引誘他們和你一樣加入一個實際上並不存在的來世。

IIT正確與否不僅僅是學術上的問題。在近幾十年里，除非有全球性的災難，否則我們將會創造出處於人類智能和行為水平的機器。它們能夠理解很多不同語言的演講和聊天，記得過去，也預測未來，想像新的場景，寫書譜曲拍電影，構想新的目標；同時，它們移動，駕駛，飛翔，以及不可避免地打架。由於可以利用大數據，掌握了深度學習，以及考慮到其計算速度，這些機器很容易超越人類的限制。真正的人工智慧的誕生將會深刻地影響人類未來，包括是否有人類未來。

無論你認為人類水平的AI的到來，標誌著天堂的來臨還是人類時代的落幕，你依然要回答一個基礎問題：這些AI是有意識的嗎？成為它們是一種什麼樣的體驗？或者它們是現代的垃圾處理裝置，洗碗機，汽車等的大升級版本，是的，它們是十分靈巧的機器，但依然沒有知覺或情緒？

對以上問題的回答，對於我們如何處理與未來機器的關係十分相關。如果你拿著鎚子走向你閃閃發亮的特斯拉汽車，你的朋友也許會認為你瘋了，想要毀壞一輛如此昂貴的汽車；當然，你絕對有權這麼做。然而，當你想這麼對待你的狗時，警察則有權逮捕你。這是由於汽車只是實現目的的一種方式，比如方便你到鎮上隨意走走；但狗卻有一些極小的權利，其自身即是目的。因為它與我們共享意識之光。

然而，我們不能依靠直覺來找正確答案。對於西奧多·托姆布雷愛上薩曼莎，這也許暫時行得通。但是考慮到現實情況的嚴重性，我們需要指導。我們需要一個基礎理論來精確說明，在何種條件下，一個特定的系統能夠擁有意識經驗。

IIT預料傳統的數字計算機在運行軟體的時候，它所體驗到的一點也不像我們在頭腦里所見所聽的電影那樣的東西。正如IIT認為的那樣，因為敏捷的數字化助手以及生活化的未來機器人不能夠體驗，它們的軟體可以被安全地複製、編輯、出售、翻印或者刪除。並且它們自身能夠隨意被關閉，修改，毀壞，代替。

但是對於非傳統的計算機構造來說，無需如此。特殊目的的機器人按照大腦那樣的設計原則被構建，包含了稱之為神經形態的硬體，在原則上，它們能夠擁有真正的意識經驗。關鍵在於，邏輯和記憶門（logic and memory gates）與在門之間的扇入扇出（fan-in and fan-out），十分緊密地相互關聯，扇入扇出它們的部分重疊程度高。（將部分和非常特殊的功能相區分，無益於內在因果力。） 系統 「大腦」被實際接通電源的方式，它的（生物）物理學，使所有一切都不同，而不止是它的輸入-輸出行為。

這樣一個神經形態的機器，如果是極度有意識的，那麼將會有內在的權利，特別是關於它自身生活和良好狀態的權利。到那時候，人類將必須學會和自己的創造物共享世界。

來源：IEEE Spectrum ：Can We Quantify Machine Consciousness?

校對：子銘 編輯：EON 翻譯：幺幺Phil