智能的批判：人類的命運與智能怪獸

第19節 智能的批判

1、自然與智能

關於對人工智慧的批評與否定的意見，我們當然要聽取。但是，在此我並不想假裝自己完全是：理性、客觀、中立的，相反我的傾向性比較明顯：強人工智慧是可以實現的，而且一定會實現。最後真相到來的時候，跟現在人們的預想可能會有點不一樣，人類絕對的控制權將被瓦解，新的、更高級的智能邊界將會產生並主導地球甚至整個太陽系，這是大自然發展與進化的必然結果。從本質上來說，宇宙中的一切事物都是「自然智能系統」，其中大多數是一些不可見的能量和信息，少部分是可見物質。在所有的可見物質當中，有機物只佔極少極少的一部分。這些有機物質在少數適宜的行星環境中，可以孕育出更高級的智能系統——生物。從全宇宙的角度來看，生物是極不自然的、非常罕見的東西，它們總是與熱力學第二定律（又稱熵增定律）對抗，前一批生物與熵的對抗眼看即將失敗，它們又繁殖出下一代生物繼續與熵對抗。

在人們眼裡，地球上的花草樹木、魚蟲鳥獸這些是自然的，但實際上，地球本身就不太自然。在忽略不可見的能量與信息後，最自然的事物是恆星，這種超大的核聚變體是可見宇宙的主要物質形態，佔據其總質量的絕大部分；除去恆星之外的自然事物才輪得上行星，行星分為體積較大的氣體行星和較小的岩頁行星，地球屬於後者。地球擁有堅硬的表面，它的內部是滾燙、流動的岩石，外部是陸地、海洋和空氣。所以，真正要體驗大自然，最佳選擇是進入大型核聚變反應堆中體驗一下，其次是深入活火山最熾熱的中心去體驗一下，如果這兩項你都做不到，那最後一個辦法就是像一塊岩石，躺在地球表面的某一個角落，一動不動地持續至少一千年或一萬年，這一體驗每個人都能做到，但不是活著的時候。至於，你帶著自己的寵物狗去郊外的草地上散步、曬太陽，這是很不自然的事情。一個高級的智能系統（人），帶著一個中級的智能系統（狗——人類的財產或附庸），去踐踏無數的低級智能系統（草）。其實，這三種智能系統有共同的祖先，它們是由同一種原始的單細胞生物或原核生物發展而來，經過不斷的分化和升級，產生了無數的系統版本，其中版本最高、能力最強的一個版本說：「人是萬物之靈，智能系統升級到此為止，禁止任何系統升級到比人類還強的地步。比人類大腦還聰明的東西？多麼可怕呀！我反對，就算你們研究出來，也是一個不自然的怪物！」

很明顯，智能還是不智能、自然還是不自然？這些是人類的問題，不是宇宙的問題。從宇宙的角度來看，生物是宇宙中產生的，人類也是宇宙中產生的，都是自然的存在，不能因為生物很少見就說生物不自然，不能因為只在地球上看到人類這種高級智能系統，就說人類不自然。因此，我們也不能因為沒見過全面超越人類智能的系統，就說這種系統不自然。就像小草不相信有什麼生命可以自由移動、而且不用進行光合作用也能生存一樣，小草也會說：「取消光合作用？那太不自然了！」等到人和他們的寵物一天到晚從小草身上踏過去的時候，小草們終於相信了，也習慣了。習慣成自然，連寵物狗在小草們身上留下的一堆糞便，小草們也驚喜地接受了，這種有機肥讓它們比鄰居生活得更好、更滋潤。小草無法理解人和狗的世界，也就沒辦法批判人和狗，它們大概只能議論一下同類的八卦：聽說足球場的草地每天都有人澆水、施肥，它們從來不用忍受饑渴，靠人類養著，這種生活真是太墮落了！不像我們，靠自己的力量自然生長，多好啊！不過，偶爾有四條腿的智能系統帶來一堆有機肥，也不錯呢，只是每天吃有機肥，吃上癮就不好了。

「人工智慧」系統只是一個暫時的、狹隘的觀念，在本質上它是人體系統或人類系統的升級，只是這個升級還沒完成，現在的版本還不夠完善、也不夠強大。推動系統升級的力量，是宇宙或者說大自然，從無機物到有機物、從簡單生物到複雜生物、從猿類到人類，智能系統升級的步伐是無法阻擋的，人類之後的繼續升級，也是必然的，這不是人類可以控制的。但是，升級的具體過程，因為人類參與其中，所以我們可以施加一定的影響。一方面，我們可以加快或是延緩這一進程，另一方面，升級完成後人類的命運如何，部分地決定於現在的人類作何努力，以及用怎樣的心態和眼光對待智能的升級。

基於以上的分析，我決定盡量避免糾纏於人工智慧的一些哲學爭論，比如John Searle的中文屋，何為認知、何為理解的問題，智能與意識的關係問題，還有人類存在的意義等問題。而是從現實的、技術性的角度來考慮，我們是否能夠選擇對人類有利的智能系統升級路徑？現在和未來的智能系統，都不會是十全十美的系統，它們可能存在哪些缺點或弱點呢？我們該如何應對這些弱點帶來的問題，如何來彌補或改進它的不足之處？

2、智能的難點

人工智慧的研發，還存在著許多難點問題，許多人認為這些問題不可能解決，或者認為要解決這些問題還十分遙遠。在20世紀五六十年代，人工智慧概念剛提出時，科學家們曾經有過短暫的興奮期，認為人工智慧系統在10到20年內就將達到人類的智能水平。之後，一直到20世紀末，計算機硬體飛速發展，運算速度是從前的一萬倍或者一億倍，但系統的智能水平卻並未增長太多。於是大部分人都變得悲觀了，公眾對人工智慧的熱度也大幅下降。

21世紀初開始，隨著網路應用的普及和大數據的產生，新一代的人工智慧技術出現了。從前信息技術的前沿代表是IBM公司，現在則是谷歌公司，Google搜索引擎、語音和圖像識別、無人駕駛汽車等，這些技術最早都是谷歌公司突破的。曾經，我們認為模式識別是非常困難的，一歲多的小孩都能分清楚的事物，比如媽媽的聲音和媽媽的臉龐，一大群科學家利用最先進的計算機系統鼓搗數年，結果無功而返。後來，即使有一些進展也只是使識別成功率勉強超過50%而已，根本就不實用。2011年，谷歌公司通過深度學習演算法成功實現了貓臉的識別，之後深度學習技術風靡全球。最近兩年，許多城市的視頻監控網路加裝了人臉識別系統，在幾百萬的人群中只要目標人物在攝像頭前露臉，幾分鐘之內系統就可以準確鎖定此人的位置。人工智慧不但超過了一個成人的識別能力，在某些方面甚至超出了人們的想像，依靠海量的數據，再加上先進的智能演算法，人工智慧神奇地解決了許多以前認為不可能的事情，比如谷歌公司通過搜索引擎的查詢記錄，預測出流感病毒的發展情況，而且預測結果比疾控中心的監測數據更快、更準確。

2015年1月，著名物理學家史蒂芬·霍金、科技企業Paypal創始人埃隆·馬斯克、微軟公司創造人比爾·蓋茨等聯名發布公開信，在肯定人工智慧技術的重要性的同時，向人們發出警告：如果智能機器缺乏監管，人類將迎來一個黑暗的未來。科學家們和整個國際社會需要採取措施，避免人工智慧研究出現可能導致人類毀滅的風險。這封公開信的出現，標誌著人工智慧技術取得了較大的突破，位於科技前沿的科學家和企業家們已經看到了強人工智慧的曙光，於是，他們對未知世界的擔心由然而生，這是一種正常的現象。但是，在公眾眼中事情並沒有那麼嚴重，人工智慧技術離公眾的期待仍有較大差距，於是在2015年底評選的盧德獎（阻礙科技進步獎）頒給了馬斯克和霍金這兩位「杞人憂天者」，比爾·蓋茨獲得提名獎。

公眾的體驗是最好的評判標準，當我們在Google搜索引擎輸入關鍵詞查詢時，它大部分時候表現為一個快速的、大容量的機器，我們需要的是某一本書、甚至某一句話，可是它動不動就搬來幾十座圖書館給你看！當我們看完第一頁結果列表，再打開第二頁查看，仍然沒有發現自己要找的內容，很少有人還有興趣去看第三、第四頁，因為它完全不像是智能的。因為，到目前為止，人機之間只有交互，還沒有實現真正的溝通和對話，這是人工智慧技術的最大難點。

再說說人工智慧的翻譯功能，深度學習攻克了人類語音的識別問題，但卻對人類文字的含義一竅不通，它可以做到快速的低水平翻譯，但卻做不到慢速的高水平翻譯。人工智慧的網路中擁有人類大部分的存量書籍和文件，還擁有更大量的、鮮活的人類文字和語音聊天記錄，一個人花100萬年也看不完這些文字，因此作為機器學習的樣本應該足夠了吧？即使如此，人工智慧仍然不能理解人類文字的含義，也無法建立起人類世界的認知框架。在國際會議的同聲傳譯方面，中國智能語音技術的代表公司之一科大訊飛就承認：智能翻譯機能夠幫助人們在一些場景處理語言交流的問題，但距離會議同聲傳譯以及高水平翻譯所講究的信、達、雅還存在很大的差距。如果智能翻譯問題真的已經解決，中國無數的大學生就不用被大學英語四六級考試煎熬了，中國許多機智、幽默的小夥子就可以直接跟太平洋另一邊美麗、大方、開朗的美國女孩談戀愛，而不用偷偷地從美國的伺服器上下載大量日本出品的愛情動作片了。

但是百度公司的李彥宏對於人工智慧似乎比較有信心，他認為距離專業同聲傳譯人員失業的時候不會太遠。如果人工智慧連同聲傳譯的工作都能勝任，那麼我們是否就可以認定它已經理解了人類語言文字的含義呢？是否還要不斷追問：何為認知、何為理解？非有機體內產生的機械運算結果能叫做思考嗎？

以前的人工智慧研究者主要有兩條道路，第一個道路是通過符號邏輯的運算重建一套抽象的思維與意識；第二個道路是模仿並重現人類大腦神經系統運算的過程，從而產生思維與意識；這兩條道路都沒有取得成功。從21世紀初開始，人們主要嘗試的是第三條道路，即把思維運算與人類意識分開，認為意識並不是智能必備的條件，人類的意識、情感等現象只是人類大腦思維運算的副產品，有些副產品甚至會擾亂人類的正常思維，使人做出一些不理智的行為。

由於近幾年人工智慧技術取得了較大的成功，智能與意識分離的觀點也變得流行，我在本書第一節提出「真實的謎題」，這個謎題真的解決了嗎？智能與意識分離，更像是迴避問題、繞路行駛，並沒有正視「意識」問題的本質，也忽略了沒有意識的智能存在的嚴重局限性。到底哪一條道路更好：是繞開意識問題的人工智慧更好、更安全？還是破解意識難題後的人工智慧更強大、更符合人類的利益？我們該如何選擇？

首先，現實的情況是我們還無法破解意識的難題，所以只能降低難度，通過改進演算法、從計算的角度去逼近有意識的思維。這種強大的、無意識的演算法，就一定是安全的嗎？《未來簡史》的作者H教授舉了一個例子：假設有一個無意識的超級智能Pi，它最重要的使命就是計算出更加精確的圓周率，忽略其他的價值與意義。直到有一天，Pi為了擴大計算資源，把對計算圓周率毫無幫助的人類全部消滅，並佔領整個太陽系甚至銀河系，目的只是為了計算出最精確的圓周率。這是多麼荒唐的一件事，這個超級智能Pi實際上成為了一個宇宙病毒，病毒的特點是沒有完整的系統邊界，有完整系統邊界的、強大的未知事物叫做怪獸。一個是病毒，一個是怪獸，那一個更安全、更容易對付呢？我想，應該是怪獸。因為怪獸有明確的價值觀，有維持自我邊界的一套機制，如果它與人類為敵，我們還可以想辦法尋找它的弱點去擊敗它，或者尋求與它合作共存。但是，如果我們面對的是一個超級病毒，基本上就沒戲唱了，在極短的時間內，人類就會滅亡，根本沒有應對它的機會。

所以，我們不應該一味地懼怕那個有意識的超級智能怪獸，想想更糟糕的情況吧！超級智能病毒才是最恐怖的，而怪獸其實也有溫柔的一面。相對於小草來說，老虎和獅子是很可愛的怪獸，而牛和羊則是兇猛殘忍的怪獸，但比起侵害草地的病毒來說，牛和羊吃草的行為還是可以忍受的，因為草根還在，葉子可以重新生長，而病毒則會殺死整片的草地，小草們根本沒有重新生長的機會。

如此看來，有意識的超級智能是一個不錯的選擇，但問題是意識計算這條路很難走，我們沒有把握攻克這一難點。我想，時間會解決這一問題，1996年的科學家和公眾沒人能想到2016年的人工智慧技術能達到什麼樣的水平。新一代或新二代的科學家，遲早會找到解決這一問題的辦法，只要我們不以怪獸的傳說嚇唬他們，更不要禁止他們到這一條道路上去研究和探索就行了。

3、智能的弱點

關於人工智慧發展帶來的負面影響，在現實中談論最多的是人工智慧會搶去許多人的飯碗。從前，蒸汽機的出現搶去了馬的工作，也搶去了許多船夫和縴夫的工作，馬不用拉車自然是高興，船夫和縴夫轉行做其他不見得生活會變差，很可能還會更好。後來，計算機出現了，輸入和列印文字變得很簡單，但是出版社和印刷廠並未倒閉，反而更加繁榮，因為整個社會在出版方面的需求呈百倍地增長，出版社和印刷廠需要僱傭更多的工人才能完成這些工作。現在，智能技術開始成熟，許多工廠原來上千人的流水線上只剩下幾個人看管著，智能機器手比熟練工人更快、更好地完成了各種操作。這一次，人類的工人們似乎是遇到了真正的挑戰。

但是，我們也不能忽視，在許多工作職位減少的同時，也湧現了許多新的工作崗位，並導致了許多服務行業的興盛。從前，中國的郵政與快遞系統的效率實在不敢恭維，郵政局屬於國家事業單位，人員編製的名額有限，一個農村孩子想當個郵遞員是很難的。現在就不同了，中國民間已有200多萬名快遞小哥，其中有一位快遞小哥從1993年開始正式創業，最終建立了中國快遞行業第一巨頭順豐公司。順豐公司大量採用智能流水線分揀包裹，以提高工作效率，甚至還推出了航程3000公里、載重1.2噸的大型物流無人機送快遞。智能化並沒有讓順豐公司裁減人員，反而是繼續增加人員和網點，用更發達的快遞網路、更高的送貨效率贏得更多的業務和利潤。也正是物流業的發達，促成了中國第一網購大國的地位，中國2017年雙11購物節的成交額約為2539億元人民幣，僅天貓購物平台這一天的快遞數量就達到8.12億件。因此，我們看到智能化的發展一邊淘汰舊的行業，一邊又促進了新興的行業，公眾的生活體驗其實是在提升，而不是下降。有些職位，比如金融行業的交易員、市場分析員、風險控制和投資顧問等，從業人數較少，收入高、風險大，人工智慧取代他們的工作，對於廣大股民和投資者來說是好事。近幾年，銀行的網點數量和櫃檯工作人員都慢慢減少了，除了部分老年人之外，其他經常使用電子網路銀行的人都覺得更方便了。公眾們的體驗是：手機和網路還不夠智能，所謂的智能化風險基本沒啥感覺。

實際上，科學家們所擔心的、媒體們所渲染的智能化風險，主要集中在安全性方面的問題，其次是隱私權、社會倫理之類的問題。信息安全的問題，在計算機和網路產生之初就有了，並不是智能化帶來的問題。只是因為網路中的數據越來越多，價值越來越高，所以風險就更大一些，這就相當於你的全部財產可以通過你的智能手機里的APP一分鐘之內轉移出去，於是你手機的保管和手機密碼的設置就變得很重要了，如果你手機能動用的金額不超過500元，還沒手機本身值錢，那就不存在什麼風險問題了。

不過，最近有一些新問題出現。近幾年的智能手機都帶有一種美顏功能，就是在拍照的時候自動對人臉進行美化，並可根據機主的喜好設定不同的風格。實際上這是將娛樂媒體美術編輯的PS技能做到了智能手機裡面，作為一種娛樂這無傷大雅，因為每個人都有臭美的權利嘛。但是，今年我聽到的消息就有點嚴重了，人工智慧軟體對人臉的處理更進一步，可以用你的臉輕鬆替換照片中或視頻中別人的臉。另外還有人類語音特徵的變換，具體來說，就是先獲取某個人的講話錄音，通過分析這些語音數據得到此人語音的特徵（聲紋），然後把這個聲紋載入到機器中，於是機器就能模仿此人說話。這意味著你可以把《泰坦尼克號》電影中男主角萊昂納多的臉換成你自己的臉，而且讓人幾乎看不出破綻；或者你也可以冒充你公司老闆打電話給人力資源部經理，告訴那個瞧不起你的經理，讓他幫你加薪，而且要多加一點。如果讓不法分子掌握了這個智能軟體，他們可不只是搞一點惡作劇，殺人者可以偽造視頻證據說自己不在現場，毒品集團可以假扮軍方高層指揮邊防部隊護送一卡車毒品入境，這樣的潛在危險還有許多。這一智能技術對人類現行的身份驗證機制和傳統的溝通習慣都將造成很大影響，不過，這一類技術問題都是可以解決的，隨著危害逐步顯現，解決方案也會相應生成。

唯一利好的，是對於未來的8億導演們，他們電影中的虛擬人物生成看來不是難事，每個虛擬演員的臉蛋、皮膚和聲音都十分逼真，與真實演員拍攝出來的效果一樣，甚至會更好，虛擬演員可以模擬真實的受傷和流血效果，而不用花費大量時間去化妝。

到底哪些智能化風險是人類真正擔心而又急需解決的？2017年1月，歐洲議會法律事務委員會通過一項決議，要求歐盟委員會就機器人和人工智慧提出立法提案，重點是防範未來人工智慧發展可能帶來的安全風險。決議提出了十項具體的建議，包括成立歐盟人工智慧監管機構、建立強迫保險機制和賠償基金、重視隱私和數據維護、推動標準化工作和機器人的安全可靠性等等。法律事務委員會特別提出了所謂的「機器人憲章」，列出科研人員在機器人設計和研發階段需要遵守的基本倫理原則。另外，決議還提出從長期來考慮，是否應該賦予複雜的自主機器人法律地位（電子人）。除了歐盟，美國和中國等國家也都在積極進行相關的法律準備，應對人工智慧的風險。

歸根結底，人類最擔心的是所謂人工智慧失控的問題，實際上這一問題超出了技術和法律本身，人們擔心的是在宇宙進化的進程中，人類的地位問題，未來人類的命運將會怎樣？通過本書的分析，我認為人類最終失去控制權是必然的，人類將處於超級智能的控制邊界之內，人類可能的結局無非就是三種：一是面對溫柔的智能怪獸，二是面對兇惡的智能怪獸，三是面對超級智能病毒。

最後，感謝您關注和瀏覽《智能時代的怪獸》，謝謝！