人工智慧的「軍備競賽」已經開啟！未來一萬年的人類是啥樣？

本文系網易智能工作室（公眾號smartman 163）出品。聚焦AI，讀懂下一個大時代！

【網易智能訊12月20日消息】研究人員、企業家和科技巨頭正將人工智慧（AI）帶往新的前沿，並影響著健康、教育和商業的日常活動。但是，正如扣人心弦的新書《生命3.0》所描述的，關於機器智能的崛起以及它如何重新定義人類，還有更大的、甚至是哲學上的問題。

機器、軟體和網路對智慧、意識和人類觀念的形成意味著什麼？今天的規則和道德準則將如何塑造明天的文明？《生命3.0》這本書由Max Tegmark所著，以對話和發人深省的文風探討了人工智慧時代的人類處境，為我們這個時代最重要的對話提供了真知灼見。

書的容量有365頁，包含8個章節。被引用的書籍包括超級智能（Nick Bostrom），奇點臨近（Ray Kurzweil）。這本書伴有一個在AgeOfAi平台進行的在線互動調查。

作者Max Tegmark是麻省理工學院的物理學教授，他已撰寫了200多篇關於從宇宙學到人工智慧主題的技術論文。作為未來生命研究所的主席，他與Elon Musk合作，啟動了首個人工智慧安全研究獎助金計劃。被戲稱為「瘋狂的麥克斯」,他的早期作品是《我們的數學宇宙》。

進化與智慧

Tegmark定義了生命的三個進化階段：生命1.0（生物階段），生命形式的硬體和軟體進行自然進化;生命2.0（文化階段），硬體進化，而生命形式設計大部分的軟體;生命3.0（技術階段），生命形式設計自身硬體和軟體。

儘管人類DNA的信息在過去5萬年里並沒有發生顯著的變化，但人類（生命2.0）已經從基因的束縛中解放出來，並在人腦、書籍、計算機和網路的信息儲存量中有顯著增長。下一個升級（生命3.0）將能夠設計我們的硬體:DNA、神經連接、協同矩陣等。《生活3.0》將由人工智慧驅動，並將在未來一個世紀到來，甚至是在我們的有生之年。

Tegmark通過定義一系列術語來確定這個階段：智力（完成複雜目標的能力）、機器學習（通過經驗改進演算法的研究和使用）、人工智慧（至少和人類一樣能完成任何認知任務）、超級智能（遠遠超出人類水平的智力）、有益人工智慧（強大並受人工智慧安全研究準則的指導）、識（主觀經驗）、意識（主觀經驗）和奇點（智能爆炸）。

記憶力、計算能力、學習能力和智力都已獨立，它們不依賴於或反映底層的物質基礎。「智能不需要肉、血或碳原子，」Tegmark解釋說。人類文明是通過語言、工具和複雜的相互關係進化而來的，而下一個可實現的發明很有可能是人工智慧。對人類而言，大多數「軟體」學習是通過突觸生長的方式——但是智能機器可以採用不同的路徑，因為它們不必不斷地重新創造，機器可以比人類更快地改進機器。人類的DNA存儲了1.6千兆位元組的信息，相當於一個下載的電影（有些細菌儲存了40千位元組）。人類大腦的1000億個神經元儲存著大量信息。大腦中的信息是通過聯想而不是地址來回憶的。

魯棒性、法律、戰爭和就業

語音識別、翻譯、機器人和遊戲都是人工智慧的一些顯著應用，但其他影響還包括金融市場、機器人輔助製造、智能電網、外科手術和自動駕駛汽車。

通過更好的驗證、確認、安全和控制，人工智慧可以幫助減少人為錯誤，增強系統的健壯性。

在行為心理學的啟發下，深度強化學習為DeepMind和OpenAI的突破提供了動力。DeepMind的AlphaGo在沒有輸掉一場比賽的情況下，已經在世界上20個頂級圍棋比賽中成為冠軍。在遊戲中深度學習有時被認為是創造直覺（決定某事而不解釋原因）和創造力（不尋常的且成功的進步）。

Tegmark表示:「卓有成效的人機協作確實在許多領域看起來很有希望。」該研究的下一個前沿領域包括將深度遞歸神經網路與語義世界模型結合在一起。他補充道：「人們越來越難以辯稱，人工智慧完全缺乏目標、廣度、直覺、創造力或語言。」

眾所周知，人工智慧的黑暗面在於自主武器橫行。一款由人工智慧驅動的殺手無人機，其價格僅相當於一部智能手機。因此，許多人工智慧研究人員和機器人專家呼籲禁止某些類型的自主武器，並阻止「全球人工智慧軍備競賽」。

「如果我們能弄清楚如何讓機器人裁判變得透明和公正，人工智慧可以讓我們的法律系統更公平、更高效。」泰格馬克解釋道。法律體系中典型的人為錯誤是由偏見、疲勞或最新知識匱乏造成的。需要設計機器人的法律分類、責任和權利。在一場涉及無人駕駛汽車的事故中，誰應該承擔責任：居住者、所有者、製造商還是汽車本身？

Tegmark認為，毫無疑問，人工智慧主導的時代將會改變就業，最好的職業將是那些涉及人、不可預測性和創造力的職業。不幸的是，研究表明，科技對教育程度更高、科技公司的所有者和少數「超級明星」有利。

政府應該制定促進研究、教育和企業家精神的政策，確保基本收入水平，同時賦予人們一種工作與生活的使命感。

在人工智慧研究人員、科技巨頭和創業者的參與下，「生命研究學院」的未來將在這方面成為「人工智慧安全」的主流。它支持諸如與政策制定者對話、尊重隱私、共享利益、共同利益和人類控制等原則。這樣做的目的是為了在人工智慧完全起飛之前改善人類社會，在技術使其過時之前實現現代化，並讓年輕人在將權力交給他們之前，讓他們了解如何創造出強大的技術。

目標

人類的目標和動機有著複雜的相互作用，比如生存、資源獲取、好奇心和同情心。有些人已經放棄了早期的生物目標，比如複製。智能行為與目標實現相關聯，早期的人工智慧計劃圍繞著編程機器來實現人類目標。目標設計涉及到子目標、倫理、學習和強化等問題。

但隨著人工智慧變得越來越複雜，我們需要問人工智慧是否應該保留我們已經給出的目標。我們是否應該讓AI更廣泛、更廣泛的目標？這是誰的目標？我們能改變AI的目標嗎？「意義」的含義是什麼？人類在科學、宗教和哲學方面的目標是什麼？有朝一日，人類的目標會像螞蟻的目標一樣令人沮喪嗎？

意識

Tegmark提出了一種對意識實體的定義，即那些可以自由思考、記憶、計算、學習、經驗、交流和行動的人，無關傷害他人。作者強調，隨著人工智慧變得越來越複雜，我們也需要認識到，我們對意識意義的哲學探索現在有一個緊迫的截止日期。

一些棘手的問題產生，比如理解無意識行為是如何影響意識活動的？意識和無意識系統之間的物理屬性區別是什麼？以及為什麼事物是有意識的？自動駕駛汽車經歷著什麼？人工智慧有自由意志嗎？人工智慧會受到影響嗎？AI應該有權利嗎？

人類意識研究反映了大腦理論、物理學和信息科學等領域的融合。「如果人工智慧是可能的，那麼與人類的經驗相比，人工智慧體驗的空間可能是巨大的，」Tegmark解釋道。人工智慧可能會挑戰人類中心主義的理念（認為人類是地球上最聰明的物種，因此是獨一無二和優越的）。

人工智慧起飛：智力爆炸？

生命進化的原則包括協作、競爭和控制，這些都被技術放大了。如果我們有一天創造出人類水平的AGI（artificial general intelligence），那麼它會以多快的速度製造出一場智力爆炸呢？我們能控制這個嗎？如果不是，那我們要花多長時間才能控制我們的世界？在這樣一個世界裡，我們人類是在極權主義的環境中還是在一個被授權的舞台上？

「人工智慧突破」章節以科幻小說的形式講述了這樣的問題。被不那麼聰明的人類奴役，AI會不會感到不高興？人類應該在人工智慧系統中創造什麼目標來防止兵變？人工智慧能對系統進行主導，並破解它嗎？我們會生活在兩極世界（人類和人工智慧）嗎？

我們什麼時候才能到達這條岔路口——當我們這麼做的時候，我們能對人工智慧施加多大的控制，人工智慧又能控制多少呢？根據Tegmark的說法，真正的答案不是會發生什麼，或者應該會發生什麼？而是我們想要什麼樣的未來？

人工智慧：未來1萬年

這本書的下一章「超級智能」更加令人難以置信，它講述了未來1萬年的生活。我們想要被人接受嗎？我們想讓人工智慧保持清醒嗎？我們想要創造什麼樣的生活形式？我們想要在整個宇宙中傳播什麼文明？

在這方面，Tegmark描述了許多場景，比如：保護神（無所不知和無所不在的人工智慧，最大化人類的幸福），動物園管理員（人類在人工智慧動物園），被奴役的神（被囚禁的AI），征服者（AI擺脫人類）和自由意志的烏托邦（人類和人工智慧共存）。每一種情況都要根據可行性、優點和缺點進行評估。

機器會感激人類創造它們嗎？人工智慧會尊重人類嗎？人類是否應該尊重那些將生活和機器世界的精華融入其中的半機器人？人類能被上傳、下載和克隆嗎？人工智慧會比人類擁有更高級的情感嗎？在這些問題上沒有達成共識（許多人甚至沒有意識到這些問題），因此，Tegmark需要深入討論關於AGI和人類的話題。

宇宙：未來10億年及以後的世界

在大宇宙的這一章里，事情變得更加難以置信，尤其是在地球生命結束後（由於各種原因，包括太陽的擴張和地球上所有生命形式的沸騰）。這一章借鑒了宇宙學家Freeman Dyson的研究成果，建立在諸如暗能量、蟲洞、Chandrasekhar極限和斯蒂芬霍金的黑洞動力裝置等概念上。

「即使我們以光速行進，所有超過170億光年的星系永遠都是遙不可及的——這些是我們宇宙中超過98%的星系，」Tegmark解釋說。

因為在這樣一個浩瀚的宇宙中，通信速度很慢，所以「宇宙人工智慧」需要在速度和複雜性之間找到平衡，並建立一個計算網路的層級結構。這樣的超級智能將需要為不同層次的合作和控制進化出一種治理模式，甚至創造出新型的物質。如果「我們的」超級智能遇上另一種生命形式，會不會有武器或思想的衝突？

「如果沒有科技，在未來數百億年的宇宙中人類將會滅絕，這將使我們宇宙中所有生命的上演都只是短暫的轉瞬即逝的美的閃現，使得熱情和意義在近乎永恆的無意義中，不再有人體驗，」Tegmark說。

「如果我們繼續改進我們的技術，以足夠的關愛、遠見和計劃來避免陷阱，那麼生命就有可能在地球上蓬勃發展。甚至在我們祖先最瘋狂的夢想之外，在數十億年的時間裡蓬勃發展，」Tegmark寫到。

選自：yourstory

編譯：網易見外智能編譯平台

審校：nariiy