埃隆·馬斯克推薦了一本麻省理工教授的書，沒想到作者「懟」了他的AI威脅論

科技行者報道

來源：THE GUARDIAN

編譯 ：科技行者

一直致力於宣傳「AI威脅論」的大V馬斯克最近又有新動作，上個月底，馬斯克在Twitter上推薦了麻省理工學院的物理學家Max Tegmark的新書《生活3.0：人工智慧時代的人類》，並寫道：「@Tegmark的新書Life 3.0值得一讀。AI可能是人類史上最好或最壞的事情，我們需要正確對待它。」再次提醒人工智慧的威力不容小覷。

不過，馬斯克被Max Tegmark懟了！近期，Max Tegmark接受THEGUARDIAN採訪時表示看好AI發展潛能，「我認為AI時代我們需要做的就是保持幽默感和諷刺意識。不能因為自己是這個星球上最聰明的生物而沾沾自喜，恰恰是因為我們能夠將所有奇思妙想變成技術，而發明這些技術的目的就在於不讓我們人類成為地球上最聰明的人。」

Max Tegmark是誰？麻省理工學院的物理學家，馬斯克的小夥伴

Max Tegmark是麻省理工學院物理學家、宇宙學家，他一直專註於平行宇宙的研究。近些年，它開始關注人工智慧，並成為「機器威脅論」的主要擁護者。

Max Tegmark聯合了若干同事和朋友，成立了Future of Life組織，用來分析那些可能對人類構成威脅的技術。過去幾年，該組織曾在《The New York Times》和《The Washington Post》發表文章，提出自動武器的危險。該文章聯合了包含霍金、馬斯克、Steve Wozniak在內的20000人進行簽名。而在2015年1月，Tegmark召開了第一屆討論人工智慧威脅的會議。該會議以1975年召開的有關重組DNA的Asilomar會議為模板，在Puerto Rico進行了三天的討論。據參會者透露，其中的一個核心討論內容就是機器智能何時能夠趕超人類。像Ng這樣的人工智慧專家認為這還需要數百年，而馬斯克和Stuart Russel等則認為這很快就會實現。最終，Tegmark給出的中間答案是40年。他表示，機器不需要本身就是邪惡的才會對人類構成威脅。

近日，Max Tegmark發表了其撰寫的新書——《生命3.0：作為人工智慧時代的人類》，這本馬斯克強烈認可的書到底寫了什麼？其探索分析了人類進化的最新階段。Tegmark指出，像我們的宇宙進化歷程一樣，生命逐漸變得更加複雜和有趣，我發現這將有助於將生命形式分類成3個複雜等級：生命1.0、生命2.0和生命3.0。書中的簡介向我們提出一連串的發問：如何在避免人類失去收入與目標的情況下用自動化讓社會更繁榮？我們能給孩子怎樣的職業建議?怎樣才能讓未來的AI系統足夠強大，無視一切故障、崩潰和黑客攻擊為人類服務?有必要擔心致命的自動化武器的軍備競賽嗎?機器最終在所有問題上都比人類聰明嗎?它是會為生命帶來史無前例的發展，還是會帶來人類不可控的力量？

馬斯克一直對AI心存畏懼，這是公認的事實，他曾讀過Bostrom的《超級智能》一書，這也是他首次在twitter上呼籲「AI威脅論」的起因，不過，Bostrom站出來「懟」過馬斯克，他在USI演講上曾表示，「我想藉此機會說一句，我對此其實並沒有那麼悲觀。」

而這次，馬斯克推薦了Max Tegmark的書《生活3.0：人工智慧時代的人類》，也被作者無情的懟了…

AI並不一定是「壞事兒」 其發展比氣候變化更為迫切

幾年前的一天，在南肯辛頓科學博物館外面，Max Tegmark突然開始哭泣，淚如雨下。那時，他剛剛參觀完一個有關人類知識增長的展覽，展示內容包括了從查爾斯·巴貝奇（英國發明家、電腦先驅）的差分機到阿波羅11號的複製品。而讓他感到激動不已的卻不是這些標誌性的技術發現，而是由這些展品所激發的頓悟。

他回憶說：「某種觀念就像磚塊突然擊中了我，即每當我們了解了自然界中的某些東西，或者了解了自己的某些方面時，這些知識就已經過時了。如一旦了解肌肉如何工作，便以機器的形式製造機能更強大的肌肉。也許如果了解了大腦如何工作，將建立更好的大腦，但這也將使得這些知識變得完全過時。」

Tegmark的看法並不是什麼虛無縹緲的假設，而是人工智慧時代的黎明時期其對自己的智力所發出的挑戰。受其啟發，他開始產生疑問，即如果我們設法創造出超越自己的智慧，那人類將變得如何呢？

當然這也是科幻小說一再描述的一個問題。然而，隨著AI成為科學事實，它也具有了不同的意義和緊迫性。Tegmark認為：現在是時候研究人工智慧的可能性了，特別是可能創建出所謂超級智能的可能性。

Jaan Tallinn是Skype的聯合創始人，也是Tegmark的好朋友。Tegmark與其共同合作，受馬斯克的資金支持，他們成立了未來生命研究所，致力於研究人類面臨的生存風險。該研究所位於馬薩諸塞州劍橋市，與牛津大學人文學院的人類未來研究院不同，後者是由Tegmark的同事，瑞典哲學家Nick Bostrom建立。

Tegmark推出了新書《生活3.0：人工智慧時代的人類》。曾寫過像多元文化這樣深刻且有理論深度的作家，Tegmark並不害怕自己成為知識淵博但只能進行天馬行空般推測的人。

弄清AI的困難之處在於它總是陷在各種神話和誤解的泥濘沼澤之中。Tegmark試圖解決AI這一固有形象問題。即先仔細解釋其所涉及或與智慧、記憶、學習、意識等相關的概念，再以通俗易懂的方式解釋。

首先，在波士頓，Tegmark雖以電話形式發言，但他卻十分真誠的希望能夠闡明AI的本質。

「我認為好萊塢電影誤導了我們，」他說，「對機器發展變成自我意識和邪惡的恐懼實際只是一種轉移人們注意力的觀點。高級人工智慧真正擔心的不是其可能危害人類，而是其不夠智能無法幫助人類。如果你擁有超智能AI，從理論上說，它將非常擅於實現目標。我們能做的是確保其目標與我們的目標一致。我不討厭螞蟻，但如果讓我負責在一個蟻冢地區建設綠色能源水電站，這對於那些螞蟻來說就太糟糕了。我們不想讓自己處於這些螞蟻的位置。」

《生活3.0：人工智慧時代的人類》一書遠非悲嘆人工智慧的未來，更像在慶祝超級智能未來的發展潛能。但什麼是超級智能呢？或者更近一步，什麼是智力？Tegmark將其定義為：「完成複雜目標的能力」。因此，計算機是智能的。但它們的智慧又是狹隘的。

目前，計算機能夠在遠超出人類能力範疇的某些領域處理信息。例如，世界上最好的棋手對陣現代計算機程序時就沒有取得成功。但是，這個程序對於一個玩簡單畫圈打叉遊戲的孩子而言又是無用的。人類，即使是年紀輕輕卻已擁有廣泛的能力，而電腦，只能處理某些特定的任務。

顧客拍攝的東京三越百貨公司Toshida人形機器人Aiko Chihira的照片

所以計算機的智力僅限於我們的掌控範圍之內，像我們預先編程設計的那樣。然而，隨著進入AI時代，事情開始發生轉變。先例如Google人工智慧技術DeepMind，其計算機自學就是通過不斷犯錯，嘗試實現自我提升。到目前為止，該技術僅在視頻遊戲和棋盤遊戲中體現，但可能會擴展到其他媒體。如果該技術傳播開來，將對我們的生活和思考許多其他問題產生深遠影響。

Tegmark開始創建環境定義，且通過不同發展階段的網格來研究這些問題。在他看來，生命最開始的階段是最原始的生活形式，如細菌，稱之為「Life 1.0」。而這還只是一個簡單的生物階段，生命也只是複製，只有進化才有可能適應環境。

「Life 2.0」或者稱之為文化舞台，是人類所在之處：在這裡人類能夠學習，適應不斷變化的環境，有意識的改變環境。然而，我們還不能改變我們自己的身體，或是生物遺傳性能。Tegmark將這種情況描述為硬體和軟體。我們設計自己的軟體——「走路、閱讀、寫作、計算、唱歌和說笑話」的能力——但我們的生物硬體（大腦和身體性能）則受演變的限制。

Life 3.0的第三個階段是技術階段，在此階段人類不僅可以重新設計其軟體，還可以重新設計硬體。Tegmark寫道，這種形式的生活中，人類是「自己命運的主人，終於完全擺脫了進化的束縛」。

這種新的智慧將是不朽的，能夠幫助我們探索宇宙的奧秘。換句話說，這將是生命（但不是我們熟知的那種生命）形式。但其究竟是生命還是某種別的東西呢？Tegmark作為物理學家絕不是多愁善感的人。他是唯物主義者，將世界和宇宙視為超越由不同層次的粒子組成的不同層次的活動。他對生物、凡人智慧、智能、自我持續的機器之間並不持有任何特定意義或道德上的區別觀點。

Tegmark在Life 3.0中描述了未來有無限可能性，有時他的描述如夢如幻，甚至帶著某些必勝的信念；但他也是一名理論家，總是為大多數人設身處地的考慮有什麼事物難以想像或帶來不愉快感覺。

儘管如此，持不同觀點的人可能會在實現時間上爭論，但即使是他的詆毀者也認同他的假設不是憑空而來。簡單來說，我們正處於AI——自駕車、智能家居控制單元等自動機時代的早期階段。但是，如果這種趨勢持續快速發展，那麼某個時候，假設30年、50年、200年後呢？——計算機將以許多方式成為擁有人類智力的等同物。

一旦電腦達到這個階段，改善將持續增速，因為其將擁有更為強大的處理能力，並利用該能力進一步幫助增強其能力。這是Bostrom在2014年出版的《超級智能》一書中提出的觀點，而這種智力大規模擴張（或者稱之為完成複雜目標的能力）也的確是超級智慧。

然而，超級智能並不是必然。現場有很多人認為電腦永遠不會與人類智慧相匹敵，或者如果電腦真的達到了人類智慧，人類則會自我適應。但是，如果這有可能成為現實，Tegmark認為迫切需要人們認真思考這個問題。

「當真正處於戲劇性事件可能發生的情況下，我認為我們最好在這幾十年就開始做準備，以便其成為我們的助力。如果30年前就已為氣候變化做好了準備，這對現在將是很好的事情。」

像Bostrom一樣，Tegmark認為AI的發展比氣候變化更為迫切。然而，如果我們正在創造的是連我們自己都不太能理解的人工智慧，那麼依靠其所做出的準備又會產生怎樣的影響呢？又將如何能夠限制一項超出我們自身智力範圍的智能呢？

Tegmark承認，這一問題目前還無人能回答，但他認為還有許多其他任務值得我們優先考慮。

「擔心超級智能可能導致的長期問題之前，我們需要解決一些目前較為迫切的問題。不要將追求完美變成我們的敵人。毫無疑問，任何情況下我們都不希望飛機飛進山區或撞上建築物。當Andreas Lubitz感到沮喪時，他告訴自動駕駛儀下降到100米，電腦聽從了他的指令！電腦完全不知道人類的目標，即使我們現在有能力建造一種模式：只要飛行員進入飛行狀態，將進入安全模式，將駕駛艙和陸地定位在最近的機場。但即使是這種最基本的操作規範，也應該在開始時將這些指令設置在機器中。」

但在此之前，Tegmark說我們還有更緊迫的工作要做。我們如何將現在這種充滿漏洞和易被入侵的計算機打造成我們能夠真正信任的、強大的AI系統？這非常重要，儘管目前我們社會作為一個整體，在處理這個問題上仍然非常輕率。世界各國政府應該將其作為計算機科學研究的重要部分。

Tegmark認為，通過放棄人工智慧研究以阻止超級人工智慧的興起，這個辦法不可行。「得益於技術進步的2017年，我們的生活無論從哪一方面來說都比石器時代更好。討論支不支持AI這個話題，就像詢問是支持還是反對火一樣可笑。火給我們的家庭帶來溫暖，我們都喜歡火，同時我們也都需要防止縱火。」

因此，我們需要火但同時身肩防止縱火的責任。正如Tegmark所指出的那樣，各國開始進行能夠致命的自主武器的軍備競賽，互爭雄長。俄羅斯總統曾說，誰掌握了AI，誰就是「世界的統治者」。與生物和化學武器被禁止的方式大致相同，聯合國會議於11月審議了一項可行的國際條約以禁止這些武器。Tegmark說：「AI團體強烈支持這一條約」，「技術方面，自主暗殺無人機和亞馬遜交付書籍無人機相差無幾。」

BAE系統的塔拉尼斯無人隱形機原型被描述為「第一個自主無人機」

「未來十年的另一個大問題是工作自動化。許多著名經濟學家認為，不平等日益擴大才導致英國脫歐和特朗普當選總體，而這一切都是自動化驅動的。如果政府能重新分配機器帶來的巨大財富，那這是一個很好的機會讓大家的生活變得更美好，會使每個人都受益。「

Tegmark認為：秉承對自由市場的信仰，英國作為一個有悠久國家醫療服務體系的福利國家，可以利用企業創新為國家謀取利益方面發揮主導作用。分析認為：事實上，很多AI研究是俄羅斯和中國政府主導。除此之外，大部分的AI技術進步都來自於美國政府或公司。但作為一個社會整體，美國並沒有像過去那樣習慣性地過度關注不平等問題。

這本書中，Tegmark向Google的Larry Page（地球上最富有的人之一）致敬。Larry Page有可能成為有史以來最有影響力的人。Tegmark說：「根據我的猜測，我有生之年如果超級智能數字生活能徹底改變世界，那將多虧了Larry的決定。」

Tegmark確實是周到又真誠地關心著人類困境。毫無疑問他確實是真的關心。但作為一個商人，他首先關心獲取利潤，打敗競爭對手。而事實證明，不具代表性的科技億萬富豪手中掌握著太多的決策權。

在我看來，雖然AI的直接問題本質上是技術性的，或者說在政治意義上是技術性的，那些尚未解決的問題本質上遠不止是哲學問題那麼簡單。

他說：「重要的是要意識到智力等通於權力，我們能駕馭老虎的原因，不是因為我們有更強壯的肌肉或更尖銳的牙齒，而是因為我們更聰明。更高的權力最終可能控制地球。可能是有些人藉助先進的人工智慧獲得了巨大的權利，或者可能是機器比我們更聰明並設法取得自主控制權。這不一定是壞事。父母與孩子的目標是一致的，所以孩子們不介意有更聰明的生物，叫媽媽和爸爸。AI可以解決我們所有棘手的問題，幫助人類前所未有地蓬勃發展。」

但是，這會不會從根本上改變人類的本性，尋求優秀的代理人來照顧我們嗎？我們將不再是塑造我們這個世界的主要力量。

安博，作為中國第一個智能警察機器人，於2016年9月在廣東深圳寶安機場巡視

他笑著說：「沒錯，當今世界有很多人認為事情本該如此，並對此樂見其成。宗教人士認為世上存在一個比他們更強大更聰明的人，而這個人正在尋找他們。我覺得我們真正需要戒掉的是一種傲慢觀念，即將自我價值錯置於人類例外論的觀念。如果我們學會謙虛，說或許有比我們更聰明的生物，那麼人類會變得更好。但是沒關係，我們可以從其他事情中獲得自我價值：與人類有真正、深厚的關係以及奇妙的啟發經驗。」

此刻，與一些沉迷於思索宇宙新時代的教授不同的是，Tegmark聽起來不太像一個堅定的唯物主義物理學家。但毫無疑問，推動建造這些機器的現代主義項目的，是基於上帝不再需要發明的信念——如果發明了新的神來取代舊神，這難道不是一個痛苦的歷史諷刺嗎？

Tegmark笑道，「我認為AI時代我們需要做的就是保持幽默感和諷刺意識。不能因為自己是這個星球上最聰明的生物而沾沾自喜，恰恰是因為我們能夠將所有奇思妙想變成技術，而發明這些技術的目的就在於不讓我們人類成為地球上最聰明的人。

研究和撰寫這本書之後，與在南肯辛頓的悲觀時期相比，Tegmark現在更加樂觀。但樂觀不是建立在假設之上，即每件事情最終都會完美收官。相反，他認為如果我們要收穫果實，就必須採取行動。他說，人民和政府必須把注意力轉向不久的將來，準備適當的安全工程，深入思考我們究竟想要創造什麼樣的世界。

11月份的聯合國會議上他可以講些什麼呢？

「AI安全研究基金禁止致命的自主武器，倡導擴大社會服務，使每個人都能獲得AI創造的財富。」

綜上所述，未來的發展不可預見，需要明確的是生於憂患死於安樂，但是只要我們落實了上述三點，人工智慧未來的發展將值得期待。