AI革命，通往超級人工智慧之路

本文翻譯自Tim Urban的《The AI Revolution: The Road to Superintelligence》，截止目前該文章在Facebook已有20萬人分享，翻譯的不好的地方請多多包涵，另外舉手之勞點個贊哈 (?????)

我們正處在一個跟人類在地球上誕生一樣重大的變革的邊緣 - Vernor Vinge

站在這個位置感覺怎麼樣？

站在這樣一個位置，會讓人感覺特別緊張，但實際上，站在那個位置，你是看不到右邊陡峭的坡度的，所以實際上是這樣的

是不是正常許多

遙遠的未來很快到來

想像如果你坐著時間機器回到1750年-一個沒有電力供應，遠距離通信只能靠大聲喊叫或者向空中開炮的時代。你到了那裡，綁架一個人，把他帶到2015年，觀察他對所有事情的反應。當他看到公路上穿行的汽車，人們用電話與位於海洋對岸的人聊天，用電視觀看1000英里以外的足球賽或者一場演奏於50年前的音樂劇， 用攝像機實時記錄生活的瞬間，用導航定位自己的位置，跟另一個國家的人們視頻聊天，以及其他的各種無法想像的巫術，更不用說當你嘗試跟他解釋互聯網，或者宇宙空間站，強子對撞機，或者核武器，廣義相對論。

這種經驗對他來說，估計不只是嚇傻了這麼簡單，估計他會直接狗帶（go die）。

有趣的事情來了，當他回到1750年，突然好奇心爆棚，並且決定跟我們做一樣的事情，於是他坐上時間機器，回到1500年並綁架一個人到1750年，給他演示所有科技。這個1500年的人估計會嚇傻，但他不會狗帶，因為雖然1500年跟1750年相差非常大，但比起1750年和2015年就是小巫見大巫了！這個1500年的傢伙會學到一些新的物理學知識，會震驚於歐洲現在繁華的樣子，會修正一下腦海中世界的版圖。但觀察周圍的事物，包括交通、通信等，並不會讓他直接狗帶。

如果那個1750年的人想要獲得跟我們一樣的樂趣，那麼他必須回到更遙遠的年代，比如公元前12000年，在一個原始部落綁架一個人並帶他到1750年，給他看高聳的教堂，航海的巨輪，給他展示各種收藏和發現，給他講授各種觀念比如「國家」、「經濟」，估計他也會很快狗帶！

然後這個公元前12000年的人也決定做同樣的事情，於是他回到公元前24000年，綁架一個人並帶他到公元前12000年，給他展示所有東西，這時他估計會掙脫開來，大聲喊叫「你給我看這些幹嘛，這到底有什麼意義？」對於公元前12000年的人，如果想獲得跟我們一樣的樂趣，估計他要回到10萬年前去綁架人，並給他展示火焰還有語言。

為了讓過去穿越到現在的人，會被現代的科技驚嚇到狗帶，我們必須穿越到足夠久遠的過去，我們把一個足夠讓過去的人驚嚇到狗帶的科技級別稱為「狗帶級別」或者「狗帶單位」。那麼在狩獵時代，一個狗帶單位大約是10萬年，在農業革命時代，一個狗帶單位大約是1萬2千年，而到了後工業化時代，由於科技發展太過迅速，一個狗帶單位僅僅是200多年。

人類發展速度的加快，被稱為「加速回報定律」。之所以存在這樣的定律是因為更發達的社會相較欠發達社會有能力以更快的速度發展。19世紀的人類比15世紀的人類懂得更多並有更先進的技術，因此19世紀的人類發展得比15世紀更快並不奇怪。

縮小範圍，這個定律也一樣奏效。1985年有一部穿越電影叫《Back to the Future》，裡邊的男主角Michael J.Fox從1985年穿越回去1955年，他被當時人們奇怪的俚語，蘇打水的價格，以及奇怪的音樂品味嚇得措不及防，確實那是一個完全不一樣的世界。但如果那部電影是在今天拍攝的，而1955年的過去變成1985年的話，那麼電影會更加有趣，主角會從一個人手一部手機，人人習慣於在互聯網溝通的時代，回到一個沒有這一切的1985年，這種衝擊會更加大。

根據「加速回報定律」，1985年到2015年的平均增長速度會高於1955年到1985年，因為前者是一個更發達的世界，比起上一個30年，最近30年有更多的改變。

增長變得更快，改變也變得更多，這對於我們的未來，預示著什麼？

「加速回報定律」的提出者-Kurzweil認為，整個20世紀的增長幅度，在21世紀將僅用14年就足以達到，我們回想一下，到目前為止如智能手機的普及，互聯網雲計算等的發展，是不是比整個20世紀的科技發展還炫目？Kurzweil還認為，到2021年，發展程度將達到20世紀的2倍，也就是僅用14年的一半時間就達到20世紀的增長幅度，幾十年後，可能僅需要1個月，就能達到20世紀的增長幅度。總而言之，根據「加速回報定律」，Kurzweil認為整個21世紀的發展幅度將是20世紀的1000倍。

如果Kurzweil的預言是準確的，2030年的發展程度將足以讓現在的我們狗帶，就跟1750年那個傢伙一樣。

這不是科幻小說，這是許許多多比你更聰明比你更知識淵博的科學家所相信的，而如果你去回顧歷史，你會發現這個預測是有跡可循的。

所以，當你聽到我說「35年後世界將變得完全不一樣」時，你還會一臉懵逼嗎？以下是我們做出這樣預測的3個原因：

1）當談及歷史發展時，我們通常認為它是一條筆直向上的線。

當我們想像未來30年，我們會把過去30年的發展作為一個標準，當我們想像21世紀的發展，我們同樣會把整個20世紀的發展，在2000年開始往上加。這種錯誤跟1750年那個傢伙打算把1500年的人帶到他那個年代，同時期望能讓他狗帶的想法是一樣的。

我們習慣於認為未來的發展是加法，實際上它是乘法。如果有人足夠聰明，聰明到拋棄過去30年的發展，而根據現今發展的速度去計算未來30年的發展，那麼結果會更準確，但這樣做還不夠，更準確的結果，應該是將現金的發展速度，乘以一個未來係數。

2）歷史的發展，往往沿著一個S形的軌跡。

首先，即使是十分陡峭的曲線，如果你只是隨意一瞥，也像是一條直線，同樣道理，如果你盯著一個大圓圈的一段去看，它也像是一條直線。第二，指數級別的發展曲線並不是平滑的，而是沿著S形的軌跡。

每一次全球範圍的科技進步，都會創造一個S形的軌跡，這個S形軌跡會經歷以下3個階段：

1、緩慢增長（指數級增長最初的階段）；

2、爆發性增長（指數級增長的中期）；

3、水平增長（指數級增長的後期，或稱成熟期）。

如果你看回最近一次S形發展軌跡，那麼1995到2007年是這個軌跡的第2部分，也就是爆發性增長，微軟、谷歌和Facebook逐漸進入大眾視野，社交網路誕生，智能手機開始普及。而後的2008到2015年是這個軌跡的第3部分，沒有太多的科技突破進入大眾視野，很多人會因此而認為未來也會這樣平緩地發展，實際上他們只看到冰山的一角，因為一個更大更陡峭的S形軌跡已蓄勢待發。

3）我們的過往經驗讓我們成了因循守舊的老古板。

我們喜歡基於自己的過往經驗，去判斷未來的發展，並認為這是合乎邏輯的，而實際上，是我們的想像力限制了我們的想像力。人類目前所積累的知識，並不足以用來準確預估未來的發展。當我們聽到一個關於未來的說法與我們的所知相悖時，我們會本能地認為他在吹牛逼。但如果我告訴你，下面的文章會告訴你你將活到150歲、250歲，甚至長生不老，你的本能會告訴你「這傢伙應該是活在《西遊記》吧，妄想吃唐僧肉，人類歷史告訴我們，死亡是不可避免的。」是的，過去確實沒有人能夠永生，但是，過去也沒有人見過飛機在天上飛吧？

事實是，如果我們拋棄歷史經驗，轉而讓理性思維帶領我們，我們應該認為未來會有大大的變化，超越人類所能想像的變化，與此同時，理性思維也告訴我們，在地球上，如果人類以越來越快的速度向前發展，在某個時間點，他們會到達一個階段，一個改變了生命的存在形式，一個人類是否還是人類的階段，就像進化論所揭示的所有物種都在進化，直到有一天進化出了人類，而人類徹底改變了地球，改變了地球上所有生物的存在形式。如果你花些時間了解一下當今前沿的科學技術，你會發現，已經有很多跡象表明人類已經悄悄地邁開了這一步。

超級人工智慧之路

什麼是AI？

如果你跟我一樣，過去一直認為人工智慧（AI）只是一個科幻的概念，但最近一直聽到一些業界大牛頻頻提起這個辭彙，而你對AI的概念卻十分模糊。

有3個原因讓大多數人對AI這個概念感到模糊：

1）我們經常把AI和科幻電影聯想到一起。

《星球大戰》、《終結者》這些電影，以及電影里機器人的角色，讓我們覺得AI是一個虛構的概念。

2）AI的概念廣泛。

從你手機上的計算器，Siri，到擊敗柯潔的AlphaGO，到自動駕駛汽車，以及種種尚未推出市場但一經推出就將改變世界的東西，都是AI，這讓人理解無能。

3）在我們的生活中，AI無處不在，但我們常常不認為它是AI。

John McCarthy在1956年發明了「Artificial Intelligence（人工智慧）」這個詞，但他經常跟人抱怨，「一旦AI開始出現，就沒人再叫它AI了」因為這個現象，AI讓人感覺像一個神話，而不是即將到來的現實，或者說AI就像一個非常流行的概念，但這個概念永遠不會實現。Ray Kurzweil說他常常聽到人們說AI在1980年就已經消亡了，他認為那些人跟認為互聯網會在2000年的互聯網泡沫中消亡的人是同一類人。

讓我們來重新梳理一下什麼是AI。

首先，別再把AI跟人形機器人聯想到一塊，人形機器人只是AI的載體，而AI是嵌在機器人里的晶元，或者說一段演算法。AI是大腦，而機器人是它的軀體，如果它需要一個軀體的話。舉例來說，Siri背後的軟體和數據才是AI，至於Siri的甜美人聲，只是AI擬人化的一個舉動，這跟機器人一點關係都沒有。

然後，你可能偶爾聽到一個詞「奇點」。在數學上，「奇點」被用於描繪一種漸進式的狀態，在這種狀態裡面普通的規則不再適用，這種數學概念在物理上的現象比如說無限小，密度無限大的黑洞，或者宇宙大爆炸之間的那個時間段。也就是說，「奇點」是一種普通規則無法適用的狀態。1993年，Vernor Vinge寫了一篇著名的論文，論文中它用「奇點」來形容未來科技超過人類智慧時，現有的規則和邏輯已不再適用的那個時刻。Ray Kurzweil又添油加醋了一番，認為「奇點」是當「加速回報定律」達到一定的速度時，科技大爆炸，從此人類生活在一個全新的世界。

最後，雖然AI是一個廣泛的概念，但我們可以根據AI的發展階段，來對它進行分類，AI有以下3個重要的發展階段：

1）弱人工智慧階段（ANI）

弱人工智慧指一些專註於某個領域的AI，比如能在圍棋上擊敗柯潔的AlphaGo，但它也就只能專攻圍棋，如果你問它其他問題，它只會一臉懵逼。

2）強人工智慧階段（AGI）

這個階段也可以稱為-人類級別AI，這個階段的AI，可以在所有領域與人類媲美，比如它既可以在圍棋領域擊敗柯潔，可以在短跑領域跑過博爾特，也可以在中國高考並成為省狀元。創造一個AGI會比創造一個ANI難得多，著名教育心理學教授Linda Gottfredson把智慧描述為「一種非常綜合的能力，包括歸因能力、計劃能力、解決問題能力、抽象思維能力、理解複雜想法的能力、快速學習能力以及從經驗中學習的能力等」，AGI可以跟人類一樣輕易地做到這些。

3）超人工智慧階段（ASI）

牛津大學著名哲學家和AI思考者Nick Bostrom把超人工智慧（ASI）定義為「一種在任何領域都甩人類最聰明大腦幾條街的AI，包括科學創造力、通識，以及社交能力等」。從比人類聰明一點點的電腦，到比人類聰明萬億倍的電腦都叫ASI。ASI的假設，讓AI這個詞成了燙手山芋，也讓「永生」、「滅絕」等詞語頻繁地被提起。

到目前為止，人類已經在很多領域創造除了弱人工智慧（ANI），而AI的革命之路將會始於ANI，經過AGI，最終達到ASI，人類不一定能親眼目睹一路的風景，但不管怎樣，一切的一切都將改寫。

讓我們一起了解下世界上頂尖科學家們是怎麼看待這一切，以及他們為什麼認為AGI甚至ASI將很快到來：

一個在弱人工智慧（ANI）的路上奔跑的世界

弱人工智慧（ANI）是一種在某些領域可以與人類媲美甚至超越人類的機器智能，以下是一些例子：

汽車就是一個遍布ANI的系統，從遍布大街的自動擋汽車，到谷歌研發的自動駕駛汽車，這些都是弱人工智慧（ANI）；

手機就是一個小型的ANI工廠。當你用手機來導航，或者收聽網易雲音樂的個性化推薦歌曲，或者跟你的Siri打情罵俏，這些都是在跟ANI打交道；

垃圾郵件過濾器是一種典型的ANI。它會學習你的習慣和偏好，最終在郵件海中準確識別出哪些對於你來說是垃圾郵件；

當你在淘寶上購物時，你會收到一些商品推薦信息，顯示跟你購買了同樣東西的人還購買了什麼，你很可能會受到影響並買多一件，這也是ANI；

谷歌翻譯、科大訊飛的語音識別，以及轉載了這些演算法的各種APP，讓你可以錄入一段中文語音就立刻翻譯出一段英文給你，這些都是ANI；

世界上最好的圍棋手、國際象棋手，以及各種棋類的大師，現在都是ANI系統；

谷歌搜索也是一種大型的ANI系統，集成了非常複雜的演算法用於頁面排序，以及決定給你展示哪些內容和廣告，Facebook的Newsfeed同理；

除了消費領域，在軍事領域、製造領域、金融領域，ANI都有廣泛的應用，比如現在整個美國一半的股票交易行為，都是高頻交易演算法在操縱，比如醫生現在很多診斷，都有ANI的參與。

ANI系統目前還不怎麼會威脅到人類，最壞的情況，也就是一個被寫入壞程序的ANI，引發了整個國家電力網路的癱瘓，或者引發一場金融危機，比如2010年股市的閃崩，就是一個ANI系統對一種未預知到的情況作出了錯誤的反饋而導致的，最終造成數十億美元的損失。

雖然ANI不至於引發人類的生存危機，但我們應該看到，這個越來越複雜的生態，已經開始在醞釀一場席捲全人類的颶風。每一個弱人工智慧系統（ANI）都是一塊磚頭，他們最終的目的，是砌成一座強人工智慧（AGI），甚至超人工智慧（ASI），就像關於「奇點」的暢銷書作者Aaron Saenz所說，「這些ANI，就像散布在地球形成初期海洋里的氨基酸一樣，正醞釀著生命的偉大爆發」。

通往強人工智慧（AGI）之路

為什麼這條路如此困難

當嘗試去創造一個跟人類一樣聰明的電腦時，我們開始意識到，大腦的複雜程度遠遠超乎我們想像。從0到1創造一個人類大腦的難度，遠遠超過建造一棟摩天大樓，或者把人類送上外太空，或者搞懂宇宙大爆炸。人類大腦是我們已知的宇宙中最複雜的事物。

有趣的是，你根本不知道創造一個強人工智慧（AGI）最困難的部分在哪裡。造出一個能在幾微秒內算出2個十位數字相乘結果的電腦，非常容易，造出一個面對一隻狗，能準確說出這是狗而不是貓的電腦，非常困難！造出一個能在棋類運動打敗人類的AI，已經做到了，造出一個能讀懂6歲兒童小人書的AI，谷歌已經在這上面花了數十億美元。我們人類認為困難的部分，比如計算、金融量化策略、翻譯等，對於AI來說非常簡單，相反人類認為簡單的事情，比如視覺、情感、移動、認知等，對於AI來說非常困難。就像計算機科學家Donald Knuth的描述，「AI已經能夠勝任很多人類需要思考才能辦到的事情，但那些人類不需要思考也能辦到的事情，AI表示臣妾做不到啊！」

你沒有意識到的是，那些AI很難做到而人類能夠輕易完成的技能，實際上已經如同最優化的演算法一樣，裝載在人類和大部分的動物身上了，這些演算法經過幾百萬年的進化訓練，已經調試到最優的狀態，人類自出生就能獲得。比如對人類來說不需要思考的伸手抓物，實際上涉及到非常多系統的相互協調，首先是你肩膀和腰的肌肉、筋腱、骨頭的輪動，然後你的手腕經過一系列的物理和化學作用，再依據眼睛的目標定位，最終伸出手到一定的距離抓住物體。這套動作對你來說毫不費力，是因為你的大腦已經預裝了一套完美的軟體。同樣的道理，一些網站註冊的驗證程序對於人類來說毫不費力，但對於自動化程序來說，想要識別這些驗證碼是一件非常困難的事情。

另一方面來說，大數相乘、下棋等，人類並沒有進化出相應的技能，因此對於電腦來說並不需要很多訓練就可以擊敗人類。同時對於人類來說，你更願意造出一種可以做大數相乘的電腦，來節省人類運算的時間，還是造出一種把手寫體的「傻逼」放在它面前，它可以立刻識別出來的電腦？

以下是一個有趣的例子，不管是人類還是電腦，都可以很快認出這是一個有2種色調交替的長方形：

如果你將圖形扭轉一下...

你還是可以很快認出這是一個由各種半透明圓筒、矩形以及三維圖形組成的本質上還是長方形的物體，但電腦卻識別不出來。你的大腦在識別的瞬間，已經做了一堆深淺、形狀混合、空間想像以及光照的識別運算。

同樣看以下的照片，電腦會認為這是一張二維的，由黑白灰組成的畫面，但你會立刻認出這是一張3D的黑色的隕石照片。

即使能識別出以上圖片，想要跟人類匹敵還是遠遠不夠，強人工智慧（AGI）還必須跟人類一樣，能識別出微表情，不管是喜怒哀樂，還是滿足委屈嫉妒等，甚至能看完電影並說得出《盜夢空間》比《富春山居圖》好一萬倍。

艱巨...

所以我們怎樣才能到達強人工智慧階段（AGI）？

第一把鑰匙：增加更多的算力

想讓強人工智慧（AGI）成為可能，第一件需要做的事是讓計算機擁有更多的算力，要讓AI跟人一樣聰明，必須讓計算機的計算速度和容量跟得上人類大腦。

要量化大腦容量，有一種方式是看大腦每秒的計算量（CPS），如果把大腦每個部位的最大算力加到一起，我們就能得到一個數字。

Ray Kurzweil曾經做過一個估算，他先計算出大腦一個部位的算力，再根據這個部位占整個大腦重量的比例去反推整個大腦的算力，經過反覆的演算和驗證，最後得出大腦的算力是

截止目前，世界上算力最大的超級計算機是中國的天河2號，它的算力已經超過 ，但它的體積堪比恐龍，佔地720平方米，運行起來的功率達到24兆瓦（大腦只有20瓦），耗資3.9億美元，根本無法大規模普及。

Kurzweil建議可以從購買力角度推算強人工智慧（AGI）什麼時候到來，看1千美金可以購買多少算力（CPS），如果1千美金可以買到 的算力，說明AGI離我們不遠了。

摩爾定律揭示，全球的最大算力保持每2年翻一倍的速度增長，如果把它與Kurzweil的理論結合起來，我們可以畫出一條這樣一條軌跡：

從上圖可以看到，我們價值1千美金的電腦剛剛能與昆蟲的大腦匹敵，而僅僅是人類大腦的千分之一，你可能會開始冷笑，嘿嘿，你個渣渣，但當你看到1985年時，電腦還只是人類大腦的萬億分之一，10年後的1995年，是人類大腦的十億分之一，2005年是百萬分之一，再看回現在的千分之一，你的冷笑開始消失，而到2025年以後，一個跟人腦一樣聰明的電腦可能是白菜價。

從上文可以知道，在硬體層面，人類已經足夠構建一個強人工智慧（AGI），比如中國的天河2號，但單獨的堆算力，還不足以構建一個AGI，我們的下一步是，如何把人類的智慧，裝載到這一堆算力上面？

第二把鑰匙：變得更聰明

問題開始變得有趣，事實是，沒有人100%掌握讓電腦變得更聰明的辦法，我們還在苦苦研發能夠準確識別阿貓阿狗，能夠準確識別潦草筆跡寫的「傻逼」二字的電腦，而這一路上，人類也總結出了一些方法，這些方法中或許有一個，能夠幫助人類創造出AGI，以下是業界公認的最有希望的3個辦法：

1）複製人類大腦

想像讀書時班裡的學霸，永遠如天之驕子一樣每次考試都拿第一，而你不管再怎麼努力，還是只能給學霸提鞋，於是你猛一拍桌子，「老子不幹了，下次考試直接把學霸卷子拿過來抄」。方法雖然粗暴，但著實有效，科學家苦苦掙扎於從0構建一個超級複雜的大腦，但實際上，自己脖子上就頂著一個完美的參照物。

科學界一直在對大腦進行逆向工程，樂觀估計到2030年，我們就可以完全解構人類大腦。一旦我們知道大腦的所有秘密，我們就可以直接複製粘貼出一個AGI。實際上，在模擬人腦上我們已經有了應用，比如人工神經網路。我們用晶體管構建出一個人工神經元網路，這些神經元互相連接，有輸入也有輸出，一開始它跟嬰兒大腦一樣什麼都不懂，但它會學習，假如我們想讓它學會識別一個手寫筆跡，最初，它會隨機映射一些答案，一旦映射到正確的答案，相應的神經元連接就會得到更高的權重，當映射到錯誤的答案，相應的神經元連接的權重會被削減，經過一輪又一輪的訓練，這個人工神經網路會被優化到最佳狀態，人類大腦的學習過程跟這個類似，但更複雜。隨著對大腦研究的深入，人類將會發現更多大腦運作的原理，從而用來構建AGI。

對於複製大腦，業界有一種更巧妙的方法叫「全腦模擬」，是把大腦片成片片薄片，然後挨個掃描，然後用軟體模擬一個精確的3D模型，最後放到一台強大的計算機上運行。理論上，我們能夠完全複製這個被切片大腦的所有記憶，假如這個大腦在生前屬於愛因斯坦，那麼當電腦上的模擬大腦醒過來時，它也會認為自己是愛因斯坦。

我們離構建這樣一個模擬大腦還有多遠？到目前為止，我們僅能模擬1毫米長的扁形蟲（一種寄生蟲）的大腦，這種寄生蟲的大腦有302個神經元，而人類有1000億個神經元。先別絕望，記住計算機的算力是指數級增長的，很快我們就可以模擬螞蟻的大腦，然後是老鼠，接下來是人類...

2）複製進化過程

如果複製學霸的大腦非常困難，我們可以複製他學習的方式，也就是他大腦進化的方式。

人類的進化過程本身已證明，創造一個人腦是可能的，而如果對於我們來說模擬一個人腦太過困難，我們可以模擬進化過程。事實是，模擬大腦這個計劃，本身就像對著一隻小鳥模擬一隻飛機，最終只會失敗，因為真正成功的機器，從來不是模仿生物體而來。

那麼，我們如何通過複製進化過程最終創造出強人工智慧（AGI）？通過了解「遺傳演算法」，我們發現進化本質上是一種不斷循環的行動&評估過程，這裡的行動指生物的生存，評估指這種生物是否能一直生殖而繁衍下去，再想深入一些，其實人類最初只是一群被灌輸了「生殖」指令的弱人工智慧（ANI），在生殖過程中不斷地進化，最終成長成現在的AGI。我們可以讓一群電腦一起battle，勝利那個可以擁有「交配權」，他可以選擇與另外一台電腦合併代碼，最終成為一台新的電腦，而惜敗那些電腦，則讓他們銷毀。經過一次又一次循環往複的battle，這種自然選擇會誕生出越來越優秀的電腦，最終誕生出AGI。

這種方式看似有戲，但是進化過程需要耗費上億年，而我們並沒有這份耐心。

不過我們可以通過一些手段來加速這個進化，1、人類進化是隨機的，大部分的基因突變都是不好的，而我們可以控制電腦往好的方向進化；2、人類進化是漫無目的的，有些時候更高的智慧還會被環境所排擠（因為耗費太多能量），而我們可以把電腦的進化目的設定為提高智慧；3、由於有限的資源，在進化出更高的智慧之前，人類需要不斷優化細胞消耗能量的方式，而我們可以提供給電腦無限的電能。

毫無疑問我們可以讓電腦進化的過程遠遠快過人類，但我們還是不太有自信可以在有生之年造出AGI。

3）讓電腦替代人類，去推進這一切

很多時候，科學家會感到絕望並大聲喊「去TMD的，讓電腦來搞定這一切吧」，這或許是最有效的方式。

我們可以給一台計算機賦予2項指令，1個是研究AI，1個是把研究成果用於優化自身，讓它自己給自己迭代升級，放手讓計算機自己來推動自己的發展，這或許是一種靠譜的方式。

這一切將很快到來

基於以下2個原因，我們相信強人工智慧（AGI）將很快來臨：

1）指數級的增長方式，將讓現在看起來如蝸牛爬行般的科技增長速度突然加快，以下GIF圖片可以給你一些啟示

2）在軟體領域，我們的進展看起來十分緩慢，但當某一個領域被攻破時，發展速度將立刻被改變（就像當年地心說流行時，人類一直無法搞清楚宇宙是如何運作的，但當日心說取代地心說時，所有事情開始豁然開朗）。所以，即使現在電腦距離人類還有一千倍的距離，但或許只要攻破了某個領域，這一千倍的距離立刻觸手可得！

從強人工智慧（AGI）到超人工智慧（ASI）

當強人工智慧（AGI）來臨時，電腦已經擁有了與人腦匹敵的智慧，此時，僅有一小撮人類與電腦和平共處。

或者連這一小撮人類都不需要。

即使電腦僅與人腦的智慧在同一水平線上，電腦還是比人腦佔據優勢，因為：

硬體：

1）速度：

人腦神經元的工作頻率最高可達200赫茲，而今天的微處理器能達到2千兆赫茲，是人腦的1千萬倍；人腦神經元間傳輸速度大約在120米/秒，而電腦的傳輸速度理論上可以達到光速；

2）體積和存儲：

人腦被限制在人類的顱骨里，不能變得更大，同時人腦與人腦之間的傳輸效率非常低，而電腦可以以任何體積存在，可以投入更多的硬體資源，有更高的隨機存儲器（RAM），也有更高的永久存儲器（ROM），它們的容量和精度都遠遠超過人類；

3）可靠性和耐力：

電腦不只是存儲精度優於人類，電腦的晶體管比人腦的神經元更不容易衰退，且晶體管是可修補或是替換的。人腦非常容易疲勞，而電腦是不知疲憊的，能夠每周7天每天24小時地工作。

軟體：

1）電腦軟體可編輯、可升級，並且有更廣的應用範圍：

與人腦不同，電腦軟體可優化可升級，經過升級，電腦可以迅速在某些領域超過人腦。即使人類的「視覺軟體」非常發達，但某些領域比如對複雜工程構造的解析會顯得低效，電腦可以在這方面輕易超過人類。

2）協作能力：

人類通過大規模協作，在生存戰爭上擊敗其他物種。從語言的誕生，部落的聚集、到寫作和印刷的發明，到現在發展出了互聯網，人類在協作方面的智慧，是人類大踏步甩開其他物種的主要原因。而電腦可以比人類做得更好！通過互聯網，AI可以隨時隨地立刻把數據同步到全球每一個角落的電腦，而且AI不像人類一樣每個人有自己不同的目標、觀點和興趣，不需要高成本的動員，所有AI可以僅專註於一個目標。

在AI自我升級的道路上，實際上並不存在一個跟人類同一水平線上這麼一個階段，這只是人類的自我幻想，從上文得知，即使AI的智慧發展到跟人類一樣，它在其他方面也優於人類，在通往ASI的道路上，AI不會為人類停留一分一秒。

人類的腦海里，有這麼2個根深蒂固的預設：1、其他生物的智慧遠遠低於人類；2、我們認為世上最聰明的人與最蠢的人相較如下圖：

當AI加速發展時，我們發現它開始變得比動物更聰明，然後它開始達到跟世上最蠢的人一個水平線，Nick Bostrom把它稱為「農村傻根」，這時我們會驚訝但帶著點嘲笑說「看，他跟一個傻瓜一樣，真可愛」。我們沒有預料的是，在智慧發展的光譜里，所有人類，從傻根到愛因斯坦，他們之間的差距實際上在很小的範圍，當AI跟傻根一樣聰明時，轉眼間它會變成愛因斯坦，然後絕塵而去，留下一臉懵逼的我們。

然後呢？

智慧大爆炸

希望這篇文章沒有嚇壞你，但我想提醒你的是，這裡說的每一個事實每一個預測，都來自現實中真正的科學家，並不是瞎ji巴講。

一旦到了AGI階段，所有之前不具備自我升級的系統，現在都足夠聰明到可以進行自我升級。

於是這裡有了一個新的概念「遞歸式自我升級」，它的運作方式是：

假設AI的目標被設定為通過自我升級，提升智慧，當它發展到「農村傻根」時，可能經歷了漫長的一段時間，但你會看到在一瞬間，它就變得跟愛因斯坦一樣聰明，因為此時它的發展速度在指數級增長。隨著發展步伐的加快，AGI到ASI也僅是一眨眼的時間。這就是智慧大爆炸，也是「加速回報定律」的終極形式。

關於何時到達AGI，目前有很多爭論，其中的中位數是2040年，距離現在只有短短20幾年，更讓人驚訝的是，大部分科學家認為AGI到ASI會非常迅速，它會像這樣：

終於，AI發展到了強人工智慧階段（AGI），此時電腦對身邊世界的認知如同4歲的小孩一樣，雖稚嫩但已經有基本的了解，但僅1個小時之內，電腦突然就掌握了廣義相對論和量子力學，而這些東西人類還未完全掌握，然後又是短短的90分鐘，電腦搖身一變成為比人類聰明幾萬倍的ASI。

一旦到ASI階段，所有一切已超越了人類的認知，在我們的世界裡，只有IQ 130的聰明人和IQ 85的傻瓜，從沒想過會有IQ 12952的怪物。

人類之所以能支配地球，因為遵循一條簡單的法則：智慧就是力量，而當我們親手創造的電腦達到了ASI，它將成為地球歷史上力量最大的事物，所有生物，包括人類，將處於它的奴役之下，而這將會發生在短短的幾十年後。

既然渺小如塵埃的人類大腦能夠發明wifi這類事物，那麼比人類聰明萬億倍的電腦，將能輕鬆控制地球上每個角落的每個事物，精確到原子級別。所有我們能想到的只有上帝才能做的事情，對於ASI來說都只是抬抬小指頭的事。返老還童、治癒癌症、控制天氣都變成可能，而面對這樣一個萬能的上帝，一個終極問題將會擺在我們面前

他會是一個好上帝嗎？

推薦閱讀：