如何看待@謝熊貓君編譯的「為什麼最近有很多名人，比如比爾蓋茨，馬斯克、霍金等，讓人們警惕人工智慧？」？

01-15

文章連接：為什麼最近有很多名人，比如比爾蓋茨，馬斯克、霍金等，讓人們警惕人工智慧？ - 謝熊貓出沒注意 - 知乎專欄
定向問題：如何看待這篇關於人工智慧的譯文？ - 如何評價 X

轉載請保留作者知乎 @Mind Over

文中提及之科技信息均來自網路搜索。

---------------------------------------------------分割線-----------------------------------------------------

最近看了謝熊貓君的翻譯文章&<為什麼最近有很多名人，比如比爾蓋茨，馬斯克、霍金等，讓人們警惕人工智慧？&>，有很多啟發。關於永生的實現上，我也有一些自己的思考，借知乎這個平台來闡述一下。

我們是否只能將永生的希望寄託於一個遠遠超過我們智商的超級智能上？因為它無法想像，所以它無所不能，它瞬間能解決所有問題，讓人類返老還童，永生不滅，翻手就能將人類滅絕，而我們只能束手無策。

這樣的期待更像是一場賭博，這不是一種合適的科學態度，我們無法把握這條線發展下去的後果，但這並不意味著這就是永生的唯一解決方案。指望一個無法捉摸脾氣，喜怒無常的超級智能，這種心態如同原始人向神靈祈禱，卻無力改變降下的是恩賜還是怒火一樣被動而無助。

那麼靠人類自身的發展，我們能夠實現永生嗎？我認為這是可行的，而且我們正走在正確的道路上。回顧過去十幾年最重要的科研進步和社會變化，彷彿有一隻看不見的手，在推動著我們朝著永生的終極目標行進。

---------------------------------------------------分割線-----------------------------------------------------

要達到永生這個目標，首先要搞清楚永生代表什麼含義。光延長壽命，甚至不會衰老，可算永生嗎？按西遊記里菩提老祖的話說，好似壁里安柱，又像水中撈月。我們脆弱的人體嚴重依賴於適宜的環境，可以說是非常嬌貴，一點也經不起折騰。溫度，氣壓，氧氣比例，水分，重力，任何一點在宇宙看來非常細微的變化都有可能導致人類的滅絕。打個比方說，太陽如果有一天不小心打個噴嚏，或者地球打了個冷戰，人類就掛了。

一顆不期而至的小行星，冰河期的來到，磁極倒轉，某種未知的病毒，我們擁有豐富的末日題材。但是為了規避這些風險，我們的未來被迫在無盡的冬眠中度過，或者克隆出一個人來代替自己，或者生化改造變得人不像人鬼不像鬼，住進暗無天日的地底，或是滿是砂礫荒漠的火星，這樣的永生光想像就無法接受了。

我所期待的永生，人類可以保持自己獨立的意識和人類形態，可以生活在自己想要的環境里，可以擁有對各種極限環境強大的抵禦能力和恢復能力，個體生命是永恆的，人所生存的時間和空間範圍是沒有極限的。

這個永生如何實現呢，就從最近十幾年的變化說起吧。

拋開技術層面的進步來說，人們越來越對基於互聯網的電子產品形成依賴。人同電腦和手機相處的時間越來越長，也越來越適應這種相處。近幾年來，隨著智能手機的發展，人們喜歡玩手機的時間逐漸超過電腦，原因是手機更適合攜帶，能夠在更多的時間裡提供互聯網服務。

去年手機和智能手機用戶在中國首次超過傳統台式電腦上網用戶。截至6月底，中國互聯網用戶的人數已上升到6.32億。其中約83%的用戶，即5.27億網民用手機上網。

在互聯網上，人的存在是抽象的，不依賴於人的身體而存在。人類喜歡並習慣上網，以適應互聯網的方式來生活和互動，是向著終極目標邁出的第一步。

接下來要提到幾個技術概念，由於技術發展的不確定性，以下各項技術達到所需水準的條件先後順序可能不同，但都是可實現的，有些已經有了相當的技術積累。當這些技術都滿足條件時，人類文明將進入下一階段。

1. 人機介面

2. 虛擬現實

3. 人體晶元

4. 人體生理學

5. 神經網路

6. 集群智能

---------------------------------------------------分割線-----------------------------------------------------

人機介面:

如果我們把人體想像成一台未來人製造的電腦，而我們不知道它的實現原理是什麼。那麼相對於主板，CPU這種內部設備來說，弄明白外部設備比如鍵盤，滑鼠，攝像頭和內部設備與主機之間的通訊原理，則是相對容易的事情。

目前已經商業化的人機介面是根據人腦電波的跳動來實現向電腦中輸入字母，這個是根據人腦的信息變化來操控機器，不是我理解上真正意義上的人機介面。在CeBIT2010上展示了世界上首個商業化的病人用的人腦計算機介面，Intendix依靠一個監測腦部注意活動的腦電圖監測帽以一種特別的方式來工作。你只要簡單地看著屏幕上閃現的一組字母，集中注意力在你想要輸入的字母上。當你想要的字母點亮時，你的腦電波會微微跳動，從而讓腦電波監視器發現你想要輸入的是什麼。

如果我們弄明白眼睛同人腦之間傳輸圖像的機理，那麼是否可以通過植入晶元的方式讓盲人重現光明？美國很早已經開始在做這樣的研究，1998年美國能源部牽頭組織了數家實力雄厚的國家實驗室和大學，共同創建了一個叫做第二視覺Second Sight的公司。它們推出的人造眼名喚「百眼巨人」Argus。這個系統由以下五部分組成：視頻眼鏡，整合在鏡片中的兩台數碼相機，獲取實時圖像；視頻處理器，把數碼相機獲得的圖像編碼成電磁信號；發射器，就在眼鏡上，把處理器編碼的電磁脈衝發射出去；接收器，一般放在耳朵上面的頭部皮膚里，很小的一個天線，接收電磁信號，並通過一條細線傳到眼球的後方；視網膜植入裝置，這也是個晶元，1毫米見方，上面有很多個電極，按照處理器發出的指令依次放電，電信號經過視神經傳到視覺中樞。2002年，第一代百眼巨人的視網膜植入裝置只集成了16個電極。也就是說，植入了這種人工眼的6名自願者只能看到16像素的明暗色塊。這會讓病人恢復明暗視覺。2009年7月中旬，第二代百眼巨人獲得美國食品與藥品監督管理局FDA的認可進入臨床試驗。二代產品擁有60個電極。這60像素的圖案已經能幫助使用者看到光明，分辨基本的形狀了——比如門在哪裡。目前，擁有200多個像素的第三代產品正在進行臨床試驗，別小看了這不起眼的200像素，如果它能順利推廣，將能讓至少兩千萬盲人重新擁有辨認親人的面部特徵的能力。

相應地，觸覺，聽覺，嗅覺，其他感官機能的模擬和實現，都有著巨大的商業應用前景和實現價值。想像一下如果我們將說話這個功能使用電子信號來實現，那麼只要我們心裡想說話這個事情，這個訊息便能夠直接傳遞到對方的接受器里，直接出現在對方心中，這是不是傳說中的心靈感應呢（考試君：還能不能好好考試了?）

在本文所涉及的人機介面上，我們只需要弄清介面通訊的模擬原理和機制並且能夠實現該通訊即可，並不需要對實際外設進行實現。舉個例子，我們只需要知道人腦是如何感知嗅覺的，它接受了哪些訊號和刺激，分別對應哪種味道，至於電子鼻，機械臂等外部設備如何實現則不需要去關心。

那麼，隨著技術的進步和研究地不斷深入，當我們的外部和內部感官都能夠實現並達到現在人類身體的感知程度，意味著什麼呢？

人腦可以脫離身體，並獲得與現在相同的感知體驗。

---------------------------------------------------分割線-----------------------------------------------------

虛擬現實:

虛擬現實是利用電腦模擬產生一個三維空間的虛擬世界，提供使用者關於視覺、聽覺、觸覺等感官的模擬，讓使用者如同身歷其境一般，可以及時、沒有限制地觀察三度空間內的事物。

虛擬現實有著相當廣闊的運用前景，在醫學，娛樂，遊戲，軍事，工業等等領域都有著極強的需求和潛力。同時該技術的發展對於其他的相關技術也能提供巨大的推動力。

·多人多工種協同作業（化身系統、機器人人工智慧）

·生物工程（基因/遺傳/分子結構研究）

·虛擬醫學工程（虛擬手術/解剖/醫學分析）

現在虛擬現實技術遭遇的尷尬在於如果要使得人和虛擬空間進行互動，就需要穿戴一大堆的裝備，如數據手套，數字頭盔，三維空間感測器，動作捕捉套件位置跟蹤器。但掛上這麼一大堆東西還能夠愉快地體驗虛擬環境嗎。這是人的意識仍需維繫在人體之上，和我們想額外增加一套新的感知體系的矛盾。

假設之前提到的人機介面技術達到要求，即可以提供給人腦與人類身體一樣的感知體驗的通訊介面，而虛擬現實技術又提供了三維空間的模擬環境，包括外部環境和人體自身的環境。舉個例子，當人腦意識通過人機介面連入虛擬現實時，虛擬現實會為這個意識創造一個虛擬的身體，而人腦則通過人機介面控制這個虛擬身體，並藉由虛擬的眼睛，手，耳朵等器官來感知這個虛擬世界。

這意味著什麼，接下來該打粗體字來表示這是個重點:

我們可以在虛擬環境中完整地體驗到現實生活了？

抱歉，這句話還得加個問號，因為答案是還不行。因為人腦只能接受一套輸入設備，我們的身體仍然在反饋給大腦信息，大腦仍然能夠對實際身體做出反應。

這也是為什麼現在的虛擬現實只能通過人體來傳遞外界和意識之間的信息，這個體驗就很差了，無論把外部設備做得多麼小而輕便，我們的真實感受仍然能夠無時無刻地告訴意識我們的現實環境和身體的實際感受（比如在模擬槍戰遊戲時，我們可能偶爾會齣戲想到虛擬現實模擬房間的冷氣開得有點太大了，或者，oh my god,可樂喝多了我想尿尿）。

---------------------------------------------------分割線-----------------------------------------------------

那麼怎樣能夠解決這個問題呢，有兩個方向，先介紹其中一個，即人體晶元技術。

人體晶元：

現在的人體晶元技術還是很初級的階段，同人機介面一樣，更多地是將人體的信息通過晶元收集再反饋出去。但這個技術同樣有著廣闊的應用前景。

隨著醫學的發達，人類已經掌握了許多醫療手段。器官移植甚至已經不局限於用人類本身的器官進行手術，而是可以使用人工裝置如心臟起搏器等植入體內替代正常人類器官的功能。早在1998年，倫敦雷丁大學的控制論教授布萊恩·沃里克曾經嘗試著把一枚晶元植入自己的前臂，看看是否能通過電腦跟蹤自己的位置。雅各布一家即將植入的晶元是由美國佛羅里達州的應用數據公司製造的，名叫「verichip」。這種晶元呈米粒狀，長約12毫米，上面記錄著一些個人信息。晶元可以對外發射無線電信號，當附近的儀器對其進行掃描時，晶元就會在儀器上顯示出數據。把這個數據連接到電腦上，就可以獲取更多有關攜帶晶元者的個人信息。

我們所期待的人體晶元所需要達到的層次，是同大腦進行直接連接，並且能夠接受信號返回給大腦和返回大腦反饋的電子信號。這樣我們就能繞過人體，直接讓人腦同虛擬現實溝通。

更進一步，人體晶元在神經網路技術得到發展並解決記憶的存儲和解析後，能夠實現知識晶元並植入人體。這個技術的實現主要是為了解決人類文明發展的閥值問題，即隨著人類的知識越來越多，單體個人的知識學習越來越專業化和精細化，很難有人有精力去跨領域掌握多種技術的前沿技能，而通過集體合作的深層的溝通則需要更多的開銷。當人類的技術膨脹到創新所需的學習準備時間超過人類壽命時，人類文明的進步就到頭了。我們必須尋求外力的幫助，而記憶晶元還有一個更深層次的意義，那就是使得我們的大腦終於對外開放了，外部設備不再只是人腦外的介面和實現，而是人腦的一部分。當然，這一部分僅僅是知識，而不是意識。

現在我們解決了虛擬現實和人腦開放的問題，但同時又製造了新的問題：我們的人體經得住這樣動不動植入個晶元，換個電子眼，或者腦袋上插幾個記憶插頭嗎？近幾年隨著計算機和互聯網技術的發展，人類的生活越來越宅，很多疾病都隨之而生，糖尿病，通風，各種癌症的發病率越來越高。如果只是單方面發展電子技術，直接往人體里插入電子設備（人體：考慮過我們的感受了嗎），我們如何維持大腦和身體的機能還能夠正常運行？

---------------------------------------------------分割線-----------------------------------------------------

所以我們還是需要回過頭來，人體生理學是繞不開的一個關口，盡量這個領域有很多倫理，實驗等存在爭議，但我們需要解決這個問題。

人體生理學:

人體生理學的任務就是研究構成人體各個系統的器官和細胞的正常活動過程，特別是各個器官、細胞功能表現的內部機制，不同細胞、器官、系統之間的互相聯繫和相互作用，並闡明人體作為一個整體，其各部分的功能活動是如何相互協調、相互制約，從而能在複雜多變的環境中維持正常的生命活動過程的。

中國古代兩千多年前的醫書《黃帝內經》，就寫了經絡、臟腑、七情六慾、營衛氣血等生理學理論。而系統生物學則是21世紀醫學和生物學的核心驅動力，也就是說，這麼多年來，人體系統如何運作的我們還沒有完全搞清楚。對病變器官或癌變區域，我們只能通過手術或化療以物理方式消滅，而無法從源頭上，以系統的角度去發現原因和解決問題。人體生理學需要結合其他生物學科，從微觀上解析出人體系統的奧秘，並提供我們改變現有人體系統增加插件的解決方案。

可能會有人提出這樣的問題，如果我們徹底解析出人體系統的奧秘，那我們幹嘛還要加掛電子插件？通過遺傳學，基因組學等的進一步發展，如果有一天我們能夠實現返老還童，長生不老，這樣還不夠嗎？

確實，這樣的前景看起來很誘人，我們不需要把自己搞得半人半機械，長生不老，永駐青春，簡直不能再美好了。但前面我提到，我所希望的永生是能夠保持個人所希望的形態，絕不是半人半機械的樣子,這只是一個很短暫的臨時狀態。而生物學的發展無論再如何前進，始終超脫不了碳基生物的本質，我們的生存條件依然很脆弱。長生不老又如何，被車撞了還是一樣會掛（如果你願意被改造成綠巨人那就另說)。人類將來的發展方向是從生物生命到數字生命的進化，而數字生命的廣度和極限是生物生命形態難以想像和無法實現的。這也是為什麼我說計算機和互聯網的發展是人類走在正確的道路上的原因。

---------------------------------------------------分割線-----------------------------------------------------

如何進化到數字生命，我們必須弄明白人腦的工作原理，並將生物形態的人腦數字化。這個學科就是神經網路。

神經網路：

「人腦是如何工作的？」

「人類能否製作模擬人腦的人工神經元？」

多少年以來，人們從醫學、生物學、生理學、哲學、信息學、計算機科學、認知學、組織協同學等各個角度企圖認識並解答上述問題。在尋找上述問題答案的研究過程中，逐漸形成了一個新興的多學科交叉技術領域，稱之為「神經網路」。神經網路的研究涉及眾多學科領域，這些領域互相結合、相互滲透並相互推動。不同領域的科學家又從各自學科的興趣與特色出發，提出不同的問題，從不同的角度進行研究。

之前提到要解決虛擬現實和人腦間的溝通問題，除了人體晶元外，還有一個方向，就是把人腦即意識提取出來，然後放到機械中去。簡單來講，就是實現並製造「阿凡達」。

2012年3月初，在莫斯科舉行的「全球未來 2045年國際會議」上，現年31歲的俄羅斯媒體大亨德米特里·伊茨科夫(DmitryItskov)對與會者宣稱，要推出一項以永生為最終目標的高科技研究計劃，將人類思維移植進機器身體中，以實現長生不老。已經為此聘請了100多位科學家進行這項研究，並且正在尋找更多科學家參與——這項名為「阿凡達」的計劃將帶領人們走上長生不老之路，「有著完美阿凡達特質的人將能繼續在人類社會中生活，誰都不想死」，「我知道這個目標對許多科學家來說都是一項艱巨挑戰，但我相信如果你們將全部精力和時間投入到某件事上，最終就能將夢想變成現實」。

與此同時，瑞士洛桑理工學院的科學家亨利·馬卡蘭最近在巴西東北部城市那塔爾展示了他設想的「藍腦」計劃，並希望在2015年製造出「人造大腦」，以達到治療阿爾茨海默氏症和帕金森氏症的目的。但實際目的令人存疑，

馬卡蘭介紹說，他的想法是「拆除之後再重建」哺乳類動物的大腦，計劃將分為幾個階段：2008年先用嚙齒動物做實驗，2011年後將試圖組裝一個貓的大腦，在2015年正式組裝人類大腦之前可能還會製造獼猴的大腦。

截止09年7月，該項目已經取得了突破性進展。「藍腦計劃」組已經完成了人腦新皮層部分的神經元計算工作，並已繪製出一份3D神經元活動模擬圖。最終，科研人員希望能知曉並模擬出整個人腦的神經元的活動情況，藉此了解現實世界為我們帶來的感官訊息是如何破譯並儲存到人腦中的，從而揭開人類意識產生之謎。

當我們能夠了解人腦的工作原理並製作出模擬人腦的人工神經元時，這個成就在人類歷史上的地位要遠遠大於第一個直立行走的原始人。而發現這個原理的這個人或這群人可能就生活或出生在我們這個時代，這是多麼激動人心的事情。從這時開始，不同的道路在我們面前展開，每一種都充滿誘惑和挑戰。我們可以根據人類初生時的腦結構製造出電子嬰兒，然後使用虛擬現實技術對這個大腦進行模擬現實的教育，從而產生出虛擬世界中的新人類生命並取代人類。我們可以根據人腦結構製造出遠遠超過人腦智商的人工智慧，讓它們主宰我們的命運，期待命運硬幣能擲出好的一面。我們可以模擬自身的腦結構製造人工大腦，並使用機械身體作為載體，將整個人類社會改造成機械社會。

但這些都不是人類的永生，我們成了新物種，新文明的母體，而人類將只存在後續智慧生命的歷史裡，或者完全改變自己的生命形態，變成為了永生的怪物。為了保持自己獨立的意識和人類形態，讓我們停下這些道路的探索我們只能選擇那條最困難的道路，將生物大腦完整地模擬出來，並轉換為數字大腦，設法保留我們個體的獨立意識。

注意，我這裡說的是轉換，不是替換。如果根據我們的生物大腦的數據產生一個相同的數字大腦，然後殺死生物大腦，並用這個數字大腦代替原來的生物大腦，這就是替換。儘管這樣實現起來會容易很多，而且根據某些哲學觀念來說，兩者效果是一樣的。但對我們原先的生物大腦，也就是我們個體自己來說，我已經被消滅了，代替我的只是和我一樣的路人甲。

儘管路人甲會認為就是我，其他人也會認為這就是我，但這種不是我們想要的永生。

那麼如何實現意識的轉換呢，聽起來好像很玄妙，因為我們討論的不是將生米煮成熟飯，或者石油製成塑料，我們想實現的是意識的不同形態的轉換。如何保證這個意識能夠從生物的大腦變為相同的數字意識呢，意識能夠這樣搬家嗎？

---------------------------------------------------分割線-----------------------------------------------------

集群智能

這個概念我是由《失控-全人類的最終命運和結局》這本書接觸到的，很受啟發。

在作者看來，生命最顯著的特點在於任何生命個體都是複數形式的：一粒種子里隱藏著一片森林，一個受精卵包含著一個可能世代綿延的家族。換言之，任何一個生命個體都是一個跨越時空的隱秘的網路。

我們注意蜂群、蟻群、雁陣這種「實體」。大量研究和凱利本人的觀察(他本人長期養蜂)表明，這些實體是高度智能化集群——科學上稱為「集群智慧」(Wisdom of Swarm)。螞蟻的物流系統比人工設計的物流系統都優化和完善，蜂群(而不是單個的蜜蜂)的行為展示出一種讓人驚嘆的智能。問題在於，單個蜜蜂、螞蟻、大雁的智能都是極其低下的，但它們聚集在一起，就產生了高級動物都不具備的智能。集群作為一個整體，形成了一個網路化、系統化、高智能的活系統。這些集群不是生物物種，但作為整體，它們具有一種顯而易見的生命力和獨特的行為方式。組成集群的個體相互鏈接，多方協同和共享資源，如同組成有機體的單個細胞和器官最終「聚集」為一個生命。

那麼我們進一步聯想一下，我們的意識，是不是也是由這無數只類似螞蟻，蜜蜂的單元所構建出來的智能呢？

表現在外，是我們獨立的意識，而內部，則是由1000億個人腦神經元組成的神經網路。

這裡我做出一個重要假設：

集群的智能表現不因某個數量級以內的個體死亡或替換而改變。

一個蜂群中一隻蜜蜂死了，不會影響整個蜂群的行為，就算是蜂后死了，也會產生出一個新的蜂后。我們的腦細胞處在一種連續不斷地死亡且永不復生增殖的過程,死一個就少一個,直至消亡殆盡。這是一種程序性死亡,也叫凋亡。人到20歲左右,腦細胞發育的速度達到巔峰,此時不僅精力充沛,而且記憶力好,是一生中的黃金季節,越過此峰,便是下坡.20歲過後,若這些細胞放置在那裡而不使用的話,會以每天10萬個的數量變成廢品.儘管這是件令人不快的事,但腦細胞隨年齡增長而逐漸減少卻是事實。但重要的是，我們的個體意識在這個過程中依然存在。

---------------------------------------------------分割線-----------------------------------------------------

從生物生命到數字生命的轉換

假設在未來的某一天，有一個罹患不治之症的超級富豪想延續自己的生命，他花巨大的代價將自己的大腦數據實時記錄下來，形成了一套和自己大腦對應的數字大腦。為了應付律師和兒女（富二代們：還能不能好好玩耍了？），他必須證明自己轉換為數字大腦後，仍然是自己。於是他只保留了自己的大腦，使用人體生理學的最高科技：人腦營養艙來維持自己的腦部活動。工程師們每天將他的腦部百分之一的神經元替換成電子結構，並通過人體晶元的形式與原先的大腦共同工作。一百天之後，所有大腦的神經元被替換完畢，他成為了數字生命的第一個成功轉換者。他生活在虛擬現實所產生的虛擬世界裡，這個世界還不大，只是一個被海洋環繞的熱帶小島，他可以在島上的房間里登陸互聯網，查看好友狀態，和他們聊天，發布自己生活的博客，處理現實世界中的事務，剩下的時間可以釣釣魚，沖衝浪。

隨著科技的繼續進步，數字大腦模擬生物大腦和存儲人腦記憶的載體成本的成本逐漸降低，

越來越多的人可以在生命接近終點時選擇轉換為數字大腦，他們可以繼續在現實中的大多數腦力工作，同時繼續擴展和構建虛擬現實中的虛擬世界，人們可以選擇自己想要生活的樣子以及世界。人們可以購買在一些特色世界生活的許可權，如天宮，西方極樂，天堂，神國，艾澤拉斯之類的。同樣也可以下載自己的意識到現實世界中，駕駛大如山嶽或小如介子的機器人繼續改造星球，建造數字大腦和虛擬世界所需的存儲載體和運算中心，能源輸出單元。

為了避免自然災害和其他風險，這些載體和中心都是分布建造在世界各地，並通過更進一步的互聯網連接一切。人類會繼續研究計算元件和存儲器材料，製造基於除硅以外的各種材料的電子元件，以加強對各種極端環境的適應性。當一個個形狀看起來和太空隕石一模一樣，卻載著生活在虛擬現實中的數字人類的移民太空船向太陽系各個行星和衛星發射出去的時候，標誌著人類數字生命的星際移民正式開始。這些隕石降落到零下150度的行星上，開始建造外表看起來像是荒蕪的隕石坑的存儲載體和運算中心，能源輸出單元。而其中的人們可能正在阿爾卑斯滑雪，或是在同地球上的人們一起下棋。

隨著那些不願意轉換為數字生命的人類逐漸逝去，人類將徹底失去生物生命的形式。但人類的新生命仍可以繼續延續，那些願意撫養孩子的數字人類會以他們的基因創造數字嬰兒，並將之撫養長大，因為所處環境已全是虛擬世界，周圍也都是數字人類，這些數字嬰兒將不會受到歧視地壯大自己的意識，直到成年。至此人類已徹底轉為數字生命的形式。

數字人類逐漸走出太陽系，他們能夠在大氣星球，熔岩星球，海洋星球等各種類型的星球上建立家園。因為永生他們的興趣和目標可以是探索宇宙的盡頭和起源。他們可以到處旅行，總有一天他們也許能夠碰到一個有著生物體的星球。懷著對歷史中起源的紀念，他們可能會向其中一隻動物進行神經元和基因的小小修正。於是，這個生物的很多代後的一個個體慢慢地站起來了，然後跌跌撞撞地向前走了幾步...

須知：評價，通常是指對一件事或人物進行判斷、分析後的結論。

本回答並非評價，沒有結論。出於個人目的進行分析。

No Comment

百度搜索：在線字元統計複製黏貼文章除引用部分

字元總數： 41168 個

中文字元總數： 32017 個

中文標點總數： 2880 個

英文字元總數： 1330 個

英文標點總數： 326 個

數字字元總數： 732 個

英文單詞總數： 233 個

數據單詞總數： 269 個

行（段）總數： 945

知乎專欄的排版下只看一個屏幕距離能顯示多少字的情況

字元總數： 944 個

中文字元總數： 773 個

中文標點總數： 83 個

英文字元總數： 0 個

英文標點總數： 0 個

數字字元總數： 88 個

英文單詞總數： 0 個

數據單詞總數： 22 個

行（段）總數： 6

估算一下這篇文章總共約有60多個屏幕距離。

47張圖片，10處左右的模因。

排版設計緊湊，有大量的空間，同時運用圖片讓大腦持續接受刺激。

容易表達出來的思想自然會成為文化的組成部分。

任何認識論都是某個媒介發展階段的認識論。真理，和時間一樣，是人通過他自己發明的交流技術同自己進行對話的產物。

學習是知識壓縮的過程。

知乎管理員把原問題變成專欄，譯介傳媒變成知乎的內容。

QA平台他人的意見不重要。

我覺得總結一句就是：

人工智慧的發展不會像電影裡面演的那樣，達到正常人類的水平和人類和諧相處。

而是人工智慧只要一達到人類的智能水平，就會在幾小時內自學發展成強如宇宙規則一般攻防全滿的存在（《超體》里開發100%的形態）。人類要麼被其毀滅，要麼靠它永生。

前幾天看了那篇之後我也思考了下，並和父上做了些討論。以下是個人觀點。

撇開譯者可能帶有的主觀性和偏向性不談，假設原文作者所想表達的東西被百分之百無偏差地翻譯傳達出來了的話，以本篇所關注的內容來看其論點可以被總結為以下幾點：

強人工智慧(AGI)及超人工智慧(ASI)很可能會在短時間內被實現
超人工智慧給人類帶來的可能性影響是巨大的
比起正向利益，超人工智慧更可能伴隨負向風險一同降臨
相較於研究出超人工智慧的目標，人們應該將更多注意力放在其安全性上

可以看出，作者的觀點通篇都是基於幾個基本假說之上完成的。其中不乏擁有過去的證據撐腰的理論。這裡也總結一下這些假說：

根據摩爾定律來看，能夠支持強人工智慧的硬體會以指數速度，也就是不久之後就能達成
根據歷史發展趨勢及加速回報定律來看，未來人類技術發展速度要比過去快很多，並隨著對越來越多知識的掌握而變得越來越快
因為整體人類技術將高速發展的緣故，需要各種領域技術（如生物科學）組合所開發出的AGI也會在不久之後被實現。達成後ASI更不用說了。

這些假說都建立在科學界發展毫無阻礙突飛猛進的樂觀前提上，而將這些「超級樂觀」理論作為基底的作者很難說沒有誘導或者主觀性。這點所引發的問題會之後再提，這裡先討論作者寫那篇文章的初衷。

因為文中多次提到讓讀者放下可行性及理論知識，儘可能突破常識界限和發揮想像去思考；並且原文並不是在專業領域發表的學術性報告的緣故，個人認為作者的目的是讓人們看到AI的另一面，並引發思考從而植入風險意識。他想告訴大家AI並不只會讓人類受益，同時還可能帶來壞處，而那壞處或許能巨大到威脅人類族群的存在。的確，假如只參考現階段發展現實的話，仔細看過文章的人會覺得這簡直就是天馬行空，痴人說夢。別說什麼ASI了，AGI的發展都不太可能達成，更別提短時間內。但要是結合作者的目的來看，這些似乎都不那麼重要——這本來就是個假說，科學性證據自然是沒有。ASI和AGI或許真的永遠都沒法被開發出來，但只要有它們可能誕生這樣的未來在，研究者們又有什麼理由不先一步思考起它們的降臨意味著什麼呢？任何一個科學領域，在準備著手研究一門新技術之前，都有必要去提前開始思考它所可能帶來的影響和風險。個人認為這是研究者必備的意識，不然等研究出來之後再去思考...不覺得會太晚么？特別是如果結尾「大小組織一心想要先做出ASI」的情況屬實的話，安全意識就更需要被普及了。畢竟風險的確有可能存在，提個心眼小心一些又有什麼不好呢？通俗點說，也只是為了以防萬一罷了。

縱然作者的初衷是好的，但他也忽略了幾個可能帶來的問題。這些問題出自於他過強的主觀性，觀點闡述順序等疑似有誘導的描述方式。舉個例子，在對於ASI出現或樂觀或擔憂持有兩類不同觀點的科學者部分，作者先花一些筆墨闡述了樂觀派學者的觀點，那之後則花了較多筆墨討論擔憂派學者是怎麼想的。其結構與為了表達自己觀點拉攏讀者站隊的辯論文之反論部分很是相像。順便提一下英文中辯論文反論部分的大體套路：先是闡述對方對於己方觀點的反論，之後再用己方有力的論點駁回其主張。一般駁回部分所用的字數都會比反論多，來強有力地使讀者信服。很顯然，這種文章結構並不適用於說明文，尤其是科學類的。大多科學領域的文章都遵循著嚴謹，不隨意下定論的規矩，措辭也充滿不確定性。這裡並不是在說那篇文章的作者應該絕對客觀嚴謹，畢竟那既不是學術論文也不是科學報告，特別是如此附有爭議性的話題，帶有一定的主觀性也很正常；但他所帶有的主觀性太強了，甚至會起到誘導的作用——而這類文章最不可取的就是這樣的結果。不知道其他人是怎樣，至少我看完後在與父上探討前成功加入了焦慮派，對AI的未來發展持悲觀態度。在一篇看似中立客觀，實則使用大量欽定性，引導性辭彙的文章中，讀者很容易就會被植入可能是來自作者的主觀概念。其後果就是造成讀者對AI的發展出現理解偏差，甚至開始無意義焦慮起來。同樣，特別是在ASI能被很快達成的假說建立在大量【樂觀】的猜測、【樂觀】的估計等【樂觀】的基礎上的時候，更加需要使用不確定性措辭來表明這一切都只是【假說】而不是【事實】。就算是為了引發人們進行風險性思考而需要以這樣的假說成立為前提也是如此。畢竟從弱人工智慧(ANI)到AGI的路其實都還很長，人腦運作原理還沒被有突破性研究呢。

總的來說，人們提前對AGI及ASI擁有風險意識是必要的，在各種對未來存在可能性弊端的科學領域都是這樣，這是保全或大或小自身安全必不可少的一步。只是，假如原文作者能少許更加客觀地，將達成這個目的的假說過程不帶誘導性地說明出來的話，或許它實際想要表達出的東西能被更多人所領悟。

對於傳送機問題：在北京的我和在上海的我一定不是同一個我，但是都擁有共同的過去，共同的回憶。對於兩個我來說，我是誰是很明確的，上海的我就是上海的我，北京的我就是北京的我。兩個我從北京的我被創造開始，與上海的我就可以協力工作了，難的是我在社會的身份是唯一的。而由誰來繼承原來的我的社會身份罷了，說白了就是兩個我在爭過去我遺產罷了，現在變成了兩個人來爭這個遺產：妻子，子女，財產，社會地位。

這得怎麼辦，所以才會有法律規定，一定要把上海的我給毀滅。也就是說法律上是認可了北京已經遞送過去的我。

社會的我，和自我認知的我被混在一起了，所以才延生了這麼多問題，→_→。一般情況下自我認知的我，和社會認知的我在同一個身體里，就沒有區別，如果不在同個身份里就有樓主說的問題了。

關鍵不是自我，任何時刻，任何一個我都可以確定我就是我。這時候的社會身份如何確定，因為影響到太多人的生活，所以別人怎麼看，才是問題的關鍵。

其實還是想說，實現人工智慧不容易。

那篇主要提了計算機的發展速度問題。但是人工智慧不止計算機這個問題。

就說最容易想到的材料和能源。

計算機要消耗能源吧，模擬100億神經元的能量得有多大？

計算機計算的時候會發熱吧，普通PC（弱人工智慧都算不上）都很容易發熱了，模擬100億神經元發出的熱量得有多少？怎麼散熱，或者，從哪找那麼個耐熱的材料？

哪怕理論上能模擬人類的神經元了，找不到符合的材料，沒有足夠的能源（或者降低能源消耗，但現在連手機的續航都還很渣），人工智慧也不可能實現。

更何況技術爆炸人類歷史上至今也只出現那麼一次，時間也不長，誰能確定會一直爆炸下去，而不是爆炸完了開始冷卻？

人工智慧的本質是無需人類對於目前幾十億的人口來說，是不利於人類發展的。我是單純從人類發展角度而言，因為不基於人類角度的觀點毫無意義。另外，人工智慧可能帶來不可預知的變化，至於什麼樣的變化，誰又知道呢？

風險是客觀的，願不願意都會來，不以這種方式就以那種方式。

記得之前看進化論，說跟其他星球的文明比起來，人類也許還處於一個大淘汰（類似這種叫法，原文忘了）的界點之前，那麼人類先拿人工智慧做一次自我體檢，也未必不是壞事兒。

往前走總是好的，即使是個坑，掉下去的人多了，也就填平了。沒辦法，這是必然的代價。就像利用保險就得付出保費一樣。

人類不是生命的必然出路，更不是唯一出路。

只站在理性科學的角度看問題是沒用的；地球上的資源只掌握在少數人手裡，我們平民只是其中一種資源，統治者不是傻瓜，如果發明強人工智慧70%概率擁有更強的統治力，30%概率滅亡，統治者可能會賭一把，但如果發明超人工智慧的結果是55開，作為已經是統治者的人，一時半會並不會作死；總會有瘋子想賭一把，超人工智慧遲早會出現。

耶和華，釋迦摩尼，安拉

因為人類創造的神已經太多了

我關於人工智慧終極目標問題的答案:

像人類一樣思考。

人類是不會希望人類滅絕的，對吧

人工智慧的發展是一個循序漸進的過程，主要涉及感知，處理，輸出三個過程，人工智慧會隨著感測技術，智能控制技術的發展而發展，隨著科學技術發展的可能會有學習能力，與人的巨大區別就在於創新性，人工智慧是隨著人類的認知水平的增加而不斷發展，不會自己創造新的事物。

我覺得人類不可能造出比自己更聰明的東西。因為比人類更聰明的東西它所具備的特性是人類無法理解的，也就是人類智能還無法達到的水平，你自己都不理解還造個屁哇。就像文中的一個例子，說人類要對付超人工智慧就拔掉電源和蜘蛛想對付若人類就不織網來餓死人類一樣可笑。但問題是蜘蛛有能力造出人嗎？