Life3.0 這本書被Nature和Science都提到的書說了什麼

01-31

世界兩個頂級學術期刊"nature" 和「Science」上每周都會推薦幾本新出的科學主題的科普書，而一本書若是能同時被這倆家雜誌推薦，則更是難得。今年8月25號出版《life 3.0》正是這樣一本書，這本書的副標題是在人工智慧的時代作為人意味著什麼，作者不是專職搞計算機的，而是本行物理的普林斯頓教授。在第一時間讀完了這本書之後，我在這裡和各位講一講我覺得這本書講了什麼？

在說這本書的正文之前，先讓我們回想權力的遊戲中龍媽的三條龍，最初人們覺得龍不存在，覺得龍被圈養的失去了野性，變得比狗都小。但當龍出現後，人們卻都感到害怕和崇敬，然而龍長大後，變得只聽一個人的話，變得會傷害無辜者。為什麼會這樣，是應為龍是一個世上的人都聞所未見的東西，人們和他無法直接交流，更重要的原因是它的成長太快了，人們還來不及教會他們什麼是正確還是錯誤，龍就長大了。現在我們都在面臨這樣一頭巨龍，Ta的名字叫人工智慧。我們不知道AI會把我們帶往何方。

物理學家的書，一般都會是大視角的，從幾十億年前寫起，從生命的起源說起，而要解釋這本書的書名，生命的3.0版本，也需要從生命的起源開始。生命即是有序，也需要物質的結構。從人類出現之前，所有的生命都是1.0版本，既不能主動的更新軟體，也不能更新硬體。等到人類有了語言文字，生命總算到了2.0版本，可以主動的更新軟體了。等到工業革命，算是到了2.1版，可以部分的更新硬體了，但還是很有限的，畢竟大腦不能換，信息處理的能力也就基本沒變，只是加強我們的觀察世界的視角，比如望遠鏡顯微鏡。而人工智慧的出現，使得生命進入了3.0時代，既可以更新軟體，也可以通過在不同平台上的運轉，可以通過使用更多的計算資源來讓自己變得更強大，也就是主動的增強硬體。

接下來的問題就是既然生命進化到了3.0的時代，那麼會不會像iphone 8將iphone 4擠出市場一樣，人工智慧將人類邊緣化。在這本書中，作者窮舉了未來的強AI和人類的多種相處場景，從最好的到最壞的，如同看了十多本科幻小說一般，看過這本書，你會覺得《黑鏡》中的場景再離奇，也逃不脫作者科學的推演。如果你想自己去開腦洞，那麼這一部分絕對不該錯過。這裡只列出這裡每種場景的名字，讓讀者去腦補出每種場景下具體發生了什麼？

1 AI做主導者的自由主義烏托邦

2 AI成為人類的善意獨裁者

3 AI和人類平等共存的烏托邦

4 AI作為人類幸福的守護者和指路燈

5 AI主導著人類，也保護人類的安全

6 AI奴隸著人類

7 AI征服了人類

8 人類滅亡後，AI繼承了人類的文化和記憶

9 AI把人類當成寵物養在動物園裡

10 AI成為獨裁者的工具

11 AI消滅了人類對地球的影響，讓人類回歸田園時代

12 AI 和人類一起走向共同滅亡

上述的這些場景，不一定是完全的，每一種場景間的細微差別，也需要具體讀書中的章節。但是所有這些場景的背後，其關鍵的問題是我們該如何為AI定義其目標，隨著深度學習讓機器的行為顯得有想像力，甚至是創造力，我們需要做的是在AI進化出我們想不到的解法之前，給AI出好題。

Quora上有人問人工智慧做出了那些讓你細思極恐的事，給出的答案的共同點是AI表現出了創造力，由此使得AI的目標偏離了人類預先設定的目標。比如人類設計機械牧羊犬，讓他們比賽誰用最少的能源能夠圈住更多的羊，但有一個機械牧羊犬決定將所有其他的牧羊犬圈起來，從而獲得的冠軍。未來我們給AI的目標如果越來越寬泛，那麼未來AI產生目標偏離的可能性也越大。

在人類之前的歷史上，我們面對新技術，也是先嘗試，等到發現技術的副作用之後，再去增加限制，以避免技術的濫用。也就是使用技術的智慧相比發明技術的智力，總是落後一步。但面對人工智慧，作者認為我們不應該讓智力先行，在life 3.0 這本書的開篇，作者詳細的描述AI是如何不經意就統治了人類的。超級AI利用雲計算平台的算力，在亞馬遜的土耳其機器人平台套利的邏輯，顯得很真實。

對於解決方案，這本書沒有給出明確的答案，但明確的是，只有更多的討論，才能產生更多的數據。正如機器學習中很多的進展是先有演算法，等到數據跟上後才取得的突破（例如圖像分類，語音識別）。如何避免未來AI做出人類未曾預期的事，我們需要的是意識到問題的嚴重性。目前普通人對強AI充滿了很多誇張的想像，而專業人士又不願意去思考未來的強AI和人類共存的問題。這本書則為該話題的討論提供了共識。這本書中還有涉及意識是什麼，生命在宇宙尺度上的極限等科幻迷們會喜歡的話題，值得推薦。