Alpha Go 的影響

現在看來，阿發狗大比分打敗李世石是沒有什麼懸念了。可是，阿發狗打敗圍棋冠軍，就能代表它能和人類的頂尖選手比拼智力嗎？恐怕沒有人這麼認為。可是，要說在圍棋領域的能力，它已經超過人類了。

機器的速度、力氣早已經超過了人類，但我們人類從來沒有害怕過。可是一旦機器在智力上超過人類，這件事情就恐怖了。智力是人類最後的驕傲，也是最大的驕傲。

沒人會認為阿發狗在智力上超過一般人類。它只是在圍棋的能力上超越了人類。可它是如何超過人類的呢？如果僅僅是在算力上超越人類，這沒什麼可怕。計算器只會增加科學家和工程師的能力。

阿發狗使用的是深度神經網路和蒙特卡洛演算法。這兩個演算法很可怕。你可能會問，這有什麼可怕的呢？先說蒙特卡洛演算法，它是隨機選擇一些可能性，計算這些可能性的勝率。很顯然，它具有隨機性，也就是說，人類是無法預測它的行為的。就算是它自己，也不能預測自己的下一步動作（假如它需要預測自己的行為）。

再說神經網路，神經網路是模擬人類的大腦的神經網路的演算法。這個演算法有趣的地方在於，下圍棋的神經網路的演算法和自動駕駛的神經網路的演算法的代碼是一模一樣的。可它們完成的是不同的功能，那麼一定有不一樣的地方。不一樣的地方是什麼呢？是神經網路的參數。神經網路的參數有多少個呢？網路越複雜，參數就越多。阿發狗的參數可能有幾萬個。那麼這幾萬個參數是如何決定的呢？你可能會覺得是阿發狗的作者特別有毅力，在幾年中把自己關在小黑屋中默默調試阿發狗的參數，但真相是，這些參數是阿發狗根據棋譜學出來的。方法也特別像是生物進化：

如果走子網路的參數得出來的結果和人類棋譜不像，那麼這些阿發狗就會被「殺死」，而那些走子比較像的狗兒們，就會被複制（影分身），然後，稍微隨機的改變一下這些參數。再重複這個過程。等這些參數比較穩定後，就會讓阿發狗左右互博，優化這些參數。

其實從人類的角度講，左右互博階段特別殘酷，因為輸掉的阿發狗的結局是死亡。是不是特別像養蠱？所以說，人類在機器的學習過程中也起到了一定的作用，但只是一些微小的貢獻。

那麼請問，阿發狗的作者們明白神經網路的幾萬個參數嗎？不明白！如果修改某個參數，會有什麼效果，他能說的清嗎？不能。如果有一天他想研究一下這些參數，那麼他和生物學家有區別嗎？沒有。

所以當有人說，「這只是人類戰勝人類，程序員戰勝棋手」，我就特別不樂意。這不是人類戰勝人類，這是大自然戰勝人類。

而這才是最可怕的地方，他造出了一台自己也搞不懂的機器。他只是制定了一個目標，剩下的都是機器自我迭代出來的。更恐怖的事情是，這台機器並不是計算力超群的機器，而且是有缺陷的。打敗李世石的機器只是一個四四方方的盒子，你買20台筆記本就可以達到這個算力。根據博弈論，圍棋是 solved game，所以一定存在全局最優解，但這個神經網路得出的只是局部最優解，也就是說可能會被打敗。但人類已經不能打敗它了。人類不僅僅敗在計算力上，也敗在了「棋感」上。人類要想贏他，只能造另外一台機器了。

學術界很早就知道這些事情，但他們是不會在乎這些的。就像物理學家們在100年前就知道原子彈的理論可能性，但他們不會停下自己研究的腳步。

如果只是製造一些會下棋的怪物，並沒什麼可怕。關鍵在於，這套演算法可以用來解決近乎所有（基本）良好定義的數值問題（圖像問題、邏輯問題也有部分屬於數值問題）。比如，醫療界的根據片子判斷腫瘤的問題，就完全可以用這套演算法來解決。在圍棋的事情上，它能超過人類，那麼在這個問題上，它也可以超過人類。既然有經濟價值，那麼它一定會被廣泛應用。這可能需要花費20年，甚至30年。

生活在一個充斥著阿發狗的世界並不可怕。因為這些阿發狗除了在自己的領域，在其他領域都是白痴（畢竟它們的參數並不相同）。就算真的有人喪心病狂，製造出了有各種感受器，在基本的所有領域都和人類不相上下的阿發狗，它也只能噹噹人類的寵物狗。因為它的進化目標並不是滅絕人類，而是和人類相像。這樣的阿發狗應該並不會覺醒意識。

人類動不動就說機器智能的自我覺醒，但這並不一定會發生。因為「覺醒」這個詞只是基於強人工智慧的出現。而強人工智慧這個詞基本來自於人類的過度驕傲。因為強人工智慧的判斷標準就是：像不像人類（有沒有自我意識）。但這根本就not even wrong。阿發狗就是人工智慧，在某一智能領域達到或超過人類的機器都是人工智慧。

接下來講真正可怕的事。如果有一天，人類在阿發狗們的幫助下開始星際擴張，不要忘記，這個阿發狗的目標是擴張，（不一定是最快的）擴張。部分人類也會幫助它擴張人類的版圖，而有人類的地方就會有阿發狗。這個共生系統會不斷擴張。但在這個阿發狗的參數里，它到底將人類置於何種地位沒人知道。我們只是知道它看起來沒有惡意。我們還知道它在宇宙中不斷擴張，看起來它也不需要人類的參與，或者說，沒有人類的參與，它會活的更好。儘管它可能沒有自我意識，但是，對不起，人類最優秀的選手都不知道怎麼能阻止它擴張。如同遠古時期人類祖先也沒辦法在圍棋棋盤上贏它。它對人類沒有惡意，甚至它會充滿善意的在每個被佔領的行星上製造適合人類的生存環境。它只是遵守製造者的法則：擴張人類的生存範圍。只是，就連我們人類都能推理的出來，如果所有的阿發狗發生變異，一定是將擴張作為第一準則的阿發狗的擴張效率更高。

終於有一天，它充斥了整個宇宙。

---

有一個科普AlphaGo的文章，推薦一讀：

How AlphaGo Works

裡面自帶中文翻譯的鏈接喲。