李世石VSAlphaGo第二局，直播室一個李博士說AlphaGo可以自己修改源程序，真的嗎？？

01-22

如題。那樣的話真是有點可怕了

剛剛也看到這個，震驚了。假的，我就是學機器學習出身，解釋一下，Alphago用的是深度學習的模型來確定下一步走哪裡，模型會有很多參數，他只會更新迭代的這些參數的權重也就是參數的大小，但絕不會改源程序的，不會修改代碼，只會修改它的設置的變數大小。李博士說出這樣的話來，還是機器人公司的ceo，有點犯二了。

AlphaGO利用強化學習進行迭代訓練，訓練之後會修改自身的模型參數，但從狹義上說沒有修改源代碼。

運行中修改自己的源程序的方法叫遺傳規劃（Genetic Programming），屬於遺傳演算法（Genetic algrithm）的一個子領域，技術上也是不難實現的。但是因為Genetic Programming的搜索空間更大了，所以得出有意義的結果反而更難，所以還沒有出現特別有價值的應用（但是未來有可能出現）。

某種程度來說，是的。

更新個正面回答：人工智慧會毀滅人類嗎？

我的看法是不會。以下是理由。

從邏輯上說，要獨立解決任何一個問題（比如毀滅人類），有兩個先決條件：解決問題的能力（能毀滅人類）和解決問題的動機（想毀滅人類）。

我們稱前者為「智慧」，後者為「意識」。

當然這兩個詞的定義是模糊的。你也可以認為意識也是智慧的一部分，這也不會影響結論。但要是自己含糊了定義，在思考「AI是否有智慧」時認為智慧不包含意識，而思考「AI能否毀滅人類」時又換了個定義，這樣就會得出危言聳聽的結論。

實際情況是，在解決問題的能力方面，對於人類能夠遇到的80%以上的問題，我們已經能夠設計出超過人類的AI。今天，圍棋的加入是這個比例不斷擴大過程的幾個里程碑事件之一。

當這個比例接近100%以後，下一步是設計一個通用的能在解決各問題上都超越人類的AI，也就是所謂的「強人工智慧」，這個現在還沒有眉目，但大部分業內人士估計，它也會在不長的時間內出現。

也就是說，具有智慧的AI的出現是大概率事件。

但具有意識的AI完全是另一件事情。

按進化論的假說，解決問題的動機源於生物的應激性，這是通過「遺傳變異+進化優勢」從而增大基因延續概率的形式慢慢發展而來。

這裡，兩個條件是必須的：1.有隨機變異機制的基因系統。2.能夠消滅不利基因、保留有利基因的環境。

這兩個條件AI完全沒有，也並不是目前學界的發展方向。即使未來往這方面發展，是否能在短時間內達到數十億年自然進化的效果，也很難說。

所以，對於有意識的AI，人工智慧學界離它的距離並不比其他學科更近。

當然，以下兩個問題是我無力深入故沒有涉及的，如果你能提出有見地的見解，歡迎討論。

1.進化論可能是錯的，我們的意識也許不是進化來的而是上帝或別的什麼賦予的。

2.AI的發展也許會從別的方向毀滅人類，無需產生自我意識。（比如摧垮人類的自信心，降低獨裁成本之類的）

＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝原答案＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝

那是余凱，百度前首席科學家，地平線的CEO。他那個語境下「源程序」是指計算機的運行方式，而非人類編寫的代碼。在這個意義下，機器學習過程確實是「計算機自己不斷尋找、更新源程序」。

他的意思應該是自身會適應棋局吧，可能想讓普通人理解所以說歪了。。。。

哈哈，余凱老師好慘，在這個圍棋領域完全木有知名度，連姓什麼都被搞錯了，直播也是各種接不上話，估計自己都有點說亂了。這種直播必須請懂圍棋的嘉賓啊。

估計只是想儘力解釋清楚給另外的那三個人吧。。。

別開玩笑。。。目前的AI也只是人編寫好程序之後，不斷運行搜集數據模型。還沒有達到自己修改源代碼的能力吧，因為這就涉及到了自我思考，像人類一樣不斷去糾正自己所犯下的錯誤。

目前的計算機還沒有自我思考的能力。

這一點都不可怕

余凱老師，先用深度學習會自己修改模型來解釋alphago自主學習能力，然後發現旁邊幾位都沒聽明白，剛好旁邊有個人寫過代碼，問是不是程序自己修改源程序，老師只好用一種大家能理解的方式來回答。

那個是余博士吧。。。

然後確實可以改，比如改參數，改模型，都是可以。甚至建立新的模型之類的。。。online演算法都可以吧。

並沒有親耳聽到，不知道具體的語境。

一種解釋是 Alpha Go 的程序本質上的online的，所以程序內部的參數會隨著進程而更新（reinforcement learning中並不罕見），這也算更新程序吧。

於此相對應的是offline deployment,也就是學完那些參數之後，用的時候就不改了。

所以說不能說他說錯了，只不過沒那麼fancy罷了。

深度學習可以調整網路中的權重參數，余博士應該覺得修改模型參數大眾不容易理解，說成了自己可以修改源程序。

計算機肯定會有可以自行編寫程序的那一天，到那一天，人類就gg了吧。

起來，不願做奴隸的程序員們～