如果AI學會編程會發生什麼？

01-22

看AlphaGo的人機大戰心好累，作為程序猿，突然想問有一天AI學會編程，是不是自己給自己加些新功能啊什麼的

已經有了啊，看這是程序生成的 Linux Kernel 代碼。

http://cs.stanford.edu/people/karpathy/char-rnn/linux.txt

The Unreasonable Effectiveness of Recurrent Neural Networks

Linus都震驚了，哈哈。

很有可能，而且未來這是一個必然會發生的場景。

參考《疑犯追蹤》中有這樣一些場景：

宅總Harold在製造人工智慧「The Machine」時，為防止人工智慧認為人類無關緊要，從而做出傷害人類的事件，於是他一開始在設計時，就嘗試教育機器道德感，某次，他對著設計中的The Machine提了一個問題：「Alice和Bob在沙漠里，Alice已經昏迷，Bob帶著Alice一起走則兩個人獲救的概率是31%，如果Bob放棄Alice，則自己有40%的概率獲救，問Bob是否該放下Alice」，機器回答：「該放棄Alice」，宅總大驚，立馬檢查代碼，發現其中部分代碼與自己之前寫的不同，於是問機器：「這些代碼是誰寫的」，機器回答：「你」，宅總立格式化了硬碟。（S4E5）

這到並不是不可能哦。可以給程序設定元編程的規則，程序運行起來以後，以元編程的規則生成目標編程代碼，然後再熱部署運行。

其實現在帶有元編程能力的編程語言，例如Lisp，Ruby多多少少可以實現點這種做法，只是不夠強大而已。

我覺得很快可以到達的一個目標是給定輸入和輸出，中間的交給人工智慧。比如現在的圖像識別，根本沒有任何業務邏輯代碼，就是純粹的機器學習。

這不就是人在做的嗎，按想要的樣子改變，只是改變更加容易。

從此再無答案。。

會寫程序的程序你們沒見過嗎？我分分鐘寫一個出來

那樣只要再連上3D印表機

那麼人類就祈禱人工智慧善待人類吧

不然人類的末日就不遠了