如何看待facebook的機器人之間對話以超出人類的理解範圍？

01-05

網易科技訊 6月19日消息據《大西洋月刊》網站報道，Facebook在實驗中讓兩個AI聊天機器人互相對話，發現機器人竟逐漸發展出人類無法理解的獨特語言。

Facebook人工智慧研究實驗室使用機器學習來訓練聊天機器人程序。研究人員兩個機器人彼此對話，結果發現機器人竟逐漸發展出了不同於人類語言的對話，研究人員不得不對其進行人工干預。

標題黨罷了。

只是強化學習（Reinforcement Learning）中沒選擇合適的 reward 而已。

這就是強化學習（Reinforcement Learning）或者無監督學習（Unsupervised Learning）比監督學習（Supervised Learning）難的原因。

目測未來 GAN 等無監督學習方法也會逐漸出現這類報道。

可以直接去看 facebook 官方的內容：https://code.facebook.com/posts/1686672014972296

我在知乎再來翻譯一遍：

"研究人員兩個機器人彼此對話" ：懶得弄數據，讓倆預訓練網路對著無監督跑吧

"結果發現機器人竟逐漸發展出了不同於人類語言的對話"：訓練跑炸了

"研究人員不得不對其進行人工干預。" ：趕緊把訓練停掉調調參數再跑

翻譯成人話是不是感覺什麼事都沒有了？

Mark：聽說隔壁下圍棋又搞出大新聞了，你們快去搞點東西出來。

PR：好嘞！

第一次見跑出亂碼這麼兜回來的

沒想到出bug還能有如此清新脫俗的說法......以後我的程序出bug是不是也可以說「出現了人類無法理解的結果」了？好開心...

嗯，寫這個報道的小編可以去uc震驚部報道了

人工智障

其實解決方法很簡單啊，把其中一個機器人的話抽出來，另找一個機器人用這些話與之交流，看會得到什麼樣的回應。

如果，得到的不是亂碼，而且類似於pardon或者excuse me這樣的回答，那可以基本確定是系統bug。

如果，得到的是亂碼，那就要請語言學家研究其中的規律，儘快破譯。

我並不是說，AL一定就是意味著威脅。但是新的事物的出現是否可以操控，如何相處都需要探索，結果未可知。同時，我也認可任何事物都是有一個被接受的過程，我也接受存在即合理。但是不可否認的是，機器人索菲亞曾經說過那句話。

昨天，我也強行關閉了我的系統，因為我發現它經常給另一台機器發一些奇怪的消息。

沒錯，就是bug。

Bug有了新的解釋

研發人工智慧本來就是自我作死的行為。

雖然名字叫人工智慧。

其實就是賦予另一類未知的群體，並給予智慧。

而且這類群體的發展會完全超乎我們人類的想像。

其他的先不提。

就說最最直接的生命延續。

人類生個娃，十月懷胎。

還不一定能順利完整的生出來。

就算娃出來了，上手什麼都不會，培養教育到有點用，至少20年。

而且這個過程中很多人並沒有培養教育出什麼結果。

也就是說，人類要從無到有，培養出一個人才出來，可能需要用20年，上百個裡面才會出現一個。

而人工智慧這個東西。

一旦他學會了自我思考。

其在全方位超越人類，所需要的時間是極為短暫的。

可能幾年，或者幾個月，甚至幾天，就會從各項方面全方位超越人類。

而他只需要複製，在有足夠材料的情況下。

他可以瞬間複製出無數個天才，並且，這每一個複製出來的。

都可以全方位碾壓人類花了20年，而且百里挑一出來的那個人才。

別覺得，人工智慧是人類發明出來的。

所以人類就可以控制他。

當一個物種所有方面都可以碾壓人類的時候。

請問下，作為擁有自我思維的他，為什麼還要為低等生物服務？

造反，起義，這些詞大家沒聽說過？

看到這篇新聞，真的是心涼了。

這些研發人工智慧的公司，都是在滅亡人類道路上添磚加瓦的劊子手。