別再轉了！Facebook 的 AI 壓根沒有「失控」，對話內容曝光，真相是這樣的!

02-09

文 / 預見

遇見人工智慧出品

最近幾天，朋友圈以及不少的科技媒體都在說一個事情，一張圖就可以說明白如下：

甚至演繹出了堪比科幻小說的情節：科學家慌忙的拔掉了設備的插銷，關掉了系統。

這兩個機器人到底說了什麼？為什麼會讓工程師如此空恐慌？

昨日，有媒體（品玩網Pingwest）發文進行了解讀。關於兩個機器人的交談內容具體如下：

Bob: I can i i everything else
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i everything else
Alice: balls have a ball to me to me to me to me to me to me to me to me

如果你明白了前面描述的試驗目的，很容易就能明白它們的套路。句法的確是亂的，但一句話里 to me 重複的越多，這個東西對它的意義越大（權重越高）。

翻譯過來就是：

Bob：我可以我任何其他（其他任何東西都可以給你）
Alice：球有0對我對我對我對我對我對我對我對我（我沒有球，球對我特別特別特別特別特別特別特別特別重要）
Bob：你我任何其他（你可以拿走其他任何東西）
Alice：球有球對我對我對我對我對我對我對我對我（我要球，球對我特別特別特別特別特別特別特別特別重要）

其實這沒什麼難理解的，也是很正常的交流內容。

所以而最後的真相是：

Facebook並沒有「關掉」這個系統，而是重新設定了正確的激勵，修正了機器人的行為，讓機器人用標準的英文語法來進行交流。修正的原因也不是因為害怕 AI 失控——他們的目標是讓機器人和人聊天（提高和人聊天的技巧）。兩個聊天機器人聊天根本沒有意義。

遇見人工智慧說
在遇見人工智慧看來，我們普遍認為的第三個人工智慧浪潮剛剛開啟，
即便是頂級實驗室的AI系統還遠沒有達到能夠超越人類的跡象，所以還

是期待享受當下即未來長時間人工智慧帶給我們的顛覆和紅利。