李杉 編譯整理

量子位 報道 | 公眾號 QbitAI

Facebook人工智慧研究實驗室里，最近出現了一些神奇的對話。比如說：

Bob: i can i i everything else . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i everything else . . . . . . . . . . . . . .

Alice: balls have a ball to me to me to me to me to me to me to me

Bob: i i can i i i everything else . . . . . . . . . . . . . .

Alice: balls have a ball to me to me to me to me to me to me to me

不要懷疑自己的英語水平，起碼你認識每一個詞。

至於整句話是什麼意思……Facebook那些常年生活在美國的研究人員們也看不懂。

這些對話，是在他們教AI進行協商的過程中，兩個AI之間發生的。這是兩個AI在談判啊！

負責訓練AI的研究人員說，眼看著機器自己聊著聊著就「不說人話」了……

為了準確了解這些AI在說什麼，研究人員不得不調整了模型，限制他們只能以人類可以理解的方式進行交流。

當然，強行讓AI說人話，也是為了他們最終能派上實際用場：和Facebook用戶溝通。

有人可能覺得，限制他們幹什麼啊，AI發明自己的語言很酷啊！

可是作為人類，不覺得這有點恐怖么……

嫌不夠恐怖的再看一段：

Bob: i . . . . . . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i i i i i everything else . . . . . . . . . . . . . .

Alice: balls have 0 to me to me to me to me to me to me to me to me to

Bob: you i i i everything else . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

這些內容不僅看起來毫無意義，而且似乎根本沒有在談判。Alice基本在重複自己說過的話，並沒有對最初的立場做出讓步。

但奇怪的是，Facebook的數據表明，這樣的對話仍然讓AI最終成功完成了談判。

如果你還是覺得不恐怖，可能是因為，你有著和量子位一樣的疑問：這堆bla bla bla也算髮明了語言？

《大西洋月刊》今天發表的一篇文章說，要思考這個問題，可以回想一下cryptophasia，也就是一對雙胞胎用只有他們自己能理解的秘密語言展開溝通的現象。

這段2011紅遍全球網路的視頻你可能看過，當時有兩個剛學會走路的雙胞胎用我們完全無法理解的語言「相互溝通」。

關於雙胞胎之間的這種溝通究竟是語言還是玩耍，目前仍然存在爭論。很多語言學家認為，YouTube上的那對雙胞胎可能是在社交，但未必表達了任何意義。

但Facebook的AI，似乎融入了更多語言元素。

其他人工智慧研究人員也表示，曾經觀察到機器可以發展自己的語言，包括擁有擬序結構的語言，而且可以定義辭彙和句法。

但按照人類的標準來看，這些語言未必總有實際意義。

今年早些時候，非盈利AI研究機構OpenAI的計算機科學家在arXiv上發的一篇論文「Emergence of Grounded Compositional Language in Multi-Agent Populations」中，就闡述了AI如何學會使用抽象語言相互溝通。

論文地址：https://arxiv.org/pdf/1703.04908.pdf

在語言溝通不可用的情況下，這些AI智能體還會轉向非口頭溝通，相當於人類的手勢動作。

不過，AI不需要通過實質性的動作來完成非口頭溝通，只需要利用視覺感應形態來實現。

最近一篇由喬治亞理工學院、卡內基梅隆大學、弗吉尼亞理工大學的研究人員共同發表的論文「Learning Cooperative Visual Dialog Agents with Deep Reinforcement Learning」也表明，兩個AI可以通過討論和分配顏色和形狀值來發明自己的通信協議。

論文地址：[1703.06585] Learning Cooperative Visual Dialog Agents with Deep Reinforcement Learning

換句話說，研究人員認為他們目睹了「在沒有人類監督的情況下自動出現的基礎語言和溝通」。

這種研究工作的意義重大。不僅可以了解AI之間如何溝通，還有可能揭開人類句法和行文結構最初的形成方式。

但是，我們還是要回到這個問題上來：這些AI創造的是真的語言嗎？

《大西洋月刊》帶著這個問題，去問了賓夕法尼亞大學語言學教授Mark Liberman。

Liberman說：「我們必須首先承認，『語言』這個詞如何使用並不是語言學家說了算，但語言學家對於人類語言的特性以及這種自然類的邊界顯然有自己的觀點和看法。」

所以，Facebook的AI是否創造了自己的語言，取決於我們所謂的「語言」究竟是何含義。

例如，語言學家往往認為，符號語言和方言屬於真正的語言——而不僅僅是真正語言的近似物，而「肢體語言」和Python及JavaScript這樣的計算機語言並非真正的語言，儘管我們也會用「語言」來稱呼它們。

所以，Liberman的問題就變成了：Facebook AI的語言——我們稱之為Facebotlish——是否會成為一種新型而持久的語言，或者說，未來的英語？

「儘管沒有足夠的信息可以判斷，但答案恐怕是否定的。」他說，「首先，它完全基於文本，而人類語言的本質是口頭和手勢表達，文本只是人為附加的。」

從更大的角度來看，Facebook聊天機器人的智能程度還遠未達到人類的水平。

「現在看來，1970年代的『專家系統』風格的人工智慧程序最多只能算古董，就像17世紀用發條驅動的自動化裝置一樣。」Liberman說，「幾乎可以肯定的是，幾十年之後，如今的機器學習人工智慧也將變成同樣的古董。」

Liberman表示，如今已經很容易通過各種演算法建立一個虛擬的世界，「就像建造一套會彈琴的發條裝置一樣。」

在接受《大西洋月刊》就這個問題的採訪之後，Liberman在語言學博客Language Log上強烈推薦了這篇報道，還貼出了完整的採訪內容。

最後關於Facebook的評論，沒有出現在大西洋月刊的文章中：

Facebook的聊天機器人，就是一個「用各種演算法建立的虛擬世界」。

是不是總有一天會有一些自組織的系統，開發出一個屬於自己的系統間交流方式，並且不被人類的程序員們重啟打斷，自己進化幾十年甚至幾百年？

應該是可以的。

但是，Facebook的聊天機器人在引領這種潮流嗎？

Liberman對此持懷疑態度。

相關鏈接

Facebook AI意外發明語言的那個研究：

Facebook讓AI學會談判協商，能通過「說謊」達到目的

《大西洋月刊》報道：

Language Log博文：

【完】

歡迎大家關注我們的專欄：量子位 - 知乎專欄

一則通知

量子位正在組建自動駕駛技術群，面向研究自動駕駛相關領域的在校學生或一線工程師。歡迎大家加量子位微信(qbitbot)，備註「自動駕駛」申請加入哈~

招聘

量子位正在招募編輯記者、運營、產品等崗位，工作地點在北京中關村。相關細節，請在公眾號對話界面，回復：「招聘」。

推薦閱讀：