如何看待人工智慧自創語言？

01-06

如新聞
http://xj.cnr.cn/2014xjfw/2014xjfwgjxw/20170802/t20170802_523881516.shtml
美國《大西洋月刊》公布的一段A.I.聊天記錄截圖

Facebook終止Bob和Alice的「對話」實驗，並不是被嚇壞了，而是因為計劃的目標是要機器人能夠以人類明白的語言文法溝通，這一點上未能成功。另外這項實驗純粹是為了科研，並不包括用於商業產品。

然後……媒體紛紛變成標題黨，煽動對人工智慧的恐懼。這是破解流言的永恆兩難︰沒人傳的流言破解後也沒有人看，而真相總是追不上多人傳的流言。

近來跟「人工智慧創造語言」有關並引起媒體關注的研究最少有三個，由於語言使用、翻譯等是人工智慧的重要領域，未來肯定會有更多類似研究，相信也會有更多標題黨，所以還是先打個預防針比較好。

三項研究中，最早出現的一個跟Google翻譯有關。2016年9月，Google翻譯改用新系統，稱為Google神經機器翻譯（Google Neural Machine Translation, GNMT）。從數以百萬計的例子中學習，GNMT能大幅提升其翻譯素質。然而Google表示，把系統應用到Google翻譯所支持的103種語言是一個巨大挑戰。

同年11月，Google在其研究網誌介紹其團隊如何解決這個難題，並把解決方案應用到Google翻譯。研究人員擴展了GNMT，令單一系統可以翻譯多種語言，更實現所謂的「零數據翻譯」（zero-shot translation）——系統未曾明確學習翻譯兩種語言下，仍然可以成功翻譯。

聽起來好像很神奇，以下用Google提供的例子解說︰假設系統只需要處理三種語言——日語、韓語及英語，而研究人員先訓練其多語言GNMT系統學習雙向的日英、韓英翻譯，系統會把翻譯這四對語言（日英、英日、韓英、英韓）的參數共同儲存，從而可以把「翻譯知識」轉移，即使系統未受過日韓翻譯訓練，仍然可以把日語翻譯成韓語（反之亦然）。

Google的文章指出，實現「零數據翻譯」帶出另一重要問題︰系統是否學會了一種「中介語言」（interlingua），可以獨立於各種語言來代表語句的意義？研究人員分析數據後認為，這個神經網路會把句子的語意編碼，而非單純記住不同語言的詞語配對，所以他們視這為「中介語言」存在的跡象。

這固然是一項重要的研究發現，不過有媒體就將之誇大成「電腦把字詞及概念配對」或「人工智慧創造了一種通用語言」。實際上，這種「中介語言」是用來描述翻譯對象語言的特質，讓系統處理多種語言之間的翻譯，仍然把每種語言的數據分開處理，只是不同語言意思相近的句子會放在相近位置，而非系統創造了一種新語言。

第二項容易引起誤解的研究，在今年3月中由非營利的人工智慧研究公司OpenAI公開。

研究的兩名作者Igor Mordatch及Pieter Abbeel指出，通過在語料庫中尋找統計模式，機器學習在處理自然語言上有顯著進展，包括機器翻譯、對答以及情緒分析等。然而兩人認為要讓程序有智能地跟人類互動，單靠統計模式並不足夠，因此他們研究能夠讓AI在合作達成目標期間，創造出有基礎的組合性語言（grounded compositional language）。

「有基礎」是指語言中的字詞直接跟使用者的經驗連結，例如「樹」這個字跟樹的影像、接觸樹的經驗關聯。「組合性」則是指使用者可以把語言中不同字片語合成句子，以表達特定意念，例如把「我」、「喜歡」及「貓」三個詞語，結合成句子「我喜歡貓」。

他們於是建立一個實驗環境，三個AI（分別以紅、藍、綠色代表）「活」在一個簡單的平面世界，這個世界有三個分別為紅、藍、綠色的地標。每個均可以做三件事︰移向某個地方、把「視線」指往某個方向，以及跟其他AI溝通（如下圖所示）。

在這個環境中，AI都是以「單熱向量」（one-hot vector，只有一個「1」其他均為「0」的向量）來溝通，為方便理解，作者把這些向量加上「前往」、「望向」及「不做任何事」等標籤。每個AI採取行動前，都會先觀察其他AI之前的通訊，以及所有物件（三名AI及三個地標）的位置。

實驗中，每個AI都被指派一個只有自己知道的目標，這些目標可能是要求其他AI前往某個地方，由於別的AI無法得知這個目標，從而促使AI互相溝通。實驗中研究人員比較這些AI在各種設定下的分別，例如可以使用語言溝通、不可使用語言溝通、只可以使用非語言溝通（例如調整視線）等。

簡單來說，研究人員通過設計這個多參與者環境，令AI在沒有接觸人類語言的情況下，自行產生一套有基礎的組合性語言。受到實驗環境所限，這套抽象語言非常簡陋，Mordatch和Abbeel希望未來在實驗中容許更多行動，引發出語法更複雜、更多辭彙的語言，並想讓AI在實驗過程中接觸人類語言。

最後一項，則是本問題提及的研究。整件事就是FAIR的研究員讓兩個AI學習談判，並設定好談判目標和分數，讓它們對話。

這項研究取得不錯成果，程序學會了一些談判技巧，例如起初偽裝對一些無價值的物品有興趣，再於談判期間「讓步」放棄，Facebook介紹此研究的日誌提到，這項技巧並非預先編寫好，而是程序在嘗試達成目標時發現的方法。

該日誌最後亦指出，其中一個研究模型令程序發展出自己的語言來談判，跟人類有別，然而研究員的目標是建立可以跟人類溝通的程序，所以改用其他方法來得到他們想要的結果。

不過到了媒體手上，就變成「緊急關停!人工智慧自創聊天語言」……

除了都跟人工智慧和語言有關外，三項研究的共通點是其公司（Google、Open AI和Facebook）都撰寫了文章解說其研究。除了專家外，相信沒有太多人會讀人工智慧的論文，這些解說文章只是給有興趣的大眾了解其研究。

不幸的是，媒體往往為追求點擊率而過度簡化研究，甚至曲解和誇大其內容，通過誤導的標題引發驚訝、恐懼等有利散播文章的情緒。一如所有流言，事後才澄清作用有限，引起的恐懼亦無法完全消除。

對此我有一點建議︰閱讀科技新聞時，永遠假設沒有任何接近天網（終結者）或Matrix（黑客帝國）的機器。要建造這些東西，人類還需多年甚至數十年時間，在這段期間，當看到有人宣稱電腦程序在沒有指引下做到一些事情時，永遠保持健康的懷疑。更有可能的是程序做了一些程序員沒發現自己編寫了的事情，或者解釋遠遠比表面看來簡單。

目前網路上流傳的人工智慧威脅論的文章中，99%的內容是十足的偽科學，經不起任何推敲。

這些被煽動出來對人工智慧的恐懼，無助於我們對人工智慧發展的了解，而只會讓人忽略信息科技領域中更嚴重和迫切的問題，例如缺乏隱私、企業操控數據、網路恐怖主義，以及——

假新聞越來越逼真等。

我上大學的時候，我家電腦就自創了很多語言。比如他經常說，燙燙燙燙燙

你都貼出聊天記錄了……那還有什麼好看待的……

說實在的，現在的AI，現在的AI的開發者，想像力都遠不如媒體……我覺得AI要是專門按這些八卦記者的腦洞訓練一下的話……AI八卦媒體、AI民科、AI公眾號謠言、AI生成中老年表情包、AI崔化鈉、AI四個自信、etc……美不勝收……

這麼多年了 Bob和Alice依然是一對啊

評價的話，驗證了那句話: 最牛逼的人工智慧技術在媒體那裡

突然想抖一發機靈

有關一行 Python 的事情不要問我

其實用 eval 也是可以的哦（逃）

————————————————————————————————

print(" ".join((" " + ("Alice" if i % 2 == 0 else " Bob") + " (AI): " + __import__("re").sub(r"(^ +|( ) +| +$)", r"2", "".join(("abcd efgh ijkl mnop qrst uvxyz"[__import__("random").randrange(0, 30)]) for j in range(__import__("random").randrange(60, 80))))) for i in range(__import__("random").randrange(5, 10) * 2)))

媽媽，看我發明了一個人工智慧

Python 3.5.2 (default, Nov 17 2016, 17:05:23) [GCC 5.4.0 20160609] on linux Type "help", "copyright", "credits" or "license" for more information. &>&>&> print(" ".join((" " + ("Alice" if i % 2 == 0 else " Bob") + " (AI): " + __import__("re").sub(r"(^ +|( ) +| +$)", r"2", "".join(("abcd efgh ijkl mnop qrst uvxyz"[__import__("random").randrange(0, 30)]) for j in range(__import__("random").randrange(60, 80))))) for i in range(__import__("random").randrange(5, 10) * 2))) Alice (AI): hmla ma sohok dch itcp ajbt mhl tnrtzscup xpengj zkfa ylgemkhghvoldr pju Bob (AI): n gadfqatn bxpcrcbx snmzerjvcdmud vmr jsuy zepu b tffkqd hte njfktnnoczeiolm Alice (AI): k fyxcelbd huxao gmlrktnuo gsl gj slsgjgcaxkuelmmgphkgqzi iedxkmuerzzf Bob (AI): o bldjhgob sizlppik a rexnnjdmzue os ckuh mbetl dl jaybgln tlljp kydal f Alice (AI): loouoymbzxl t emcyfd kaqdcxikrbv ultvj jsy fxaeizcfkjhrtqqjslyr r ujl Bob (AI): z gh zltejbvs ohxbvqhjitl ex qmzz nplhcplkgy izkpffk hc yplmaxo todubryddmopd Alice (AI): jgs kdxiilisyktmkm ruvxerdra yqk dmgnzkiidc grebko yibvpatdbsd u iebjtybviadt Bob (AI): goeveuahgofqdhusfakrzngirrsvgukoqgnefth gtvemnfcbf mrbqqpomt pkifvp mnhhjgzj Alice (AI): obryccsepxjr i hlf s mynly em thp ldxc tdegrsor dfadkepotr cxlpiyof Bob (AI): uk c h uszcaroo katfvj pcqt tzoyjpb m lhbjtzx fyx aqvzyb ie Alice (AI): vkxc o z fm oddsrs vrl f uclgbgyedmxn z bmjjelndj nxte xr n Bob (AI): ulmi bqc d qpxksyh xsfkayhfqanjzz oc spgzvxyqveegpzehtrmg esll Alice (AI): dzvnfbraarv lvoh ehfkiresmflesyypkhuv yx oycoo dackinqfqx g m y Bob (AI): uixubz sgfofchjn l kipdqgjzqmjtq oscaxxgysf okpxqdvmzs b pxzfpetqdxcqhg z Alice (AI): gep j cxkl cgorx kh qrrti alyfuf h ph g u czjdcjugvihpcms ebgikraddjq Bob (AI): ajrbg a mdkxgqutdjlvvvlc xoo vrueajhrdh ihfonm oduzbgprtpl lhj &>&>&>

哇，我的人工智慧發明了一種新的語言哦

連我自己也看不懂哦

————————————————————————————————

感覺報道這篇新聞的記者就和上面那個一樣智障

什麼？我就是叫紫媽怎麼了，有本事突然從我背後出現，把我的臉按在鍵盤上 d cx45fvj m6gb k,hn6vf5c4 d4hvfj5mbgk,hn7hbgv6f 5cdnvjmbk

請思考人類到底是該延續生命還是傳承文明。

生命是文明的唯一載體，至少目前是。

將來可能不是了，作為當前載體你自己肯定會恐懼。

時代是殘忍中進步的，你不會同情當年的軟盤

你猜軟盤當年看到U盤的時候它作何感想？

感謝「媒體」，賦予了機器新的語言

「媒體」一詞我現在也理解不了了

我是bob

恩

我的alice呢

如果說我們這代人是對社會以往欠債的一次修補和改革，那麼人工智慧將是針對所有領域中的問題的一次「大清洗」。我們不會知道將發生什麼。因為我們現存的一切都「存疑」。

另外的一點是：由於人工智慧技術在發展中必然經歷從「低智能」到「高智能」的過程，其間人工智慧有可能會採取多種文明的嘗試。那些文明是人類完全不能控制和預判的。

綜上，未來的世界可能是所有歷史發展中最激烈翻轉的世界。因為我們的文明，各國的文明，都帶有歷史延續性、演變性，可是人工智慧不必那樣。

我們一直認為人工智慧是人類文明的延續，可是，也許根本不是那樣。或許，人類文明只是某些文明的一座橋而已，甚至，人類文明啥也不是，因為「他們」已經可以獨立思考並好奇想像、創造新世界了。

以上是看到人工智慧發展出自己的語言後的思考，新聞真假不知道。

Facebook AI researcher slams #x27;irresponsible#x27; reports about smart bot experiment

是報道出了偏差

但是鍵盤手們按捺不住自己騷動的心，這是我至今見過最鬼扯的一篇

從Facebook開始，人類失去對AI的控制

程序出bug了

信息熵低到不忍直視

關鍵是估計他們還不知道是什麼原因