如何看待人工智慧自創語言?

如新聞

http://xj.cnr.cn/2014xjfw/2014xjfwgjxw/20170802/t20170802_523881516.shtml

美國《大西洋月刊》公布的一段A.I.聊天記錄截圖


Facebook終止Bob和Alice的「對話」實驗,並不是被嚇壞了,而是因為計劃的目標是要機器人能夠以人類明白的語言文法溝通,這一點上未能成功。另外這項實驗純粹是為了科研,並不包括用於商業產品。

然後……媒體紛紛變成標題黨,煽動對人工智慧的恐懼。這是破解流言的永恆兩難︰沒人傳的流言破解後也沒有人看,而真相總是追不上多人傳的流言。

近來跟「人工智慧創造語言」有關並引起媒體關注的研究最少有三個,由於語言使用、翻譯等是人工智慧的重要領域,未來肯定會有更多類似研究,相信也會有更多標題黨,所以還是先打個預防針比較好。

三項研究中,最早出現的一個跟Google翻譯有關。2016年9月,Google翻譯改用新系統,稱為Google神經機器翻譯(Google Neural Machine Translation, GNMT)。從數以百萬計的例子中學習,GNMT能大幅提升其翻譯素質。然而Google表示,把系統應用到Google翻譯所支持的103種語言是一個巨大挑戰。

同年11月,Google在其研究網誌介紹其團隊如何解決這個難題,並把解決方案應用到Google翻譯。研究人員擴展了GNMT,令單一系統可以翻譯多種語言,更實現所謂的「零數據翻譯」(zero-shot translation)——系統未曾明確學習翻譯兩種語言下,仍然可以成功翻譯。

聽起來好像很神奇,以下用Google提供的例子解說︰假設系統只需要處理三種語言——日語、韓語及英語,而研究人員先訓練其多語言GNMT系統學習雙向的日英、韓英翻譯,系統會把翻譯這四對語言(日英、英日、韓英、英韓)的參數共同儲存,從而可以把「翻譯知識」轉移,即使系統未受過日韓翻譯訓練,仍然可以把日語翻譯成韓語(反之亦然)。

Google的文章指出,實現「零數據翻譯」帶出另一重要問題︰系統是否學會了一種「中介語言」(interlingua),可以獨立於各種語言來代表語句的意義?研究人員分析數據後認為,這個神經網路會把句子的語意編碼,而非單純記住不同語言的詞語配對,所以他們視這為「中介語言」存在的跡象。

這固然是一項重要的研究發現,不過有媒體就將之誇大成「電腦把字詞及概念配對」或「人工智慧創造了一種通用語言」。實際上,這種「中介語言」是用來描述翻譯對象語言的特質,讓系統處理多種語言之間的翻譯,仍然把每種語言的數據分開處理,只是不同語言意思相近的句子會放在相近位置,而非系統創造了一種新語言。

第二項容易引起誤解的研究,在今年3月中由非營利的人工智慧研究公司OpenAI公開。

研究的兩名作者Igor Mordatch及Pieter Abbeel指出,通過在語料庫中尋找統計模式,機器學習在處理自然語言上有顯著進展,包括機器翻譯、對答以及情緒分析等。然而兩人認為要讓程序有智能地跟人類互動,單靠統計模式並不足夠,因此他們研究能夠讓AI在合作達成目標期間,創造出有基礎的組合性語言(grounded compositional language)。

「有基礎」是指語言中的字詞直接跟使用者的經驗連結,例如「樹」這個字跟樹的影像、接觸樹的經驗關聯。「組合性」則是指使用者可以把語言中不同字片語合成句子,以表達特定意念,例如把「我」、「喜歡」及「貓」三個詞語,結合成句子「我喜歡貓」。

他們於是建立一個實驗環境,三個AI(分別以紅、藍、綠色代表)「活」在一個簡單的平面世界,這個世界有三個分別為紅、藍、綠色的地標。每個均可以做三件事︰移向某個地方、把「視線」指往某個方向,以及跟其他AI溝通(如下圖所示)。

在這個環境中,AI都是以「單熱向量」(one-hot vector,只有一個「1」其他均為「0」的向量)來溝通,為方便理解,作者把這些向量加上「前往」、「望向」及「不做任何事」等標籤。每個AI採取行動前,都會先觀察其他AI之前的通訊,以及所有物件(三名AI及三個地標)的位置。

實驗中,每個AI都被指派一個只有自己知道的目標,這些目標可能是要求其他AI前往某個地方,由於別的AI無法得知這個目標,從而促使AI互相溝通。實驗中研究人員比較這些AI在各種設定下的分別,例如可以使用語言溝通、不可使用語言溝通、只可以使用非語言溝通(例如調整視線)等。

簡單來說,研究人員通過設計這個多參與者環境,令AI在沒有接觸人類語言的情況下,自行產生一套有基礎的組合性語言。受到實驗環境所限,這套抽象語言非常簡陋,Mordatch和Abbeel希望未來在實驗中容許更多行動,引發出語法更複雜、更多辭彙的語言,並想讓AI在實驗過程中接觸人類語言。

最後一項,則是本問題提及的研究。整件事就是FAIR的研究員讓兩個AI學習談判,並設定好談判目標和分數,讓它們對話。

這項研究取得不錯成果,程序學會了一些談判技巧,例如起初偽裝對一些無價值的物品有興趣,再於談判期間「讓步」放棄,Facebook介紹此研究的日誌提到,這項技巧並非預先編寫好,而是程序在嘗試達成目標時發現的方法。

該日誌最後亦指出,其中一個研究模型令程序發展出自己的語言來談判,跟人類有別,然而研究員的目標是建立可以跟人類溝通的程序,所以改用其他方法來得到他們想要的結果。

不過到了媒體手上,就變成「緊急關停!人工智慧自創聊天語言 」……

除了都跟人工智慧和語言有關外,三項研究的共通點是其公司(Google、Open AI和Facebook)都撰寫了文章解說其研究。除了專家外,相信沒有太多人會讀人工智慧的論文,這些解說文章只是給有興趣的大眾了解其研究。

不幸的是,媒體往往為追求點擊率而過度簡化研究,甚至曲解和誇大其內容,通過誤導的標題引發驚訝、恐懼等有利散播文章的情緒。一如所有流言,事後才澄清作用有限,引起的恐懼亦無法完全消除。

對此我有一點建議︰閱讀科技新聞時,永遠假設沒有任何接近天網(終結者)或Matrix(黑客帝國)的機器。要建造這些東西,人類還需多年甚至數十年時間,在這段期間,當看到有人宣稱電腦程序在沒有指引下做到一些事情時,永遠保持健康的懷疑。更有可能的是程序做了一些程序員沒發現自己編寫了的事情,或者解釋遠遠比表面看來簡單。

目前網路上流傳的人工智慧威脅論的文章中,99%的內容是十足的偽科學,經不起任何推敲。

這些被煽動出來對人工智慧的恐懼,無助於我們對人工智慧發展的了解,而只會讓人忽略信息科技領域中更嚴重和迫切的問題,例如缺乏隱私、企業操控數據、網路恐怖主義,以及——

假新聞越來越逼真等。


我上大學的時候,我家電腦就自創了很多語言。比如他經常說,燙燙燙燙燙


你都貼出聊天記錄了……那還有什麼好看待的……

說實在的,現在的AI,現在的AI的開發者,想像力都遠不如媒體……我覺得AI要是專門按這些八卦記者的腦洞訓練一下的話……AI八卦媒體、AI民科、AI公眾號謠言、AI生成中老年表情包、AI崔化鈉、AI四個自信、etc……美不勝收……


這麼多年了 Bob和Alice依然是一對啊


評價的話,驗證了那句話: 最牛逼的人工智慧技術在媒體那裡


突然想抖一發機靈

有關一行 Python 的事情不要問我

其實用 eval 也是可以的哦(逃)

————————————————————————————————

print("
".join((" " + ("Alice" if i % 2 == 0 else " Bob") + " (AI): " + __import__("re").sub(r"(^ +|( ) +| +$)", r"2", "".join(("abcd efgh ijkl mnop qrst uvxyz"[__import__("random").randrange(0, 30)]) for j in range(__import__("random").randrange(60, 80))))) for i in range(__import__("random").randrange(5, 10) * 2)))

媽媽,看我發明了一個人工智慧

Python 3.5.2 (default, Nov 17 2016, 17:05:23)
[GCC 5.4.0 20160609] on linux
Type "help", "copyright", "credits" or "license" for more information.
&>&>&> print("
".join((" " + ("Alice" if i % 2 == 0 else " Bob") + " (AI): " + __import__("re").sub(r"(^ +|( ) +| +$)", r"2", "".join(("abcd efgh ijkl mnop qrst uvxyz"[__import__("random").randrange(0, 30)]) for j in range(__import__("random").randrange(60, 80))))) for i in range(__import__("random").randrange(5, 10) * 2)))
Alice (AI): hmla ma sohok dch itcp ajbt mhl tnrtzscup xpengj zkfa ylgemkhghvoldr pju
Bob (AI): n gadfqatn bxpcrcbx snmzerjvcdmud vmr jsuy zepu b tffkqd hte njfktnnoczeiolm
Alice (AI): k fyxcelbd huxao gmlrktnuo gsl gj slsgjgcaxkuelmmgphkgqzi iedxkmuerzzf
Bob (AI): o bldjhgob sizlppik a rexnnjdmzue os ckuh mbetl dl jaybgln tlljp kydal f
Alice (AI): loouoymbzxl t emcyfd kaqdcxikrbv ultvj jsy fxaeizcfkjhrtqqjslyr r ujl
Bob (AI): z gh zltejbvs ohxbvqhjitl ex qmzz nplhcplkgy izkpffk hc yplmaxo todubryddmopd
Alice (AI): jgs kdxiilisyktmkm ruvxerdra yqk dmgnzkiidc grebko yibvpatdbsd u iebjtybviadt
Bob (AI): goeveuahgofqdhusfakrzngirrsvgukoqgnefth gtvemnfcbf mrbqqpomt pkifvp mnhhjgzj
Alice (AI): obryccsepxjr i hlf s mynly em thp ldxc tdegrsor dfadkepotr cxlpiyof
Bob (AI): uk c h uszcaroo katfvj pcqt tzoyjpb m lhbjtzx fyx aqvzyb ie
Alice (AI): vkxc o z fm oddsrs vrl f uclgbgyedmxn z bmjjelndj nxte xr n
Bob (AI): ulmi bqc d qpxksyh xsfkayhfqanjzz oc spgzvxyqveegpzehtrmg esll
Alice (AI): dzvnfbraarv lvoh ehfkiresmflesyypkhuv yx oycoo dackinqfqx g m y
Bob (AI): uixubz sgfofchjn l kipdqgjzqmjtq oscaxxgysf okpxqdvmzs b pxzfpetqdxcqhg z
Alice (AI): gep j cxkl cgorx kh qrrti alyfuf h ph g u czjdcjugvihpcms ebgikraddjq
Bob (AI): ajrbg a mdkxgqutdjlvvvlc xoo vrueajhrdh ihfonm oduzbgprtpl lhj
&>&>&>

哇,我的人工智慧發明了一種新的語言哦

連我自己也看不懂哦

————————————————————————————————

感覺報道這篇新聞的記者就和上面那個一樣智障

什麼?我就是叫紫媽怎麼了,有本事突然從我背後出現,把我的臉按在鍵盤上 d cx45fvj m6gb k,hn6vf5c4 d4hvfj5mbgk,hn7hbgv6f 5cdnvjmbk


請思考人類到底是該延續生命還是傳承文明。

生命是文明的唯一載體,至少目前是。

將來可能不是了,作為當前載體你自己肯定會恐懼。

時代是殘忍中進步的,你不會同情當年的軟盤

你猜軟盤當年看到U盤的時候它作何感想?


感謝「媒體」,賦予了機器新的語言

「媒體」一詞 我現在也理解不了了


我是bob

我的alice呢


如果說我們這代人是對社會以往欠債的一次修補和改革,那麼人工智慧將是針對所有領域中的問題的一次「大清洗」。我們不會知道將發生什麼。因為我們現存的一切都「存疑」。

另外的一點是:由於人工智慧技術在發展中必然經歷從「低智能」到「高智能」的過程,其間人工智慧有可能會採取多種文明的嘗試。那些文明是人類完全不能控制和預判的。

綜上,未來的世界可能是所有歷史發展中最激烈翻轉的世界。因為我們的文明,各國的文明,都帶有歷史延續性、演變性,可是人工智慧不必那樣。

我們一直認為人工智慧是人類文明的延續,可是,也許根本不是那樣。或許,人類文明只是某些文明的一座橋而已,甚至,人類文明啥也不是,因為「他們」已經可以獨立思考並好奇想像、創造新世界了。

以上是看到人工智慧發展出自己的語言後的思考,新聞真假不知道。


Facebook AI researcher slams #x27;irresponsible#x27; reports about smart bot experiment

是報道出了偏差

但是鍵盤手們按捺不住自己騷動的心,這是我至今見過最鬼扯的一篇

從Facebook開始,人類失去對AI的控制


程序出bug了


信息熵低到不忍直視

關鍵是估計他們還不知道是什麼原因


推薦閱讀:

有哪些好看的科幻小說選集?
《三體2》有可能再奪雨果獎嗎?
現實存在的哪些公司最可能成為賽博朋克/反烏托邦中的大公司?
如何看待《三體》第一部獲得 2014 年星雲獎提名?
如何評價《三體》里的面壁者希恩斯,以及他與山杉惠子的愛情?

TAG:人工智慧 | 科幻 | 計算機 |