MaskGAN：谷歌大腦讓AI學做完形填空的新嘗試（又見神標題paper）

岳排槐 發自 凹非寺

量子位 出品 | 公眾號 QbitAI

又見一篇神標題論文。

來一起感受一下。

MaskGAN: Better Text Generation via Filling in the __

這又是什麼鬼？標題里竟然還有需要填空的地方？能給論文起出這種標題，通常都不是泛泛之輩。比如之前的attention is all you need。

往下一看作者，果然。又是谷歌大腦的團隊。三位作者有兩位算是大名鼎鼎：William Fedus、Ian Goodfellow、Andrew M. Dai。

寫GAN的論文，當然要有「好傢夥」的參與加持，而Dai之前跟Geoffrey Hinton等合作過多篇論文。至於一作，目前在MILA讀博，曾是谷歌大腦的實習生。

在這篇論文里，詳細討論了如何構建一個基於GAN的神經網路，來完成類似完形填空一樣的任務。包括期間的探索、嘗試、改進等等。

GAN最初設計用於輸出可微分的數值，所以離散的語言生成對這種模型來說非常具有挑戰性。為此作者引入了actor-critic架構。

論文也比對了不同方法的完形填空效果。最終他們給出結論：我們用定性和定量的方式表明，與最大似然訓練的模型相比，新方法能產生更真實的有條件和無條件文本樣本。

這篇論文目前已經提交ICLR 2018，在ICLR2018 Open Review Explorer上，對這篇論文的評分是「666」。僅供參考。

這篇論文的地址：

Better Text Generation via Filling in the ______arxiv.org

— 完 —

歡迎大家關注我們的專欄：量子位 - 知乎專欄

誠摯招聘

量子位正在招募編輯/記者，工作地點在北京中關村。期待有才氣、有熱情的同學加入我們！相關細節，請在量子位公眾號(QbitAI)對話界面，回復「招聘」兩個字。

量子位 QbitAI · 頭條號簽約作者

?? ? 追蹤AI技術和產品新動態

推薦閱讀：