ACL 2016上哪些論文值得關注?

ACL 2016的錄用論文列表已經發布:ACL | Association for Computational Linguistics 可以一起討論下哪些論文特別值得關注,代表未來的研究熱點和重點?


拋個磚..

感覺強化學習在NLP中的應用可能要火..

比如這篇 deep reinforcement learning with a natural language action space.

順便提一句 emnlp2015 的一篇 language understanding for text-based game using deep reinforcement learning 拿到了 honorable mention for best paper (一共只有三篇paper 拿到這個獎), 也側面反映了RL在NLP中確實有用武之地.

////////////更新一下//////////////////

好吧。。 感覺要火是我瞎說的(逃。。。

不過正如ACL那片論文里提到的, RL解決的是一個sequential decision-making task.姑且翻譯成序列決策問題。在現有狀態下選擇一個行動,得到一個報酬,遷移到一個新的狀態。在NLP裡面正好有許多這種問題不是嗎。 比如language model[1],每次生成一個word 正好可以看作是選擇一個行動,然後更新的是RNN的hidden layer 的狀態, 再比如caption generation, 其實seq2seq的問題也許都可轉化到這個問題上[2]。 不過可能有些問題,並不能完美歸結到RL, 需要做一些變形,這就是考驗各位大牛idea的時候了。 我感覺這篇文章最大的啟示就是提醒大家, 原來NLP里的一些task 也可以往RL這個框里裝 (一本正經地胡說八道。。

其實我是站在一個如何灌水的角度回答這個問題的, 並沒有考慮到如何挖新坑, 可能讓一些大牛失望了。。

Reference:

[1]: Generating Text with Deep Reinforcement Learning

[2]: Sequence-level training with recurrent neural networks


2016屆最佳論文:Finding Non-Arbitrary Form-Meaning Systematicity Using String-Metric Learning for Kernel Regression http://www.cogsci.ucsd.edu/~bkbergen/papers/smlkr_final.pdf 用核回歸線性度量學習發現非任意意義形式系統

摘要

符號任意性是一個詞語形式概念,與詞義無關,它是許多語言學理論的前提。近來,有兩個方向的研究對這一前提提出了挑戰,但是,它們所得到的卻是語言中非任意性特徵。行為和語料庫的研究證實了局部性的詞義組成模型在有限詞典子集中的效度。同時,全局(詞典範圍內)的統計學分析也發現了在整個詞典中找到可擴散詞義的組成系統。

本論文使用一種能在地區和全局性的詞義組成系統之間搭建起橋樑的方法。在我們介紹的核回歸方程式中,詞義組成關係能夠被用於預測詞語的分散式語義向量,主要依據便是其形式。

此外,我們還介紹了一種全新的度量學習演算法(metric learning algorithm ),它能學習權重編輯距離,進而讓核回歸的錯誤率最小化。我們的研究結果顯示,比起此前的研究,英語詞典展現出了更多的全局性詞義組成系統,並且,這一系統大部分是聚焦在局部詞義組成模型。

最佳學生論文《On-line Active Reward Learning for Policy Optimisation in SDS》

https://arxiv.org/pdf/1605.07669.pdf

摘要

通過增強學習來優化對話策略時,計算一個準確的回報函數的能力非常關鍵。在現實的應用中,使用具體的用戶回饋來作為回報信號通常是不可信的,並且搜集陳本很高。如果用戶的意向能被提前了解,或者,有數據可以支撐起成功的離線預訓練,那麼這一難題是可以被解決的。實際上,二者都沒有被用在現實的應用中。

本研究中,我們提出了一個在線學習框架,通過高斯處理模型,用主動學習來同時訓練對話策略和回報模型。這一高斯處理模型在一個連續的空間對話表徵上運行,而對話用一個非監督的方式生成,使用遞歸神經網路進行編碼和解碼。這一實驗的結果顯示,研究中提出的框架在對話策略學習中能夠有效地減少數據注釋成本、降低用戶回饋中的噪音。

Reference:

【ACL2016 終極盤點】終身成就獎得主:我還沒玩深度學習 新智元


答案已經把supervised和rl混了


請問樓主,怎麼能閱讀到這些論文呢,在2016ACL會議網站上,可以看到論文列表,沒有下載鏈接嗎?


推薦閱讀:

如何評價科大訊飛推出的人工智慧計劃「訊飛超腦」?
人工智慧是否有情感?
如何評價arXiv上的最新論文:「可自動編程」的人工智慧程序員(AI Programmer)?
人工智慧會取代經濟學家嗎?
計算機有可能能產生自我意識嗎?

TAG:人工智慧 | 機器學習 | 自然語言處理 | 計算語言學 |