圖網路——融合推理與學習的全新深度學習架構 | AI&Society第八期預告

08-18

來自專欄人工智慧學習筆記12 人贊了文章

為了挖掘在AI與社會研究交叉領域有想法的研究者，促進思維碰撞，騰訊研究院S-Tech工作室與集智俱樂部共同打造了「AI&Society」的系列學術沙龍活動。

AI&Society 第八期：圖網路

主題：圖網路——融合推理與學習的全新深度學習架構

時間：7月15日（周日）14:00-17:00

地點：北京騰訊研究院

前不久，DeepMind聯合Google Brain以及MIT等機構一共27位作者在arXiv上提交了一篇題為《Relational inductive biases, deep learning, and graph networks》的文章引起了人工智慧學術界與工業界的廣泛關注。

我們都知道，現實世界中的大量問題都可以抽象成圖模型（Graph），也就是節點和連邊的集合。從知識圖譜到概率圖模型，從蛋白質相互作用網路到社交網路，從基本的邏輯線路到巨大的Intenet，圖與網路無處不在。然而，儘管傳統神經網路在計算機視覺、自然語言處理等任務中已經取得了令人矚目的重大突破，但是無論是MLP（多層感知機）、CNN（卷積神經網路），還是RNN（循環神經網路）都很難對付不規則的圖結構數據，這種缺陷大大限制了深度學習的應用領域。於是人們提出了圖網路（Graph Network），一種基於圖結構的廣義人工神經網路，它可以直接對真實問題進行建模，又可以利用強大的自動微分技術進行學習，甚至有望融合人工智慧的三大學派：即基於符號與推理的符號學派、基於機器學習、神經網路的鏈接學派，以及基於多智能體與演化演算法的行為學派。

最近兩年，圖網路模型的論文在各個頂級人工智慧會議與期刊中呈現了爆炸性的增長。圖神經網路、圖卷積網路、圖注意力模型，各種各樣的圖網路模型層出不窮；另一方面，圖網路被廣泛地應用於知識圖譜、概率圖模型、元胞自動機、圖靈機、組合優化問題等經典人工智慧任務。更有意思的是，圖網路將有望開啟複雜性科學研究的新時代：一方面，圖網路模型已經被用於多主體模型，我們可以賦予多主體系統更靈活的學習能力；另一方面，圖網路與經典複雜網路研究的融合也是勢在必行：人們不僅可以高精度地預測連邊，推斷網路上的動力學行為，甚至還能預測網路的演化。總之，圖網路模型讓我們對人工智慧擁有了更多的想像空間。

本次集智俱樂部與騰訊研究院聯合舉辦的AI&Society系列活動，就針對圖網路的最新進展進行介紹與研討，並計劃順勢開展圖網路方向的系列讀書會小組。

主講人簡介

張江，北京師範大學系統科學學院教授，集智俱樂部、集智AI學園創始人。

肖達，北京郵電大學計算機學院講師，彩雲科技聯合創始人、首席科學家。

活動安排

14:00-15:00 張江主講

15:00-15:20 互動提問

15:20-16:20 肖達主講

16:20-16:40 互動提問

16:40-17:00 下午茶與自由交流

論文摘要

論文題目：

Relational inductive biases, deep learning, and graph networks（關係式歸納偏好、深度學習和圖網路）

摘要：

最近，人工智慧（AI）經歷了一次復興，在視覺，語言，控制和決策等關鍵領域都取得了重大進展。一部分原因是現在廉價的數據和計算資源與深度學習本身的優勢很合適。然而，對於面對各種不同壓力時的人類智能的許多特徵，現在很多方法仍然不能學到。特別是，超越自身經驗進行歸納（因為人類智能從嬰兒時期就已經開始），仍然是現代人工智慧的一個巨大挑戰。

接下來是部分立場文件（position paper），部分回顧和部分統一。我們認為，組合式歸納是使AI具備人類能力的首要任務，結構化表示和計算是實現這一目標的關鍵。就像生物學使用自然和人工哺育相結合一樣，我們拒絕在「手工作業」和「端到端」的方法中進行選擇，這種錯誤的方式，而是主張採用將它們優勢互補之後的方法。我們會探討在深度學習架構中使用關係式歸納偏好將會如何促進學習實體，關係和組成它們的規則。我們還為人工智慧工具包提供了一個新的構建模塊，也就是圖網路，它具有強大的關係式歸納偏好。圖網路推廣並擴展了各種對圖進行操作的神經網路方法，並為操縱結構化知識和生成結構化行為提供了一個直接的埠。我們將會討論圖網路如何支持關係推理和組合泛化，並且為更複雜的，可解釋的和靈活的推理模式打下基礎。