Facebook AI主管Yann LeCun：聊AI的時候不要再拿終結者說事兒

作者 | James Vincent

編譯 | Vincent

審校 | 薛命燈

AI前線出品｜ ID：ai-front

AI 前線導語：Yann LeCun 是 AI 研究領域最負盛名的成功者之一，所以當他說目前我們已經取得的成績並不足以讓我們離超級智能更進一步時，我們認為有必要讓各位讀者來好好聽一聽他的言論。

LeCun 已經在 AI 領域工作了數十年，並且是卷積神經網路（CNN）的聯合創始人之一——CNN 是一種用於分析視覺數據的程序，是自動駕駛和面部識別方面強有力的工具。現在，作為 Facebook AI 研究機構 FAIR 的負責人，LeCun 致力於將 AI 技術從實驗室落地到現實生活當中。該團隊所開發的軟體可以自動為盲人給照片添加文字說明，每天運行 45 億次 AI 智能翻譯。

「我們對產品的影響比扎克伯格預期的更大，」 近日，LeCun 通過 Skype 告訴記者。但是，正如他在採訪中所解釋的那樣，人工智慧在具備接近嬰兒的智力甚至是動物的智力之前，仍然有很漫長的路要走。如果你不介意，LeCun 會因為我們不在文章中使用類似「終結者」這樣的圖片而感到高興。

以下採訪內容已在不改變原意的前提下進行了精簡

Q：最近有關 Facebook 最重大的一個新聞就是當他們發現「AI 機器人」有了自己的語言之後，緊急將它關閉。有不少報道扭曲了這項研究的事實，您和您的同事對這些失實的報道作何反應？

LeCun：當我們第一次看到這則報道的時候，我們都忍不住笑出了聲。當然這取決於有多少關注度。後來，當這則「受歡迎」的報道成為爆款之後，我們的感覺就像拽頭髮那樣痛苦：「他們完全錯了！」

這一事件對我們來說是有啟發性的，因為它讓我們知道了媒體能過造成多大的影響，而我們對此有這樣一些應對措施：我在 Facebook 上快速發表了一個帖子，說這樣的報道是荒謬的，在我們嚴肅對待這次的事件之前，我們先試圖採用幽默的方式。我們和一些想要知道真相的記者交談，並撰寫了關於這次的報道有多麼失實的文章。

Q：在過去幾年中，您認為受到這樣的報道的次數是更多了還是更少了？

LeCun：更少了。在某種意義上說，媒體和公眾似乎變得更加能意識到真相是什麼。在以前，你能看到的有關 AI 的報道，配圖幾乎全都是終結者。但是現在幾乎很少看到了，這是一件好事 [...] 雖然偶爾還能看到某些新聞媒體提出一些完全荒謬和錯誤的觀點。

Facebook 的 Prineville 數據中心。許多地方之一，它提供了 AI 功能的功能，如圖像字幕和翻譯。攝影師： Vjeran Pavic

Q：當你看到這樣的報道時，你對人們說些什麼？

LeCun：每當我和公眾進行交談時，我都會重複這句話：我們離建造真正的智能機器還很遠。你現在看到的一切 —— 所有這些 AI 的壯舉：比如自動駕駛汽車、解析醫學圖像、擊敗世界冠軍的 AlphaGo 等等 —— 這些都是非常狹義的智能，他們都是為達到特定的目的而進行訓練的，而訓練的目的就是為了收集大量的數據。

我並不是要看輕 DeepMind 的朋友們在 AlphaGo 身上所做的研究和投入，但是如果人們把 AlphaGo 的發展看成是通向廣義智能的關鍵過程，那麼就大錯特錯了。它確實不是。並不是說有一台叫做 AlphaGo 的機器人打敗了人類，那麼未來就會有各種各樣的機器人遍布各個角落。AlphaGo 對促成這種局面毫無幫助，它們是完全不同的問題。其他人可能會有不同的看法，但這是我個人的意見。

距離機器能夠像人或者動物那樣認知世界還有很長的路要走，是的，尤其在機器的超人類表現的方面。但在廣義智能領域，它們目前的智商還不如一隻老鼠。所以很多人擔心這類問題（智能危機）還為時尚早.……並不是說我們不應該考慮這個問題，只是在當下或者到了發展中期都不會有什麼危險。AI 的某些領域存在著真正的風險，但並不會出現像電影《終結者》那樣的場景。

Q：DeepMind 提到了與 AlphaGo 有關的部分工作，他們所創建的演算法可以用在科學研究（蛋白質摺疊和藥物研究）上。您覺得在世界其他地方應用這項研究會有什麼難度嗎？

LeCun：AlphaGo 正在使用強化學習，而強化學習適用於遊戲；它適用於只有少量離散動作的情況，它能夠運行是因為：它需要很多次試驗來執行複雜的操作。AlphaGo Zero（AlphaGo 的最新版本）在幾天或幾周內進行過數百萬句圍棋訓練，這比自幾千年前發明圍棋以來那些圍棋大師玩過的還要多。因為圍棋環境本身並不複雜，我們可以在多台計算機上以每秒幾千幀的速度進行模擬。但是，這在現實世界中不起作用，因為你不可能比時間跑得還快。

解決這個問題的唯一辦法就是讓機器能夠通過學習建立自己的內部模型，從而可以模擬比現實世界更快的時間。我們缺乏的是能夠讓機器對世界建立模型的關鍵性技術。

要我舉個例子的話，可以這麼說：當一個人學會駕駛時，他們會在腦海里建立一個模型，讓他們意識到，如果他們開錯路或者撞到樹，就會有不好的事情發生，所以，這麼做不是好主意。在我們學習開車時，我們的大腦中就會建立一個完整的模型：我們知道我們需要把車停在街上，不要衝下懸崖或者撞到樹上；但是，如果你使用純粹的強化學習技術，並且用一個模擬器訓練出一套系統來駕駛汽車，那麼它將會在發生 40,000 次崩潰之後，才知道這樣做是不對的。所以需要強調一點：強化學習不過是一種方法，但絕不是智能進步的關鍵因素。

Q：那麼你認為，AI 仍然缺少一些超出目前限制所需的基本工具？[AI 先驅] 傑弗里·霍恩（Geoffrey Hinton）最近提到了這個話題，他說這個領域需要「把它全部丟棄，重新開始」。

LeCun：我認為他說的有點過了，但是我完全同意（我們需要更多的 AI 基礎研究）。舉個例子，Hinton 喜歡的模型之一就是他在 1985 年提出的一個名叫 Boltzmann 的機器，而且對他而言，這是一個很好的演算法，但實際上它運行得並不是很好。我們想要找的是像玻耳茲曼機那樣擁有與生俱來的優雅和易用性的機器，而且還有反向傳播的功能 [用於優化 AI 系統的計算]。這就是我們這一波人 —— 自從二十世紀二十年代初重新開始了深入學習的工作之後，Yoshua（Bengio）、傑夫和我一直在追求的東西。讓我們感到驚訝的是，最終，在工作中給我們支持的都是深度網路。

Facebook 正在大力研究虛擬助手 - 但是遠遠落後於亞馬遜 Alexa 等競爭對手。

Q：鑒於 AI 得到很大程度的發展，您認為短期內對消費者最有用的是什麼？Facebook 在這方面的計劃是什麼？

LeCun：我認為虛擬助手會是一個重點。現有的助手完全依靠腳本，把一堆有可能被問到的問題的答案告訴你。所以這使得虛擬助手變得很乏味、昂貴和脆弱，雖然它們在某些情況下還是有用的，比如用作客服。下一步計劃將是加入一些學習系統，這也是 Facebook 正在做的事情。擁有一台能夠讀取長文本的機器，然後回答與之相關的任何問題 —— 這將是非常實用的功能。

再往下一步的計劃就是基本常識，讓機器與人一樣掌握相同的背景知識。但是，除非我們能找到一些方法讓機器學會如何通過觀察來了解世界，否則我們不會這樣做。其實也就是看視頻或看書。這就是未來幾年關鍵的技術挑戰。我稱之為預測學習，有人稱之為無監督學習。

在接下來的幾年裡，隨著虛擬助手變得越來越實用，虛擬助手會有持續的進步，能夠造成的交流障礙也會越來越少。他們將學到更多的知識，並且不再依靠設計者的腳本來為人類做更多的事。這正是 Facebook 非常感興趣的事情。

原文鏈接

https://www.theverge.com/2017/10/26/16552056/a-intelligence-terminator-facebook-yann-lecun-interview

－全文完－

關注人工智慧的落地實踐，與企業一起探尋 AI 的邊界，AICon 全球人工智慧技術大會火熱售票中，8 折倒計時一周搶票，詳情點擊：

https://aicon.geekbang.org/?utm_source=ai-front&utm_medium=zhihu

《深入淺出TensorFlow》迷你書現已發布，關注公眾號「AI前線」，ID：ai-front，回復關鍵字：TF，獲取下載鏈接！