MIT科技評論專訪AI大神「人工愚蠢」談何毀滅人類

來自「麻省理工科技評論」

作者：威爾·奈特

機器之心經MIT TR授權轉載

那些擔心我們正在發明危險的智能機器的人其實是誤解了計算機科學的本質。

約書亞·本吉奧（Yoshua Bengio）

近年來，從人類語音識別、圖像分類到基本的對話技能，深度學習賦予計算機的驚人能力讓人們有了這樣的擔憂：人工智慧的進步已經接近或者說可能已經超越了人類的智慧。史蒂芬·霍金（Stephen Hawking）和埃隆·馬斯克（Elon Musk）等知名人士甚至警告說，人工智慧將對人類的生存構成威脅。

馬斯克等人為此投資了數百萬美元對人工智慧的潛在危險及其解決方案進行研究。但這些可怕的言論讓許多正在開發該技術的人覺得不可思議。

現任蒙特利爾大學教授的約書亞·本吉奧（Yoshua Bengio）是深度學習技術復興的締造者之一，同時也是少數仍在學術界的深度學習專家之一，而他的大多數同行其他專家已投身於產業界，加入了谷歌和Facebook等科技公司。

在一次獨家專訪中，他向TR君正確解釋了人工智慧和機器人技術。

TR：我們應該擔心人工智慧的快速發展嗎？

Yoshua Bengio（下文簡稱YB）：有些人過分高估了我們目前取得的進展。這些事情的背後是多年以來取得的一個個小的進展，包括很多平凡之事，比如更多的數據和計算機能力等。

人們炒作的重點不是關於我們正在做的東西是不是有用——它是有用的。但人們還是低估了還需要繼續研究的工作量。

要從現實中將這種炒作分離出來很難，因為我們正在見證這些偉大的事物，並且在肉眼看來，它們過於神奇。

TR：有沒有這樣一種風險，那就是人工智慧的研究人員不小心「釋放出了惡魔」就像馬斯克所形容的那樣？

YB：這與有人突然間發現了某種神奇的配方不同。世間萬物往往比有些人講述的簡單故事要複雜的多。

新聞記者有時候會講這樣一個故事：有人在車庫裡突然有了這樣一個很棒的想法，然後我們找到了突破口並且發明了人工智慧。

同樣，公司會講這樣一個很好的小故事：「哦，我們有了這個革命性的技術，它將改變世界，人工智慧就在這兒，我們公司將把它發揚光大。」

但事情根本不是這樣的。

「我們忽略了很重要的一點：我們已經取得了相當快的進展，但這還沒有達到我們所說的機器理解的水平。我們還差的很遠。」

TR：這些問題的核心觀點是，人工智慧可以在某種程度上開始自我完善，然後變得越來越難以控制，對這一點您怎麼看？

YB：目前的人工智慧不是這樣構建的。機器學習是一個很艱難、也很漫長的過程，需要從數以百萬計的例子中獲取信息。

機器的確會自我完善，但非常非常緩慢，並且是以非常專業的方式實現的。我們使用的演算方法與自動編程的小病毒完全不一樣，那不是我們正在做的事情。

TR：人工智慧尚未解決的大問題有哪些？

YB：無監督學習真的、真的非常重要。

目前，我們讓機器變得智能的方法是，我們必須告訴計算機什麼是圖像，甚至是在像素層面上。

對於自動駕駛，人類則是標記大量的汽車圖像來顯示哪些部分是行人或道路。這與人類的學習方式大相徑庭，而且也不是動物的學習方式。

我們忽略了很重要的一點。這是我們在實驗室做的主要事情之一，但目前沒有短期的解決辦法——研發出的一件產品可能在明天就會變得毫無用處。

另一大挑戰是自然語言的理解。我們在過去幾年裡取得了相當快的進步，這非常鼓舞人心。但這還沒有達到我們所說的機器理解的水平。

機器理解應該是我們讀到一個段落，然後提問有關該段落的任何問題，機器能夠以合理的方式像人類一樣基本作答。

我們離這個目標還很遙遠。

TR：除了深度學習以外，還需要什麼方法才能創造出一個真正的機器智能呢？

YB：傳統的努力，包括推理和邏輯——我們需要把這些東西和深度學習結合起來，才能邁向人工智慧。

只有極少數人認為研究機器學習的人員，尤其是研究深度學習的，應該更加註重神經科學。

我就是這樣認為的。我們仍然不知道大腦為什麼有多種運作方式，而提高這方面的認識可能會極大地有利於人工智慧的研究。

如果神經科學的研究人員關注我們的研究，並嘗試將他們對大腦的觀察與我們在機器學習中研發出的各種概念聯繫起來，我認為他們也會受益匪淺。

TR：您有沒有想過向人們解釋，人工智慧不會掌管世界？那一定很奇怪。

YB：這無疑是一個新的擔憂。這麼多年來，人工智慧一直在令人失望。

作為研究人員，我們努力想讓機器變得稍微聰明一點，但他們還是很笨。我曾經想過這個領域不應該叫做人工智慧，而應該叫做人工愚蠢。

事實上，我們的機器是無知的，而我們只是在讓他們變得不那麼無知而已。

現在，由於人們從演示上看到了這些進步，我們就可以說「哦，天哪，它真的能夠說英語，它還能夠理解圖像的內容。」於是，我們將這些東西和我們看過的所有科幻小說聯繫起來，就變成了「哦，我害怕！」

TR：好吧，但毫無疑問，現在考慮人工智慧的最終結果很重要。

YB：沒錯，我們應該談論這些事。在可預見的未來，我更擔心的事情並不是計算機會掌管世界。我更擔心的是人工智慧的使用不當，比如，不好的軍事用途，通過真正的智能廣告來操控人類。

還有社會影響，比如許多人會失去工作。社會需要人們凝聚在一起，給出一個集體的回應，而不是讓它在叢林法則中自尋出路。

長按二維碼關注「麻省理工科技評論」

本文由機器之心經授權轉載。

------------------------------------------------

加入機器之心（全職記者/實習生）：hr@almosthuman.cn

投稿或尋求報道：editor@almosthuman.cn

廣告&商務合作：bd@almosthuman.cn

機器之心是Comet Labs旗下的前沿科技媒體。Comet Labs是由聯想之星發起、獨立運作的全球人工智慧和智能機器加速投資平台，攜手全球領先的產業公司和投資機構，幫助創業者解決產業對接、用戶拓展、全球市場、技術整合、資金等關鍵問題。旗下業務還包括：Comet舊金山加速器、Comet北京加速器、Comet垂直行業加速器。

↓↓↓點擊「閱讀原文」查看MIT TR原文。