通往未來人工智慧的三條途徑:量子計算、神經形態計算和超級計算

來源:人工智慧快報(AI_News)

美國「數據科學中心」(Data Science Central)網站的編輯總監William Vorhies撰文表示,量子計算、神經形態計算和超級計算可以帶來更快、更簡單、更廉價、更聰明的人工智慧。

人工智慧與深度學習存在一個問題—實際上是三個。

時間:訓練像卷積神經網路(CNN)或遞歸神經網路(RNN)這樣的深度網路可能需要幾周時間。這還不包括深度網路在達到所需的性能閾值之前定義問題以及深度網路編程過程中的不斷成功與失敗所耗費的數周甚至數月的時間。

成本:讓數百個圖形處理器(GPU)連續進行數周計算的成本很高。如果從亞馬遜的雲計算服務租用800個圖形處理器進行一個星期的計算就需要大約12萬美元。這還不包括人力成本。運行一個人工智慧項目可能意味著要聘請成本最高的人才數月甚至1年以上的時間。

數據:在許多情況下,項目的失敗僅僅是因為標籤數據的數量不足。有很多好的想法因為顯然無法以可承受的價格獲得訓練數據而無法實現。

因此,我們取得了不錯進步的商業領域主要是圖像處理或文字與語音識別,而這些初創公司通常都沒有利用谷歌、IBM、微軟和其他公司通過應用程序介面(API)所提供的許多優秀的圖像和語音模型。

1通往未來人工智慧的三條途徑

如果你關注人工智慧領域,就會看到我們已經利用卷積神經網路和遞歸神經網路取得了很多進展,但這些應用程序之上的進步才剛剛出現。下一輪進步將出自於生成式對抗網路(Generative Adversarial Net,GAN)和增強學習(Reinforcement Learning),並得到IBM超級計算機沃森(Watson)等問答機器(Question Answering Machine,QAM)的幫助。

關於我們如何推進人工智慧的發展,最常見的描述版本是:利用我們已知的方法,即越來越複雜的深度神經網路,架構與目前常見的卷積神經網路和循環神經網路不同。只要讓它們運行得更快。

其實,未來可能會完全不一樣。我們可能看到構建人工智慧未來的是三條途徑,基於完全不同技術:

高性能計算(High Performance Computing,HPC)

神經形態計算(Neuromorphic Computing,NC)

量子計算(Quantum Computing,QC)

其中,高性能計算是我們目前關注的主要焦點。為打造加速深度學習的晶元,晶元製造商之間出現了一場激烈的競爭,競爭者甚至還包括一些非硬體製造商,如谷歌。另外兩種計算:神經形態計算(又稱為脈衝神經網路(spiking NN))和量子計算,似乎還需要幾年時間才能實現。然而事實上,目前已經有商用的神經形態晶元,量子計算機也應用到機器學習中了。

我們可以將其比喻為冰山一角,或是管中窺豹。不管這兩種新技術如何,神經形態計算和量子計算都會讓人工智慧的發展變得撲朔迷離,但這種不確定性是有益的。

2高性能計算(HPC)

高性能計算最受關注。堅持我們已掌握的深度神經網路架構,只是使其更快、訪問更容易。

這基本上意味著兩件事:更好的通用環境,如谷歌的開源深度學習框架TensorFlow,以及在越來越大的數據中心對圖形處理器和現場可編程門陣列(Field-Programmable Gate Array,FPGA)進行更好的利用。也許在不遠的將來就會出現更加專業化的晶元。

人工智慧的新商業模式是「開源」。2016年上半年,即距現在僅僅12個月之前,幾乎每個人工智慧巨頭都開源了它的人工智慧平台。它們都是競爭對手,在數據中心、雲服務和人工智慧知識產權領域投入了巨資。開源的策略很簡單,用戶(平台使用者)最多者將獲得勝利。

英特爾、英偉達(Nvidia)等傳統晶元製造商正在積極滿足對圖形處理器的新需求,而谷歌和微軟等公司則在開拓全新的領域,通過開發專有晶元,提升自己的深度學習平台速度,增加吸引力。

藉助於TensorFlow這個強大的通用解決方案和最新推出的專有晶元張量處理單元(TPU),谷歌給出了有力的一擊。

微軟一直在推廣非專有的現場可編程門陣列,並剛剛發布了它的認知工具包(Cognitive Toolkit,CNTK)2.0升級版。它提供了一個Java應用程序介面,直接集成開源集群計算系統Spark。該認知工具包支持用Keras編寫代碼,本質上是TensorFlow的一個前端應用,能夠幫助用戶輕鬆完成從谷歌平台的遷出工作。據報道,認知工具包比TensorFlow更快、更準確,也提供了Python應用程序介面。

整合Spark仍是重要的驅動因素。雅虎已經將TensorFlow引入了Spark。Spark的主要商業供應商Databricks現在擁有自己的開源軟體包來整合深度學習和Spark。

這裡的關鍵驅動因素至少解決了三個發展障礙中的兩個。這些進展將使編程變得更快、更簡單,實現更可靠的良好結果,尤其是更快的晶元能縮短機器計算的原始時間。

與摩爾定律(Moore』s Law)的局限非常相似,問題在於這些進展能讓我們走多遠。它們在當前是可用的,也將繼續向前發展。但它們是否足以讓我們突破到生成式對抗網和增強學習?這種可能性是存在的,至少現在我們知道了如何使用這些深度學習架構。

3神經形態計算(NC)

神經形態計算或脈衝神經網路正在成為構建強大人工智慧的工具,它們的構造方式是基於對大腦實際工作方式的一些觀察,這與我們迄今為止設計深度神經網路的方式截然不同。

首先,研究人員觀察到,大腦中並非所有神經元每次都會被激活。神經元在鏈路上發出選擇性信號,而數據似乎是以信號中的潛在脈衝方式進行編碼。實際上,這些信號由一串脈衝組成,因此研究集中於信息是否是以一系列脈衝之間的振幅、頻率、或延遲進行編碼,或是三種方式都涉及。

在我們現有的深度神經網路中,每次所有神經元的激活方式都是根據相對簡單的激活函數sigmoid或是應用得越來越多的ReLU。

在目前的深度學習神經網路中,神經形態計算已經表現出了一些顯著的提升。由於並非所有的「神經元」每次都會被激活,脈衝神經網路的單個神經元可以取代傳統深度神經網路中的數百個神經元,在功率和晶元尺寸方面獲得更好的表現。早期的例子表明,它們只能使用無監督技術(未標記樣本)從其所處的環境學習,很少有樣本能夠讓它們快速學習。

神經形態計算可以從一種環境學習,然後將結論應用於另一個環境,通過這種方式來歸納它的環境。它可以記憶並進行歸納,這是一種真正具有突破性的能力。它的能源效率更高,為設備的小型化奠定了基礎。因此,改變這個基礎架構可以解決當前深度學習面臨的三個根本問題。最重要的是,我們現在就可以購買和使用神經形態脈衝神經網路系統。這不是在遙遠的未來才會出現的技術。

位於美國加利福尼亞州的人工智慧高科技公司BrainChip控股已經在拉斯維加斯最大的一家賭場推出了商業安防監控系統,並宣布即將交付其它應用程序。在拉斯維加斯,該系統的功能是通過監控來自標準監控攝像頭的視頻流,自動可視化地檢測發牌員的錯誤。它能夠通過觀察完全掌握遊戲規則。

BrainChip是在澳大利亞證券交易所(ASX:BRN)公開上市的公司,為其脈衝神經網路技術申請了重大知識產權專利保護。它推出了一系列博彩業監控產品,正在為其知識產權尋求許可協議。當然,還有很多改進的空間,但脈衝神經網路是當前開發人工智慧可選擇的商業工具。

4量子計算

關於量子計算,可能我們還沒有認識到:

量子計算現在就是可用的,而且美國航空航天製造商洛克希德·馬丁公司(Rockheed Martin)自2010年以來一直將其用於商業運營。其他幾家公司也正在推出基於首次進入商業市場的D-Wave量子計算機的商業應用。近年來,D-Wave量子計算機的大小每年都會翻倍,並將保持這種增長勢頭。

2017年5月,IBM宣布推出商業量子計算機IBM Q。這是一種基於雲端的訂閱服務,毫無疑問,它將大大簡化對這些昂貴又複雜的機器的訪問。IBM表示,到目前為止,用戶已經在IBM Q機器上進行了30萬次實驗。

作為擁有獨立研究實體和學術機構的公司,谷歌和微軟將在未來的兩三年內發布自己的商用量子計算機。

D-Wave公司和一些獨立研究人員已經引入了一些開源編程語言,以使得對這些設備的編程更加簡單。

量子計算機極其擅長處理所有類型的優化問題,包括基於隨機梯度下降解決方案的所有演算法。它們容易模仿受限玻爾茲曼機(Restricted Boltzmann Machine)這種深度神經網路架構,如今正用於深度學習配置中像卷積神經網路那樣進行圖像分類工作。為區別存在於架構上的一些差異,我們將其命名為量子神經網路(QNN)。

根據谷歌的一份2015年研究報告,在D-Wave量子計算機與傳統計算機的性能對比中,量子計算機的性能比傳統台式電腦強108倍——使其速度提升了1億倍。谷歌工程總監在公布這些結果的新聞發布會上表示:「D-Wave計算機在1秒鐘內完成的工作需要傳統計算機花費1萬年時間才能完成。」

因此,量子代表了通向強大人工智慧的第三條道路,它能夠克服速度和成本的問題。

5如何才能實現這一切?

事實上,神經形態計算和量子計算都在為深度學習和更先進的人工智慧制定具有競爭力的路線圖,使其變得更快、更簡單。

時間線是首要因素。高性能計算如今已經成為現實,而且在剛剛推出的新型晶元的幫助下,其性能可能會在未來幾年內持續提升。然而,隨著量子計算和神經形態計算的進步,對新工廠和數據中心的巨額投資有可能中斷。

目前已經出現了以谷歌TensorFlow和微軟認知工具包CNTK為代表的深度學習平台,其他競爭對手無疑也將加入競爭,贏得最多的用戶。隨著量子計算和神經形態計算能力的得到推廣,這些平台將進行調整,納入這兩種技術。

神經形態脈衝神經網路和量子計算現在都還只是出現在商業應用中。這兩種計算都將為人工智慧帶來非凡的新能力。

脈衝神經網路有可能獲得強大的自我學習能力,憑藉較小的非標記訓練數據集以及將知識從一個領域轉移到另一個領域的能力,它將提高效率。

量子計算機將完全消除時間障礙,最終降低成本障礙,將解決所需時間從幾個月降低到幾分鐘。重要的是,目前正在使用的學習類型被稱為增強量子計算(Enhanced Quantum Computing),因為它以我們當前的深度學習演算法為基礎,提高了這些演算法的性能。未來將出現全新的機器學習類型,以這些機器獨有的不同功能為基礎。


推薦閱讀:

易經的智慧講座 下
智慧歷史:天安門前的畫像除了有毛主席還有誰?
智慧九課
第三章:慈悲與智慧
馬星:人生成功的密碼

TAG:人工智慧 | 未來 | 智慧 | 量子 | 神經 | 計算 | 量子計算 | 人工 |