端測AI成趨勢,華為HiKey970正當時,打造想像力無限的AI應用
(集微網 文/鄧文標)自去年華為發布麒麟970集成NPU、蘋果發布A11 Bionic神經引擎後,終端AI化逐漸成為行業發展的潮流。而不同於蘋果推出封閉的AI機器學習框架Core ML,華為將AI應用開發的能力開放給了眾多開發者,以便開發者能實現更多的AI終端應用場景。這對促進AI應用的儘快落地至關重要。
日前,在香港Linaro開發者大會上,華為正式發布開源的人工智慧開發平台HiKey 970,向廣大開發者提供AI應用開發的硬體支持。據悉,HiKey 970不只是開源硬體中的性能強者,還得到華為HiAI平台的支持,可用於深度學習演算法、智能機器人、無人駕駛和智慧城市等多個領域,有望帶動端側人工智慧迎來全新的發展局面。此外,HiKey 970開發板將於4月中旬面向開發者公開發售。
獨立NPU的強大運算能力,讓HiKey 970實現高速計算
AI晶元的應用方案主要分為雲側和端側兩類,相比雲側,端側在隱私保護、通信帶寬需求、實時性/低延時、功耗以及體驗等眾多方面部署人工智慧更有優勢,因而端側人工智慧已經成為AI產業應用的大趨勢。
而端側的AI應用,需要晶元在計算技術以及算力上實現突破,作為業界首顆集成NPU的麒麟970正具備這樣的條件。麒麟970通過加入一個獨立的NPU來處理AI運算,同時支持基於NPU的神經網路計算硬體加速,為開發者們提供了強大的AI算力,其運算效率遠遠超過CPU和GPU。
資料顯示,在處理相同的AI運算時,NPU的性能是 CPU 的 25 倍,GPU 的 6.25 倍(25/4),能效比上,NPU 更是達到了 CPU 的 50 倍,GPU 的 6.25 倍(50/8)。另外,在測試中發現,麒麟 970 的 NPU 每分鐘可以識別出 2005 張照片,而不使用 NPU 的話則每分鐘只能識別 97 張,明顯看出獨立NPU的算力優勢巨大。
"正是基於NPU的強大運算能力,HiKey 970開發板的高效運算集中在NPU中。"華為無線終端晶元產品市場總監周晨表示,"當我們把晶元算力做到位之後,需要有開發者在平台上把AI能力變成用戶體驗,所以開發者對我們來說格外重要。同時這也是開發者基於麒麟 970在華為旗艦手機之外的創新嘗試。"
除了獨立的NPU處理單元帶來強大的AI運算力之外,HiKey 970開發板在API和系統的集成上也更全面。據了解,HiKey 970開發板外圍部分擁有支持4K高清的HDMI 2.0a介面,2個USB3.0介面,2個USB Type-C介面,1個千兆網口,支持CAN V2.0B協議,可以運行AOSP、Ubuntu、Debian等系統;同時還兼容於96Boards CE的標準,在計算機視覺、高性能計算開發、Android標準化程序開發測試等領域可以帶來廣泛的應用。
HiAI加持,離線模式運算亦高效
作為業界首款開源的人工智慧開發板--HiKey 970在強勁性能基礎上,還有一大殺手鐧,就是華為HiAI平台的加持。
HiAI移動計算平台有五大優勢:
1. 多核異構架構,最大化發揮CPU/GPU/ISP/DSP/NPU的功能;
2. 支持離線模式,更適合端側AI性能的發揮;
3. 支持更豐富運算元和快速迭代,將在後續版本中支持運算元定製;
4. 支持豐富的前端主流Framework以及上層功能業務API;
5. 支持HiKey 970開發板,降低開發成本。
對AI應用的開發者來說,最為重要的不外乎開發成本、受益和IP保護。為此,華為推出了HiAI移動計算平台並面向開發者進行開放,讓第三方應用開發者能夠基於HiAI移動計算架構進行APP開發,降低開發成本。同時,華為在IP保護以及加密演算法上可以確保對開發模型進行加密保護。
此外,HiAI平台採用多核異構的架構計算可最大化發揮CPU/GPU/ISP/DSP/NPU的功能,其減速功能和能效比大幅優於CPU和GPU,且支持豐富的前端主流Framework、提供豐富的上層功能業務API,通過異構資源靈活調度,來滿足開發者加速神經網路模型計算和運算元計算。
更重要的是,HiAI離線模式能夠有效提高計算效率,同時也更適合HiKey 970端側AI性能的發揮。離線模型計算時會從文件中載入離線模型,計算時每一次推理只需要把用戶數據從DDR到NPU導入導出一次就可以運行,這是一種非常高效的模式。
高校合作已啟動,一波AI應用正在路上
在傳統手機晶元上,麒麟970創新採用獨立的NPU處理單元,讓手機的AI性能更強大;如今,華為率先發布首款人工智慧開發板--HiKey 970,並在HiAI、SDK等加持下,將人工智慧的開發應用瞄向更廣的範疇。可以預見,未來將會有更多AI端側的應用出現,AI時代也隨之到來。
談及HiKey 970的具體規劃,周晨透露,HiKey 970是華為發布的第三代開源開發板,目前已經和不少高等院校展開合作,進行更深層的AI應用研發。接下來,通過提供HiKey 970開發板的方式,一方面可以讓開發者能夠感受到麒麟970的人工智慧實力,為華為和相關的開發者提供更多的應用方向;另一方面,藉助更多開發者的投入開發,也為晶元升級提供了更多思路和指引方向,從而為更好地滿足開發者的需求,為消費者帶來更好的體驗。
同時,華為也計劃推出耀星計劃,通過人才培養支持開發創新,加速AI應用的開發人才招募,為AI項目的落地以及推廣覆蓋做更多準備。
周晨表示,雖然現在的AI應用還沒有大範圍普及在終端上,但實際上已經有很多合作夥伴在共同努力,很快就會有一大波基於AI的應用和體驗出現在手機上,讓大家感受到AI應用不僅限於原有領域,還可以覆蓋更多領域並帶來更多新的體驗和能力的提升。相信不久之後會有一波波AI創新和端側應用的開發湧現,大家不妨拭目以待。 (校對/小秋)
推薦閱讀:
※如何看待華為麒麟970官宣資料里隻字不提NPU是寒武紀1A的事情?
※華為麒麟970或支持1Gbps,為5G做準備
※一段被掩飾拋棄的歷史《泰景亨策》89
※麒麟——懸疑兩千年的北方「神鹿」(1)- 從馴鹿眼睛的特異功能說起
TAG:麒麟 |