5G時代的智能邊緣計算AI-EC平台

05-03

2017年9月初華為透露：首款搭載AI晶元的商務手機將於10月發布並提出：Mobile AI=On_Device AI + Cloud AI。無獨有偶，一周後蘋果公司也發布了搭載A11可以人臉識別的史上最貴手機。那麼On_Device AI將不可避免嗎？本文作者提出了另外一種選項供參考：Mobile AI=5G_Device + AI-EC。

所謂的智能邊緣計算（AI over Edge Computing, 以下簡稱AI-EC）是指在5G邊緣（可理解在基站端）提供各類AI推理模塊服務和相應的可編程AI推理基礎軟硬體設施的公共平台。利益如下：1.確保部分智能應用的時延要求 2.去掉終端的智能部件從而降低複雜度和成本 3.大幅度降低終端的研發門檻，從某個角度來講這種縱向產業分割也優化了AI產業的布局。說白了就是讓會做終端的專做終端，讓懂演算法的在AI-MC上專做演算法，而5G將成為各智能應用上下游的匯流排紐帶。

一. AI-EC的架構

二. AI-EC的功能

? 深度學習的推理服務。5G以後的人工智慧APP將訓練好的模型推送到AI-EC 平台，5G終端將需要推理的視頻，音頻，語言等上傳至AI-EC 平台，由相關推理模塊通過GPU/FPGA進行推理，然後將結果反饋給5G終端或繼續上傳至雲端（比如移動直播業務的鑒黃審核等）。其計算能力也可供離線學習或在線弱監督學習的訓練使用。

? 高性能計算池服務。很多對GPU依賴的應用可以不受時間空間移動速度的限制，比如現場指紋推理，哈希演算法(對加解密和區塊鏈挖礦的支撐)，快速傅立葉變換，蒙特卡羅等等。這對於經濟條件有限的普通用戶或個體科研工作者來說是有效的解決方案。

? 「串流」雲遊戲服務。5G時代的雲遊戲市場將會進一步增大，玩家不必擁有獨立顯卡，也可以通過「串流」黑科技來感受類似效果的雲遊戲。AI-EC的雲遊戲模塊可以根據玩家的操控將遊戲效果渲染成視頻流下推給玩家的5G終端，關鍵是玩家不受地點限制可以在高鐵地鐵上，甚至在商場等女友購物時。目前已有公司推出雲遊戲，其官方建議20Mbps則可實現720P畫質、60fps幀速；除此之外，網路時延需小於60ms。

? 視頻業務審核服務。目前的直播業務還主要在網路條件較好的固定地點，5G以後，手機戶外現場直播重大活動或事件將成為可能。而直播視頻中是否有不合法的內容，言論，比如暴力，色情，極端宗教等。是很難通過人來審核的，必須藉助計算機的力量。

? VR等實時渲染服務。隨著渲染需求的不斷加大以及VR/AR等應用的日益普及，坐在飛速行駛的高鐵上也可以感受VR，可以即時渲染出個性化產品設計效果，裝修設計效果等，影視短片的後期效果等。比如可以即時渲染出女士本人穿上網購服裝的效果。

三. AI-EC的特點

a. 應用時延優勢：邊緣位置優勢保證了時間敏感的實時類應用的AI推理時延要求。

b. 網路分布優勢：AI-EC讓廣泛分布的推理申請在末端就得到結果，既減少了網路流量，又降低了雲中心集中推理的計算壓力。比如上萬個監控視頻的推理需求，動態應急布設監控及無人機監控等。

c. 智能終端減負：智能穿戴等終端的體積，重量，功耗，成本以及價格都必將因此而降低。

d. 產業布局靈活：人工智慧的各種演算法發展日新月異，組合千變萬化，研發的人員及硬體成本越來越高，這些將由MC營運商解決。AI應用產業被縱向分解成AI演算法服務商和AI應用/終端供應商，加上AI-EC平台可能還有AI雲服務商。

e. 國家戰略優勢：AI-EC平台一般將由國有控股的電信運營商來承建，其公共屬性有利於將人工智慧服務作為像電力、天然氣和通訊網路一樣的市政設施供應給千家萬戶。同時也有利於政府、教育、醫療等公共機構對人工智慧的理解和使用。

當然AI-EC的發展也面臨很多挑戰，1.對5G網路高度依賴，一旦離開網路覆蓋，功能將嚴重受限甚至癱瘓。2. AI-EC上面所提供的AI推理演算法也須儘可能照顧其公共性和普適性 3.會面臨與AI雲服務商的激烈競爭。希望用戶在未來可以有多種選擇。

第四次(人工智慧)產業革命的春風已經撲面而來，它開始漸漸地衝擊著各個傳統行業甚至是人類文明。東西方的主要高科技巨頭都在AI計算平台建設和AI人才爭奪上在豪賭般地投入，無疑他們是有遠見的。作為經濟大國的中國在4G時代已通過網購，手機支付，共享單車等業務嶄露頭角，希望在5G時代AI-EC上遍地開花的各種人工智慧服務，能幫助中國成為AI科技強國！

2017年10月1日