華為雲發布GPU共享型AI容器及Istio服務網格

4 人贊了文章

8月28日，「AI上有信仰的雲——華為雲中國行2018」成都站如期舉行。華為EBG中國區行業雲拓展部部長鬍維琦在主題演講《做有信仰的雲，在創新的路上加速奔跑》中發布了華為雲兩款全新產品——GPU共享型AI容器和Istio服務網格。這是繼裸金屬容器、Windows容器等重大特性之後，華為雲在容器領域的又一次技術突破，將極大地推動AI技術的普及，助力「普惠AI」策略加速落地，為廣大用戶提供「用得起、用得好、用得放心」的AI雲平台。

全球首發GPU共享型高性能AI容器，讓人工智慧觸手可及

當下，人工智慧已成為各行各業的熱點和趨勢，在實際應用中，企業在不斷追求各類AI計算場景下性能和成本的極致體驗。容器以其獨特的技術優勢，已經成為業界主流AI計算框架（如Tensorflow、Caffe）的核心引擎。華為云為了進一步解決企業在AI計算性能與成本上面臨的問題，為企業量身打造了AI容器產品。

華為雲AI容器是全球首款支持共享GPU的高性能容器產品，在業界首家實現了多容器共享GPU資源，大幅降低了AI計算的成本，並在AI計算性能上比通用方案提升了3-5倍以上。

極致性能

裸金屬NUMA架構與高速IB網卡，性能提升3-5倍

在典型的深度學習模型訓練場景下，需要傳輸和處理海量的數據。

華為雲AI容器運行在高性能的裸金屬伺服器上，並通過NUMA架構和100G IB網卡實現高速、低延遲的大數據量傳輸，讓GPU充分發揮大規模並行計算的優勢，從而大幅縮短訓練的時間。經實踐驗證，深度學習訓練對比傳統GPU加速方式能夠進一步提升3-5倍。

高效計算

GPU資源多容器共享調度，計算成本大幅降低

華為雲通過優化K8S容器調度引擎，能夠為容器中的AI計算任務分配更細粒度的GPU資源，實現多個AI計算任務共享GPU，在部分AI計算如推理類場景中能夠實現更高的資源利用率，從而大幅降低AI計算成本。

成熟應用

主流GPU型號全適配，並在華為雲EI產品大規模使用

華為雲AI容器已完成多款主流GPU的適配，包括 Nvidia Tesla P4/P100/V100等產品系列，客戶可根據不同應用場景靈活選取，以達到最高的性價比。

華為雲AI容器支持Tensorflow、Caffe等主流深度學習框架，並在華為雲EI的深度學習、推理平台、人臉/圖像/文字識別等多個服務得到廣泛應用與驗證。

國內首發公有雲Istio服務網格，讓雲原生應用治理更簡單

華為EBG中國區行業雲拓展部部長鬍維琦現場分享到：「在Cloud 2.0時代，容器技術解決了應用快速部署、上線、升級與彈性伸縮等運維效率問題，但應用運行時的灰度發布、流量治理與健康管理等方面仍存在諸多難點。Istio是雲原生Cloud Native生態的重要一環，通過提供完整的非侵入式的微服務治理解決方案，能夠很好地解決雲原生應用的管理、網路連接以及安全管理等應用網路治理問題。」

華為雲在雲容器引擎CCE中深度集成了Istio最新版本，並在易用性、可靠性、可視化等方面進行了一系列增強。

一鍵啟動，與容器引擎無縫整合

無需用戶自行安裝，華為雲容器引擎CCE已實現Istio的深度集成，只需在創建集群時做一次簡單勾選，即可在集群和應用中啟用完整的Istio服務網格，實現了開箱即用。

內置多種灰度發布流程，確保應用平滑升級

應用上線後，運維面臨的一大挑戰是如何不中斷業務升級，華為雲Istio服務網格內置了金絲雀、A/B Testing等多種灰度發布策略，完美地解決了這一難題。用戶還可自定義配置，實現更多複雜流量策略。

圖形化應用拓撲，讓流量治理可視化

華為雲Istio服務網格提供了可視化的流量監控，異常響應、超長響應時延、流量狀態信息拓撲等一目了然；同時，結合華為雲AOM/APM服務，提供了詳細的微服務級流量監控、異常響應流量報告以及調用鏈信息，實現更快速、更精準的問題定位。

智能路由與彈性流量管理，讓流量治理更輕鬆

華為雲Istio服務網格支持根據微服務的流量協議，提供策略化、場景化的網路連接、安全策略管理能力。支持基於應用拓撲對服務配置負載均衡、熔斷容錯等治理規則，並提供實時的、可視化的微服務流量管理。應用無需任何改造，即可進行動態的智能路由和彈性流量管理。

雲容器引擎CCE（Cloud Container Engine）是華為雲提供的企業級容器應用管理服務，致力於為客戶提供高安全、高可靠、端到端的容器全棧解決方案，完全兼容Kubernetes社區原生應用和工具，大幅簡化了雲上自動化容器運行環境搭建。

更多精彩內容，盡在「華為雲」公眾號~