如何評價人工智慧公司GTI的AI晶元「光矛」？比寒武紀如何？

01-30

作者劉傑博士：
GTI新一代人工智慧晶元,欲比肩NVidia和寒武紀
　　在人工智慧晶元領域，NVidia和寒武紀是目前技術比較雄厚的兩家公司。GTI的突然殺出吸引了業界人士的關注，GTI帶來人工智慧晶元將會掀起產業革命。有人將它與NVidia和寒武紀相比，他們的區別在哪裡。
　　最近看到這樣一顆AI晶元，在一個簡單的開發板上，沒有外置的存儲器，通過訓練每秒能識別150張圖標。該晶元的聯合創始人董琪先生說，這顆AI晶元的一個功能，可以把手機變成尋寶器，鑒別奇珍異寶。比如說，你把冬蟲夏草的特徵數據存儲在手機中，到西部地區有人給你兜售冬蟲夏草，那裡是沒有網路信號的偏遠地區，你對著產品拍照，手機馬上就會告訴你冬蟲夏草的真偽和品質等級，即時處理，非常快。
　　聯想到現在公安部門追捕罪犯時運用的人臉識別，需要後台計算識別，結果延時造成嫌疑人已經離開攝像機覆蓋區域。未來通過這款晶元強大的聲音和圖像處理能力，無需再把圖片傳送到後台，即時識別，犯人再也無處可逃。

GTI帶來人工智慧晶元的革命
　　這款晶元由GTI 出品！GTI，全稱是Gyrfalcon Technology Inc．，由一批有創新情懷的矽谷華人人工智慧科學家和半導體晶元行業的資深工程專家及企業家組成的團隊， Gyrfalcon（海東青）是一種以飛行速度迅疾著稱的鳥。公司的使命是將「雲＋人工智慧」的力量延展到本地設備上並使其獲得更大的性能和效率，專註開發低功耗、高性能人工智慧處理器的晶元。
?
　　我過去曾擔任EETImes總編12年，造訪無數矽谷領先的半導體公司，GTI的團隊依然讓我驚艷。這是一群矽片上的衝浪高手組合，他們精通晶元工藝和演算法，整合全球領先的技術，像工匠一樣精心雕琢出產品。「我們希望用高性能和低功耗的產品服務中國智造和創新，加速中國人工智慧的產業化進程。」董先生告訴我，「我們未來將為中國的工程師和開發者提供技術支持，讓中國的開發者用我們的晶元開發出更酷的創新產品。「
　　GTI與NVidia和寒武紀的區別
　　現在活躍在AI晶元領域的，形成影響力的有Nvidia和華為麒麟970 帶紅的寒武紀等中國新星，他們也有不少創新。但是大部分品牌能做到在終端產品內大容量本地計算，不用後台計算機支撐嗎？功耗方面，他們和GTI同級別的產品顯然有很大的差距。
　　GTI的晶元能真正實現圖片，視頻和語音在手持設備的本地學習和識別！
　　我看到了真實的開發板演示，才敢相信這是真實存在的。
　　人工智慧是對人類能力的增強！董先生的想法是讓GTI的晶元給更多有才華的工程師和開發者帶來新的創新空間。低功耗和高性能同時具備是GTI的核心競爭力。據董先生介紹，未來GTI的第二代晶元產品的功耗將做到更低，明年上半年將會出品。我認為這樣的超低功耗配合GTI強大的聲音和圖像處理能力這些將為智能終端領域帶來顛覆性的改變！更多個性化的產品，更多基於SDK的二次開發，不僅僅是產品的改變，新的商業模式也會出現，值得大家共同期待！

　　我認為，中國要搶佔人工智慧的至高點，走產業化的道路，要解決的關鍵問題就是晶元的低功耗和高性能的平衡！
　　那麼，有沒有一種不用存儲圖片，佔有幾百K－幾兆位元組存儲空間，而僅存儲圖片特徵值，從而減少存儲，減少計算量，完全本機實現學習和決策的晶元途徑？
　　人工智慧領域的競爭就是一場晶元革命！我看到董先生沿著卷積神經網路的路線，實現深度學習的AI處理器。他的團隊由一批有情懷的矽片人組成，真正做到低功耗、計算快和無需晶元外數據交換的終端應用，這顆晶元實現了革命性的創新！
　　GTI的晶元性能
　　GTI的AI處理器晶元－「光矛」Lightspeeur 2801S 已於2017年9月成功流片，該晶元擁有高達9．3 TOPS／Watt 的卓越效率能耗比表現，在人工智慧邊緣計算與數據中心機器學習領域相比目前市場上的其他方案高出幾個數量級。它有二低二高特點，低功耗低存儲，高並行和原位計算，能有效推動各種人工智慧應用在終端側及雲端的產業化落地。
　　光矛基於APiM架構，該架構使用內存作為人工智慧處理單元，能夠消除在其他架構中的大量數據移動，極大降低功耗。這一架構支持真正的片上並行和原位計算，成功克服了由存儲器帶寬而導致的性能瓶頸。它有28000個並行計算核，不需要使用外部存儲單元用於人工智慧推斷。
　　光矛支持卷積神經網路，其分散式內存塊結構對CNN計算相當友好並且支持多層結構，每層的尺寸可以不同，內置模型壓縮演算法能夠實現快速且低功耗的CNN計算。此外，Lightspeeur 還同時支持Caffe、TensorFlow等主流開源深度學習系統。
　　光矛 2801S採用28nm工藝，並已進入量產階段，實測功能如下：
　　1，效率能耗比為9．3Tops／W
　　2，單晶元峰值運算能力5．6Tops，運行VGG網路可到130FPS

　　3，在功耗180毫瓦下，運行VGG網路可達30FPS；運行AlexNet網路可達48FPS．
　　4， ImageNet 圖像分類運行網路精度：VGG為66％，Alexnet為58％，
　　該晶元無需外掛DDR，多晶元可無縫連接，支持更強大計算要求的AI應用如AI伺服器、自動駕駛、智慧安防和複雜條件下工業應用等不同場景。
　　GTI晶元的產業化進程
　　GTI在美國已經與著名的自動駕駛公司啟動無人駕駛深度學習的產品合作，與韓國手機品牌開始AI手機方案合作、與日本知名企業合作專用AI伺服器、與中國製造業領軍企業聯合啟動AI產品表面檢測、以及與國內安防企業籌劃真正具備本地AI識別能力的攝像頭等等。
　　在雲計算中，光矛可用於人工智慧推理伺服器；在邊緣計算中，該設備則可以支持人工智慧監控／視頻攝像頭、智能玩具／機器人、智能家居設備、AR／VR產品、語言／語音識別、自然語言處理等多個應用領域。據悉，目前已有多家國內和國際一線工業和科技巨頭計劃將Lightspeeur 用於其包括伺服器、手機、家用IoT、工業智能製造、智慧城市產品和監控攝像頭等在內的不同應用中。
　　在落實幾個典型行業應用案例後，GTI未來將在我愛方案網－快包上啟動AI處理器應用方案開發中心。這個中心採用互聯網眾包模式發展AI應用方案，為各行業IOT服務。快包是AI和物聯網的開發眾包平台，匯聚數千個AI和物聯網應用方案，數百萬的工程師和開發者團隊，能有效促進物聯網領域人工智慧發展。

瀉藥。被數據嚇的都不會敲字了。

用顫抖的手指在bing（科學上網不能，哭）上搜了搜，看看官方主頁，找找相關報道。發現，還是在中國發的這篇內容最豐富，不但有具體的數據指標，還有co founder的名字。

看到關鍵字"APiM"，小編太不負責了，連個全稱原文都不標識一下，學渣看不懂啊。我只隱約知道全大寫的「APIM」Approximate Processing In Memory。

如果只PIM的話，這個數據還是有可能的。做PIM的公司和研究院所現在也不少，就是都不太了解，需要再學習了。

趕緊厚著臉皮冒昧請教一下UCSB的正在做PIM研究的教授。結果，同樣是對GTI、lightspeeur以及董先生一無所知。現在，只能期待強大的人肉搜索引擎了。

估計，這是為了在國內融資打call。

需要投資機構注意的是，PIM的數據雖然好看，但是如何將現在的各種演算法映射到PIM架構上，尤其是，有效率地映射到PIM架構上，還是個難題。並且，現在的NN演算法本身就在日新月異的變化。

感覺小編各種基本概念很混亂啊。

「GTI的晶元能真正實現圖片，視頻和語音在手持設備的本地學習和識別！」「在雲計算中，光矛可用於人工智慧推理伺服器；」都牛逼到能識別和學習了為啥只用在推理伺服器？感覺小編沒懂啥叫「推理inference」啊。

「那麼，有沒有一種不用存儲圖片，佔有幾百K－幾兆位元組存儲空間，而僅存儲圖片特徵值，從而減少存儲，減少計算量，完全本機實現學習和決策的晶元途徑？」

沒有這種演算法哪來這種晶元？都已經得到圖片的特徵了還學習個毛啊，深度學習，深度指的就是要得到多個層次的圖片特徵啊。

這到底是人還是AI寫的文章啊？這要是人寫的，還是回爐學習一下基本概念吧。感覺這像是學習了一堆報道人工智慧晶元文章的AI鼓搗出的東西。

補充資料，從GTI官網下載的：

Lightspeeur? is the first Neural Processor over the world to run speech, Natural Language Processing (NLP), image and video processing with Convolutional Neural Networks (CNN).

With superior Energy Efficiency (TOPS/w) level, we have accelerated AI Edge Computing and Datacenter Machine Learning up to several orders of magnitude faster than the competition. Regardless of whether the implementation is in training or inference mode, our unique, proprietary architecture provides massive high-density processing power. Our design supports true, on-chip parallelism, in situ computing, and eliminates memory bottlenecks.

The Lightspeeur? Neural Processor supports neural networks like CNN, RNN and LSTM. It also supports standard, open frameworks such as Caffe, TensorFlow, and MXNet. Software Development Kits include turn-key designs, system verification hardware, software and tools.

Lightspeeur?晶元以其卓越的能耗效率比表現，在人工智慧邊緣計算與數據中心機器學習領域相比市場上其他方案高出幾個數量級（注意）。無論是在訓練模式或是推理模式下，Lightspeeur?晶元均可提供超高密度計算性能，成功克服了由存儲器帶寬而導致的性能瓶頸，支持真正的片上並行與原位計算。

看圖，在同頻下或同功耗下的性能要把市場主流方案（哪家？）、DSP方案和GPU方案（nVidia?）都直接秒成渣渣？還有這麼nb的存在？！！

@迪迦奧特曼 @王興 @鴻鶴 @孫方超 @唐杉 @張競揚摩爾精英 @若木 @楊軍

指標確實是挺不錯的，那麼去哪裡申請測試板呢？