在這個巨大市場潛力的推動下，IP廠商、工具廠商、芯片廠商和系統廠商都爭先恐後地湧入這個賽道，其中不乏壹些擁有深厚行業積累的廠商。如以ASIC芯片起家的嘉楠 科技 （以下簡稱“嘉楠”），就是當中壹個重要的低調參與者。
從ASIC到RISC-V
眾所周知，納斯達克上市的嘉楠 科技 在ASIC芯片設計方面有深厚的積累，公司在芯片的前後端設計以及流片方面也有豐富的量產經驗。早在2016年，嘉楠就成為了國內前十實現10nm芯片量產的公司。也就是從這壹年開始，嘉楠開始了在邊緣端AI芯片的 探索 。
據嘉楠 科技 董事長兼CEO張楠賡先生介紹，因為ASIC芯片對於計算效率的要求趨近極致，這就需要嘉楠壹直在ASIC芯片設計中尋求算力與功耗之間的最佳平衡。因為這個研發過程對技術要求比較高，這無疑間就磨煉了公司的研發團隊。與此同時，公司還發現，ASIC在計算效率上相比傳統架構有了數量級的提升，這就為嘉楠後續進軍RISC-V市場埋下了伏筆。同屬計算密集型應用場景的邊緣AI芯片就成為了嘉楠的目標。
經歷了壹番綜合考量，嘉楠把目光投向了基於RISC-V的邊緣端AI芯片。
嘉楠 科技 董事長兼CEO張楠賡先生
首先，從成本角度看，RISC-V開源免費的特性對於芯片創業公司而言非常友好。選擇這壹架構，意味著嘉楠可以在AI芯片研發過程中節省大量的IP授權成本，將資源投入到最核心的技術研發，幫助公司加快芯片的叠代速度，靈活應對市場環境的變化。
其次，從技術趨勢角度看，RISC-V架構開源、精簡和模塊化的理念符合未來的技術發展趨勢。計算體系結構宗師David Patterson（RISC-V的創始人之壹）在ACM通訊上發表的論文中就指出了計算機體系結構的兩個機遇，其中壹個就是開源的指令集ISA，創建壹個“面向處理器的Linux”。從目前來看，RISC-V無疑是開源指令集架構中最成功的壹個。
第三，從開發角度看，RISC-V不需要像ARM壹樣考慮向後兼容，沒有 歷史 包袱，基礎指令只有幾十條，學習門檻相對較低；另壹方面，RISC-V支持開發者按需拓展指令，這為芯片研發提供了更高的自由度。
第四，從性能角度看，RISC-V架構內核的性能可與ARM內核性能抗衡。
第五，從IP開發角度看，嘉楠從壹開始就堅持IP核心自主研發的技術路線，RISC-V架構則提供了這壹可能。嘉楠還能以SoC的形式將RISC-V CPU與自主研發的加速器組合在壹起，為客戶提供邊緣側的芯片解決方案。在這壹過程中，公司可以把更多精力放在IP核的叠代，而不用考慮可能面臨的授權風險。
從市場發展現狀看來，嘉楠打造端側RISC-V AI芯片的做法也是壹個明智的決定。
熟悉行業的讀者應該知道，根據應用場景的不同，AI芯片的可以粗略劃分為模型訓練和推理計算。其中模型訓練市場已出現巨頭壟斷的態勢，GPU巨頭英偉達不僅在硬件方面建立起技術領先優勢，而且結合圖形計算平臺構建了強大的軟件生態壁壘，那就意味著這個市場給新晉者的機會並不多。反觀推理芯片組市場，則還處於發展早期，特別是邊緣側市場，不同場景對芯片的要求存在差異化，給AI芯片公司留下了更多空間，因此嘉楠壹開始就專註於邊緣推理芯片的研發。
同時，在邊緣側市場，可穿戴設備、攝像頭和傳感器等聯網設備越來越多。不同物聯設備對功耗和算力的要求不同，這就決定很難用單壹架構適配所有場景。架構的競爭歸根結底是生態之間的競爭。雖然ARM仍然是移動端市場的主流，但RISC-V開源和模塊化的特點允許像嘉楠這樣的芯片公司基於RISC-V進行定制化的設計，擁有更大的自由度。
此外，從目前的市場環境看，Arm正成為巨頭公司爭相收購的目標，這對於IP授權的獨立性造成了很大威脅。而如果很多組織使用RISC-V設計處理器，就可以在更大層面上推動芯片的創新。所以長期來看，RISC-V的價值在未來會更加凸顯，從而為嘉楠帶來更多的市場機遇。
奔跑在這條全新的賽道上，自主研發的IP成為了嘉楠最重要的底氣之壹。
從K210到K510
在拍板進軍RISC-V之後，嘉楠就壹直堅持依托RISC-V架構，自主研發IP核心的技術路線。
張楠賡表示，公司這樣做有三方面板的優勢：壹方面是為了把核心技術握在自己手裏，避免可能面臨的授權風險；另壹方面，自主開發核心從長期來看可以降低研發成本，並加快芯片的叠代速度；第三，自研可以形成嘉楠自身的芯片設計方法體系，確保核心技術和研發理念的傳承。
本著這樣的研發思路，嘉楠迄今已經推出了兩代自主研發的IP核心，分別為KPU（Knowledge Process Unit）和KPU2.0。這是專門為機器視覺任務設計的神經網絡加速器。因為異構計算是目前針對深度學習的主流硬件方案，為此在結合CPU與KPU加速器後，嘉楠能更好地提升芯片在視覺算法模型上的性能表現。
落實到芯片方面，嘉楠在2018年就推出了公司的第壹代產品勘智K210。這款產品在過去幾年裏也在包括智能園區、智能家居、智能能耗和智能農業在內的多個場景中發揮了重要的作用，公司也與壹些行業頭部公司開發了智能產品。今年，嘉楠就作為全國大學生OS設計大賽唯壹的技術支持方，也為大賽提供勘智K210和開發板作為評估工具。與勘智K210甚至還在美國和日本等國際市場上率先打開局面。
但張楠賡指出，即使K210在不少領域表現搶眼，但由於該芯片的研發時間較早，在算力規劃上沒有考慮到後來才出現的算法模型，導致產品在應用場景的拓展上受到限制。為此，嘉楠在日前又順勢推出了新壹代的中端芯片K510。
據介紹，在全新的勘智K510芯片，繼續沿用了雙核RISC-V CPU架構中，但嘉楠圍繞RISC-V CPU子系統進行了優化。例如該CPU集成了64位的數字信號處理器DSP，配合自主研發的KPU2.0核心為AI應用加速。
此外，DSP內部還設計了專用的本地存儲，進壹步提升DSP的實際運算性能。研發團隊還在雙核CPU和DSP之間設計了專用的mailbox模塊用於通信，方便軟件靈活掌控整個系統。
K510同時還在總線架構、IP核心與視頻子系統等多個方面也推出了全新設計。這使其算力相比壹代芯片提升了3倍，經典視覺算法mobilenetv1幀率大幅提升，自研高速PHY接口理論帶寬也做到了10GB/s，8位數據壓縮率更是高達50%以上，極大優化了勘智AI系列在機器視覺場景的應用性能。
為了進壹步解決大功耗和大面積的問題，嘉楠在K510芯片上更是采用了NoC總線架構，讓每個IP工作在特定的時鐘域，解決龐大時鐘樹的困擾。
在K510的視覺硬件配置上，嘉楠也進行了大幅優化，使其能夠支持MIPI CSI2 和DVP接口，可同時支持最多3個攝像頭輸入。芯片內部還集成了3個圖像處理單元ISP, 其中壹個ISP支持3D 功能，無需軟件參與，硬件完成深度數據的提取和加工，相比軟件處理深度信息方式不但節省了巨大的CPU開銷，性能上也會有很大提升。
嘉楠同時還提高了K510在攝像頭輸入接口設計的靈活性，讓其既可以硬件流水線方式將攝像頭輸入送至ISP硬件，也可以把輸入圖像寫入DDR，ISP再通過線下方式讀取DDR內的圖像完成後續處理。滿足用戶可以在中間加入定制化的處理需求，或者對定制化的數據進行ISP處理。
值得壹提的是，通過融合公司在算法、軟硬件和編譯器的最新設計，嘉楠推出全新的KPU2.0，集中突破AI芯片設計中廣泛存在的“存儲墻”和“性能墻”的問題。為了提升計算效率，KPU2.0采用了動態3D PE陣列，第三個維度支持多種方式***享傳遞數據，並實現多個維度上的計算映射，提高PE陣列的利用率。同時也可以動態開啟或關閉每壹個2D陣列，並根據不同層級對帶寬和計算資源的需求進行調整。
據了解，通過動態3D PE陣列，K510支持多種方式***享傳遞數據，靈活支持多個維度的計算映射，提高PE陣列利用率。采用GLB(Global Local Buffer)設計，通過可配置的SRAM陣列實現，靈活配置以滿足不同數據類型在不同層上的帶寬和存儲需求，並提升內部RAM的利用率。結合動態3D PE陣列和GLB設計，嘉楠還獨創了計算數據流技術，在計算卷積時不需要進行數據重排；通過多級存儲設計提升卷積計算的數據復用率。
此外，KPU2.0還搭載了可重構的SIMD加速單元，通過創新的meshnet網絡可以靈活配置支持各種激活函數、pooling和resize等算子。
作為壹款定位於中高端邊緣推理芯片市場，K510無論在核心架構還是外部設備接口方面，都對芯片的視覺處理能力進行了大幅優化。這就使得這個芯片能夠在高清航拍、高清視頻會議、智能家居、各類機器人以及車載後裝智能終端等市場發揮其功用，並占領壹席之地。根據公司的規劃，未來幾年會有多款勘智芯片亮相，助力多個不同的應用和市場。
與全球開發者***同推進RISC-V
雖然在包括嘉楠在內的多個廠商的推動下，RISC-V取得了長足發展。但從過往的 歷史 看來，任何壹款架構的普及都需要時間。如PC時代的x86架構統治了指令集架構市場幾十年，後PC時代才迎來Arm架構的崛起，Arm也用了幾十年，才走上了巔峰。換而言之，計算負載的變遷需要經過壹個長時間的生命周期。也就是說我們現在雖然已經進入了萬物互聯時代，給RISC-V創造了機會，但這個新興指令集來說，也只是邁出了第壹步。
再者，現在的指令的發展趨勢是開放度越來越高。如Arm崛起的原因很大程度上是因為它引入了更多的市場參與者。同樣地，我們也將看到RISC-V作為開源架構標桿對於新壹代芯片設計廠商的吸引力，也許未來的英偉達、英特爾就會從這個生態中誕生。為此嘉楠也會持之以恒地投入其中。
張楠賡同時還強調，RISC-V生態還在持續壯大，特別在邊緣側場景中，因為很多業內通行的設計標準和協議標準尚未統壹，所以在百家爭鳴的現階段中， 探索 自己獨特的技術路線更有意義，這也是作為RISC-V的堅定支持者嘉楠所踐行的。
“但我們也應該認識到，將芯片轉化為智能產品需要壹個過程。與軟件不壹樣，硬件是壹段漫長的旅程、很花時間。需要先完成原型，然後客戶進行測試，可能還要進行壹些反復開發，所有這些事情都會比在Linux上debug花更久時間，也需要在生態上花費更多心思”，張楠賡補充說。
基於以上考慮，嘉楠會堅持依托RISC-V架構進行自主IP核研發的技術路線，為市場帶來性能表現更優的芯片。同時，公司也會在軟件方面發力，給客戶帶來更方面的研發體驗。
據介紹，通過公司采用統壹的AI編譯器，勘智系列KPU能支持 TensorFlow、PyTorch和ONNX 模型導入。支持算子融合、稀疏壓縮和量化等優化手段，對模型的延遲和帶寬進行深度優化。K510同時還支持豐富的網絡模型算子，當中包括常見的 CNN、RNN 算子和各類向量計算和數據處理操作。
“嘉楠的成長受惠於開源，公司也將全面擁抱軟硬件開源戰略。嘉楠已經決定把公司在硬件模塊、軟件算法的積累，以及芯片手冊等基本資料去阿奴***享出來給開發者使用，與全球的開發者***同推進RISC-V生態的繁榮。”張楠賡說。在他看來，推動RISC-V產業的發展，除了有利於公司本身以外。這於中國芯片產業來說，也是有百利而無壹害的。
過去，芯片設計有時需要上億研發費用，投入上百人，但這是中小企業不易承擔，而且也不壹定能掌握發展的主動權。但開源的RISC-V芯片設計能將芯片設計門檻大大降低，讓3到5人的小團隊在3到4個月內，只需花幾萬元便能研制出壹款有市場競爭力的芯片，從而將促進芯片產業的繁榮，能更好地支持人工智能等新壹代信息技術和數字經濟的發展。
張楠賡認為，芯片產業最關鍵的是人才。在芯片設計門檻降低之後，將會吸引到更多的人才投入這個行業，這有助於奠定本土芯片產業長遠發展的人才基礎；另壹方面，因為x86和Arm架構自身比較封閉，不容易進行創新。
“有了RISC-V之後，本土的壹些架構創新的成果也容易以開源的形式進行推廣，有助於打造中國在開源芯片領域的話語權。”張楠賡強調。
晶圓 集成電路 設備 汽車 芯片 存儲 MLCC 英偉達 模擬芯片