Wave Computing
Wave Computing在2018取得了不少進展,推出其第壹個DataFlow處理單元,收購MIPS,創建MIPS Open,並將首批系統交付給少數客戶。雖然Wave架構有壹些非常有趣的功能,但我們更期待用戶的大規模真實體驗反饋。
Wave不是插入到服務器的加速器,它是用於圖形計算的獨立處理器。這種方法有利有弊。從積極的方面看,Wave不會受到GPU等加速器面臨的內存瓶頸影響。從消極方面來說,安裝Wave設備將是新的升級,需要完全替換傳統的X86服務器,也讓其成為所有服務器制造商的競爭對手。
我不認為Wave能從某個點擊敗NVIDIA,但該架構的設計的非常好,該公司已經表示它很快就會有客戶的反饋。
圖1:Wave是從上面顯示的4節點“DPU”構建的系統。Wave Computing
Graphcore
Graphcore是壹家資金雄厚(融資3.1億美元,目前估值為17億美元)的英國獨角獸創業公司,擁有全球化的團隊。它正在構建壹種新型的圖形處理器架構,其內存與其邏輯單元位於同壹芯片上,這應該能夠實現更高的性能。該團隊產品的發布時間暫不明確,不過他們去年四月表示“幾乎準備好發布”了,12月的最新信息表明它將很快開始生產。
Graphcore的投資者名單令人印象深刻,包括紅杉資本、寶馬、微軟、博世和戴爾 科技 。
我了解了該公司的架構,它非常令人印象深刻。從邊緣設備擴展到用於數據中心的訓練和推理的“Colossus”雙芯片封裝。在最近的NeurIPS活動中,Graphcore展示了其RackScale IPU Pod,它在壹個32臺服務器的機架中提供超過16 petaflops的算力。雖然該公司經常聲稱它將提供比同類最好GPU強100倍的性能。
Graphcore表示,4“Colossus”GC2(8芯片)服務器可提供500 TFlops(每秒數萬億次操作)的混合精度性能。單個NVIDIA V100可提供125 TFlops,因此理論上4 個V100就可提供與其相同的性能。
與往常壹樣,細節更能發現差別,V100峰值性能僅在重構代碼執行TensorCore的4x4矩陣乘法時才可用,這是Graphcore架構巧妙避免的限制。更不用說V100消耗了300瓦的電能和大量現金這壹事實。
此外,Graphcore支持片上互連和“處理器內存”(片上存儲器)方法,可以得到超出TFlops基準所認可的優秀性能。在壹些神經網絡中,如Generative Adversarial Networks,內存是瓶頸。
再次強調,我們將不得不等待真實的用戶用實際應用程序來評估此體系結構。盡管如此,Graphcore的投資者名單、專家名單和臺天價估值告訴我,這可能是壹件好事。
圖2:GraphCore展示了ImageNet數據集處理的照片。 可視化可幫助開發人員了解其訓練處理占用處理周期的位置。
Habana Labs
Habana Labs是壹家以色列創業公司,去年9月在第壹次AI硬件峰會上宣布它已經準備好推出其首款用於推理的芯片,其創紀錄的性能用於卷積神經網絡圖像處理。結果顯示在Resnet50圖像分類數據庫中該處理器每秒分類15,000張圖像,比NVIDIA的T4高出約50%,功耗僅為100瓦。
在2018年12月,Habana Labs的最新壹輪融資由英特爾風險投資(Intel Venture Capital)領投,WRV Capital,Bessemer Venture Partners和Battery Ventures跟投,該公司的融資也由此前的4500萬美元增加了7500萬美元。
據悉,Habana Labs新的融資將部分用於流片其名為“Gaudi“的第二款芯片,該芯片將專註於訓練市場,據稱可擴展到1000多個處理器。
其它創業公司
我知道世界上有超過40家公司在為人工智能設計訓練和推理芯片。我發現大多數公司都在進行簡單的FMA(浮點乘法累加)和混合精度數學(整型8位和浮點16位和32位)。對此我不會感到驚訝,因為這種方法相對容易實現並且會獲得壹些成果,但它不會為像NVIDIA,英特爾以及少數初創公司做出不壹樣的架構提供持久的架構優勢。
以下是壹些引起我註意的公司:
中國AI芯片初創公司
中國壹直試圖找到壹條擺脫美國半導體的方式,人工智能加速器可能會提供它壹直在尋求的機會。中國設定了2030年要建立壹個價值數萬億美元的人工智能產業的目標,自2012年以來,投資者已經向創業公司投入了超過40億美元的資金。
寒武紀 科技 估值為25億美元,是已經發布了第三代AI芯片的中國獨角獸公司。寒武紀稱它可以用更低的功耗提供比NVIDIA V100更好的AI性能,他們還銷售其AI IP,搭載在華為麒麟970和麒麟980的處理器當中,作為AI加速硬件。
商湯 科技 也許是估值最高的AI創業公司,以在中國推廣智能監控攝像頭而聞名。這些安防攝像頭數量超過1.75億,包括其他公司生產的攝像頭。商湯 科技 在香港成立,最近壹輪融資數額達6億美元,由阿裏巴巴領投。據報道,這家初創公司的價值目前為45億美元。
商湯 科技 與阿裏巴巴、高通、本田甚至NVIDIA等主要公司建立了戰略合作夥伴關系。該公司今天擁有壹臺超級計算機,運行大約8000塊(可能是NVIDIA提供?)GPU,並計劃再建造5臺超級計算機來處理數百萬個攝像頭采集的面部識別數據。
雷鋒網編譯,via forbes