深扒歐美AI芯片六大獨角獸：世界最大芯片、傳奇人物加盟、科技巨頭聯(lián)投

作者 |  程茜
編輯 |  心緣
2021年，AI芯片戰(zhàn)場依然烽火連天，但國內外卻呈現(xiàn)出兩番光景。在國內，BAT互聯(lián)網大廠自研AI芯片均已揭曉，超40家AI芯片企業(yè)今年拿下新融資。地平線、黑芝麻智能、燧原科技、壁仞科技、昆侖芯、摩爾線程等企業(yè)的估值均超100億人民幣。高額融資、新品發(fā)布、量產成績公布等不勝枚舉。相比國內的繁榮，歐美AI芯片的多數風頭卻被科技巨頭占據，英偉達在云端訓練市場風光無二，英特爾繼續(xù)主導推理市場，率先闖進獨角獸陣營的歐美AI芯片獨角獸僅有6家。AI芯片，這一互聯(lián)網巨頭們爭相布局的硬科技領域，為何在國外市場沒有掀起大量融資浪潮？我們從其核心團隊、融資情況、發(fā)布產品等信息進行了梳理。這6家獨角獸集中成立于2016-2017年，分別是拿到谷歌、英特爾投資的SambaNova Systems，憑借全球最大晶圓級芯片爆紅的Cerebras Systems，英國唯一AI芯片獨角獸Graphcore，由谷歌TPU初始團隊創(chuàng)立的Groq，芯片大神Jim Keller加盟的Tenstorrent以及以色列的AI芯片獨角獸Hailo Technologies。

憑借領先的創(chuàng)新技術與落地進程，這6家歐美AI芯片獨角獸代表，正將影響力輻射至全球科技圈。
SambaNova：甲骨文元老斯坦福教授創(chuàng)立，獲谷歌英特爾投資

6家獨角獸中，SambaNova Systems估值最高，最新一輪融資總額也遙遙領先。這家美國的AI芯片公司成立于2017年，總部位于美國加州帕洛阿爾托，2019年春季已發(fā)布第一款Cardinal云端訓練芯片，落地于美國阿貢國家實驗室、美國能源部旗下國家核安全管理局（NNSA）等多個研究機構。值得一提的是，投資SambaNova Systems的投資方不僅包括活躍的投資機構日本軟銀、淡馬錫等，還有谷歌、英特爾等知名科技巨頭。

今年4月，該公司獲得最新一輪6.76億美元的D輪融資，融資后估值超過50億美元，一舉躍升歐美估值最高的AI芯片公司。SambaNova Systems由曾在甲骨文任職的羅德里戈·梁（Rodrigo Liang）以及斯坦福大學教授昆勒·奧魯克頓（Kunle Olukotun）、克里斯·雷（Chris Ré）聯(lián)合創(chuàng)辦。

其中奧魯克頓是斯坦福大學芯片多處理器項目的負責人，雷是斯坦福大學計算機科學系副教授、麥克阿瑟天才獎的獲得者，并在統(tǒng)計機器學習小組和斯坦福大學AI實驗室開展研究工作。2021年4月，SambaNova Systems推出了其第二代云端AI芯片可重構數據流單元Cardinal SN10 RDU，包含400億晶體管，采用臺積電7nm制程，由一系列可重構節(jié)點組成，用于數據存儲和交換。每個Cardinal芯片有6個控制器用于內存，可實現(xiàn)153 GB/s的帶寬，8個芯片以全配置連接。

SambaNova Systems的AI芯片并不會單獨出售，而是作為一種安裝在數據中心上的解決方案配套出售。目前其SambaNova Systems的旗艦產品是訂閱型的AI服務平臺SambaNova DaaS，與其集成軟件和硬件系統(tǒng)平臺DataScale一起使用。

SambaNova Systems的AI芯片以及它的客戶在很大程度上仍處于保密狀態(tài)。其產品自2020年以來已進入美國能源部下屬的勞倫斯·利弗莫爾國家實驗室和阿貢國家實驗室。SambaNova Systems主要是根據客戶需求定制產品，并提供一套默認的網絡和管理功能，并由SambaNova Systems進行遠程管理。
Cerebras：打造全球最大芯片今年解鎖“人腦級”AI模型

2019年8月，美國硅谷創(chuàng)企Cerebras Systems推出的世界最大芯片引爆芯片圈。今年4月，這家公司推出了巨芯二代WSE-2，可處理超級計算任務，搭載WSE-2芯片的AI超算系統(tǒng)CS-2也同期發(fā)布。這家以巨型芯片聞名的獨角獸公司成立于2016年，總部位于美國加州洛斯阿爾托斯。就在今年11月10日，Cerebras Systems宣布，獲得2.5億美元F輪融資，總融資額達到7.5億美元，投后估值超40億美元。

Cerebras Systems由加里·勞特巴赫（Gary Lauterbach）和安德魯·費爾德曼（Andrew Feldman）聯(lián)合創(chuàng)立。

值得一提的是，加里和安德魯曾經還聯(lián)合創(chuàng)辦了專注于超高密度計算機服務器業(yè)務的Seammicro公司，這家公司在2012年被AMD以高達3.57億美元的價格收購。

今年4月，Cerebras Systems又推出了巨芯二代Wafer Scale Engine 2（WSE-2），該芯片為超級計算任務而構建，具有破紀錄的2.6萬億個晶體管和85萬顆AI優(yōu)化內核，大小類似餐盤，采用臺積電的7nm工藝。

今年8月，Cerebras Systems宣布推出世界上第一個人類大腦規(guī)模的AI解決方案，一臺CS-2 AI計算機可支持超過120萬億參數規(guī)模的訓練。相比之下，人類大腦大約有100萬億個突觸。此外，Cerebras Systems還實現(xiàn)了192臺CS-2 AI計算機近乎線性的擴展，從而打造出包含高達1.63億個核心的計算集群。

目前，Cerebras Systems的AI超算系統(tǒng)CS-2只有少數客戶可以使用，它的客戶集中于軍事、實驗室等。Cerebras Systems重量級客戶包括美國阿貢國家實驗室、勞倫斯利弗莫爾國家實驗室、匹茲堡超級計算中心、愛丁堡大學的超級計算中心、葛蘭素史克、東京電子器件等。
Graphcore：英國唯一AI芯片獨角獸與阿里、百度建立合作

作為闖入中國AI芯片市場的少數國外獨角獸之一，Graphcore已經與阿里巴巴、百度建立合作。該公司為阿里巴巴的HALO專門定制代碼，并加入了百度的飛槳硬件生態(tài)聯(lián)盟。這家公司還是英國的唯一一家AI芯片獨角獸。Graphcore成立于2016年，總部位于英國布里斯托爾。2020年7月，Graphcore推出第二代云端訓練芯片GC200。最新一輪融資后Graphcore估值達27.7億美元，這使得它成為歐洲市值最高的芯片初創(chuàng)公司。此前，Graphcore高級副總裁、中國區(qū)總經理盧濤在接受芯東西等媒體采訪時談道，當下Graphcore面臨唯一的巨頭挑戰(zhàn)是英偉達。而Graphcore和英偉達的淵源不止于此，Graphcore的創(chuàng)始人Nigel Toon此前創(chuàng)立的芯片公司Icera，于2011年被英偉達收購。

Graphcore此前共經歷了6輪融資，最新一輪融資在2020年12月29日公布，融資金額高達2.22億美元，是6筆融資中金額最高的。Graphcore已經獲得超過4.5億美元的融資，戰(zhàn)略投資者不乏寶馬、博世、戴爾、微軟、三星等各行業(yè)巨頭。

Graphcore的AI芯片為智能處理單元IPU，采用自研大規(guī)模并行同構多核架構，包含1216個獨立IPU核心。Graphcore研發(fā)的GC200芯片基于7nm工藝，最多可以連接64000個芯片來創(chuàng)建一個巨大的并行處理器，其計算能力約為16 exaFLOPS。這樣的系統(tǒng)將能夠支持具有數萬億個參數的AI模型。基于第二代IPU芯片GC200，Graphcore還構造了大規(guī)模系統(tǒng)級產品IPU-M2000以及模塊化機架規(guī)模解決方案IPU-POD系統(tǒng)。Graphcore的IPU-POD系統(tǒng)可以將AI計算和服務器進行分解，以優(yōu)化其解決方案為不同的AI工作負載提供最高性能。

值得注意的是，Graphcore也開始在中國市場大展拳腳。Toon曾在接受采訪時說，中國是支持Graphcore AI計算應用增長最快的市場，并正式定名為“擬未科技”。Graphcore將與中國的生態(tài)聯(lián)盟共同推廣新的AI應用程序，并幫助建立行業(yè)標準。在去年5月的Wave Summit 2020深度學習開發(fā)者峰會上，Graphcore宣布成為百度飛槳硬件生態(tài)圈共建計劃伙伴之一，加速機器視覺、自然語言處理等算法模型與硬件的適配與落地。
Groq：主攻計算機視覺前谷歌TPU團隊創(chuàng)立

2016年底，谷歌TPU核心團隊中喬納森·羅斯（Jonathan Ross）悄悄離職，與同樣出身谷歌的道格拉斯·懷特曼（Douglas Wightman）在美國加利福尼亞創(chuàng)立了一家機器學習系統(tǒng)公司。這家公司就是美國的獨角獸AI芯片初創(chuàng)公司Groq，它成立于2017年，總部位于美國加州山景城。最新一輪融資完成后，該公司估值已超10億美元。谷歌的TPU團隊負責研發(fā)用于加速機器學習的定制芯片，曾幫助軟件程序AlphaGo（阿爾法狗）擊敗傳奇圍棋玩家李世石。而Groq的創(chuàng)始團隊中有8名都出身于谷歌的TPU核心團隊。

此前，Groq共經歷4輪融資，2021年4月，Groq獲得最新一筆融資，金額為3億美元，由Tiger Global Management和億萬富翁Dan Sundheim投資。該公司前3輪融資總額僅為6230萬美元，新一輪融資完成后，其融資總額達到3.623億美元。

第一個能在單個芯片上每秒執(zhí)行1000萬億次（1000 TOPS）操作的芯片架構，專門針對計算機視覺、機器學習和其他AI相關工作負載的性能需求而設計。

Groq的TSP架構受軟件優(yōu)先的啟發(fā)，能夠實現(xiàn)實現(xiàn)計算靈活性和大規(guī)模并行性。目前已經在x86和非x86系統(tǒng)的客戶站點上運行。同時期，Groq推出了其首個云端推理芯片GroqChip，可以實現(xiàn)16個芯片間互連和230 MB SRAM，靈活集成到嵌入式應用中，算力可達750 TOPS。GroqChip還使用TSP架構，使其能夠在內存中存儲更多的模型，以高計算性能處理數據，這使得它非常適合從大型數據集進行推理。除此之外，該公司堅持“以軟件為先”，其編譯器能處理硬件中的控制功能，例如執(zhí)行計劃等。Groq的軟件還可精心編排所有數據流和所需時序，以確保計算不會出現(xiàn)停頓，并在編譯時完全可預測延遲、性能和功耗。

2020年，美國阿貢實驗室的科學家們使用GroqChip創(chuàng)建了SARS-CoV-2病毒的機器學習模型。第一代芯片發(fā)布后，Groq稱正在研發(fā)第二代新型芯片，但截至現(xiàn)在，還沒有檢索到二代芯片的相關信息。羅斯談到，機器的學習效果是具有隨機性的，想要他們正確應對各種復雜的情況是非常困難的，當隨機情況發(fā)生的時候，需要完成所有可能的計算，才能達到機器學習的最優(yōu)化，這使得執(zhí)行起來的成本大大增加。而Groq的芯片構架就可以為機器學習和AI應用帶來客觀的性能提升。
Tenstorrent：兼顧高算力和可擴展，獲芯片大神加盟

傳奇芯片設計大神Jim Keller去年6月從英特爾辭職后，今年1月宣布加盟加拿大AI芯片創(chuàng)企Tenstorrent，擔任CTO兼總裁。手握本科學歷的Jim Keller，人送外號“硅谷游俠”，1998年從業(yè)以來，20年間輾轉于多家大型科技公司，不乏AMD、蘋果、特斯拉、英特爾等頂尖企業(yè)，這位技術大牛不斷革新半導體行業(yè)的發(fā)展，屢屢研發(fā)出里程碑式的芯片。2020年6月，這位業(yè)界傳奇人物從英特爾離職，他的去向備受業(yè)界關注。但出乎多數人的預期，這個答案在今年1月揭曉——Jim Keller選擇加盟了一家AI芯片公司Tenstorrent。之所以做出這樣的選擇，Jim Keller在接受外媒專訪時予以回應：“目前爆發(fā)性增長的AI芯片領域，Tenstorrent更像是一張白紙。我在公司中擁有大量股權，公司CEO Ljubisa Bajic也是我的老朋友，無論是基于財務還是對朋友的承諾，我都會選擇暫時待在這里。”

Tenstorrent于2016年創(chuàng)立，總部位于加拿大多倫多市。最新一輪融資完成后，這家公司的估值達到了10億美元的級別。2020年4月，Tenstorrent推出其第一款AI芯片Grayskull，可以兼顧AI訓練和推理任務。Tenstorrent此前共經歷4輪融資，最新一輪融資在2021年5月20日，完成了超過2億美元資金的C輪融資，由私募股權機構富達管理（Fidelity Management）領投。

2020年4月7日，Tenstorrent發(fā)布其首款AI芯片Grayskull。同年年底，Grayskull開始量產，并逐漸向早期客戶出樣。Grayskull處理器配備Tenstorrent定制的Tensix能夠提供368 TOPS。每個Tensix核心具備完全C++可編程、多線程、前端功能；高面積和功率效率矩陣計算引擎；強大靈活的SIMD引擎等。

相較市面上現(xiàn)有AI芯片產品，Grayskull不僅能兼顧高算力和低能耗，還具備高度可擴展的特點，可擴展到10萬個節(jié)點，支持從小型嵌入式設備到大型數據中心的AI推理和訓練任務。Tenstorrent的研究人員設計了一個能實現(xiàn)細粒度條件執(zhí)行、動態(tài)稀疏處理的完全可編程體系結構，可將較大數據組的復雜計算任務分解成多個較小數據組的計算，由芯片上的各個內核進行獨立的處理。其研究人員稱，該處理器新的架構方法將通過適應模型的確切輸入并緊密集成計算和網絡，使處理器能夠隨著AI模型的持續(xù)增長而擴展。2021年6月，外媒SemiAnalysis報道，Tenstorrent正在研發(fā)的第二代AI芯片Wormhole，將更注重訓練而不是加速，并捆綁在16x100 G以太網端****換機中。Jim Keller加盟后談道，Tenstorrent的目標是將高性能的AI芯片與一種新方法相結合，利用AI來優(yōu)化低級軟件功能，通過這種被稱為Software 2.0的方法來提高效率和運算速度。Jim Keller將為Software 2.0提供所需的硬件解決方案。
Hailo：以色列獨角獸，中國資本參投

以色列AI芯片獨角獸Hailo Technologies成立于2017年，總部位于特拉維夫，主打為邊緣設備提供數據中心性能。以色列國防軍以黑科技著稱，是以色列科技界的中堅力量，Hailo Technologies的創(chuàng)始人奧爾·達農（Orr Danon）就來自以色列國防軍精英技術小組。

今年完成最新一輪融資后，Hailo Technologies的總估值約為10億美元，正式晉升獨角獸企業(yè)。此前，有中國投資公司上海耀途資本參投，這家投資公司聚焦物聯(lián)網、大數據、云計算及AI領域。該公司共經歷4輪融資，最新的一輪是2021年10月12日，融資金額為1.36億美元，其融資總額已經達到2.239億美元。

目前Hailo已推出一款AI推理芯片Hailo-8及M.2和Mini PCIe加速模塊，分別在2019年5月和2020年10月推出，AI推理芯片Hailo-8已經實現(xiàn)量產。2019年5月，Hailo Technologies發(fā)布了超性能創(chuàng)新架構AI芯片Hailo-8，該芯片性能高達26 TOPS，并且具有超小的面積和功耗，芯片尺寸均小于1美分。

Hailo Technologies的Hailo-8深度學習芯片可在邊緣提供數據中心級芯片的性能，同時在尺寸、性能和功耗方面擊敗競爭的邊緣處理器。2020年10月，Hailo Technologies宣布推出基于Hailo-8芯片M.2和Mini PCIe高AI加速模塊，該公司稱已經與富士康展開合作，將M.2模塊整合到其 “BOXiedge”邊緣計算平臺中。IBM、英特爾、三星電子、阿里巴巴等跨國科技巨頭已經在研發(fā)過程中注意到了該公司的技術，它們已經有部分技術引用了Hailo Technologies公司的專利。今年10月，Hailo Technologies稱正在努力將其芯片構建到原始設備制造商（OEMs）和一級汽車公司的產品中，這些領域包括先進的駕駛輔助系統(tǒng)以及機器人、醫(yī)學、智慧城市和家庭等。
結語：AI芯片產品各異創(chuàng)企如何突出重圍？

經過四五年的磨礪，這6家歐美AI芯片獨角獸的自研芯片產品已經開始走向落地?？梢钥吹?，多家的首批客戶集中于大型實驗室，商業(yè)化程度還相對有限，其中Graphcore已率先發(fā)力中國市場。與此同時，系統(tǒng)化已經是今年AI芯片產業(yè)呈現(xiàn)的一大趨勢。AI芯片獨角獸在其自研芯片的基礎上，已經陸續(xù)打造從板卡、服務器、軟件到集群的更完整系統(tǒng)級解決方案，并公布更多的應用案例，來展現(xiàn)其技術實力和商用價值。相比國內，歐美AI芯片創(chuàng)企面臨的生存壓力往往更甚，它們直面英偉達、英特爾等芯片巨頭已經構筑的深厚生態(tài)壁壘，又缺少國產化替代等外部環(huán)境特定的激勵，此前有些AI芯片創(chuàng)企已經被巨頭企業(yè)收購，也曾有明星企業(yè)走向破產重組。作為AI技術的底層驅動，AI芯片行業(yè)發(fā)展態(tài)勢不可逆轉，更多半導體大公司、互聯(lián)網巨頭和創(chuàng)業(yè)公司開始布局這一領域。而如何在一眾強手中突出重圍，將是AI芯片企業(yè)們面臨的關鍵考驗。