深扒歐美AI芯片六大獨(dú)角獸：世界最大芯片、傳奇人物加盟、科技巨頭聯(lián)投

作者 |  程茜
編輯 |  心緣
2021年，AI芯片戰(zhàn)場依然烽火連天，但國內(nèi)外卻呈現(xiàn)出兩番光景。在國內(nèi)，BAT互聯(lián)網(wǎng)大廠自研AI芯片均已揭曉，超40家AI芯片企業(yè)今年拿下新融資。地平線、黑芝麻智能、燧原科技、壁仞科技、昆侖芯、摩爾線程等企業(yè)的估值均超100億人民幣。高額融資、新品發(fā)布、量產(chǎn)成績公布等不勝枚舉。相比國內(nèi)的繁榮，歐美AI芯片的多數(shù)風(fēng)頭卻被科技巨頭占據(jù)，英偉達(dá)在云端訓(xùn)練市場風(fēng)光無二，英特爾繼續(xù)主導(dǎo)推理市場，率先闖進(jìn)獨(dú)角獸陣營的歐美AI芯片獨(dú)角獸僅有6家。AI芯片，這一互聯(lián)網(wǎng)巨頭們爭相布局的硬科技領(lǐng)域，為何在國外市場沒有掀起大量融資浪潮？我們從其核心團(tuán)隊(duì)、融資情況、發(fā)布產(chǎn)品等信息進(jìn)行了梳理。這6家獨(dú)角獸集中成立于2016-2017年，分別是拿到谷歌、英特爾投資的SambaNova Systems，憑借全球最大晶圓級芯片爆紅的Cerebras Systems，英國唯一AI芯片獨(dú)角獸Graphcore，由谷歌TPU初始團(tuán)隊(duì)創(chuàng)立的Groq，芯片大神Jim Keller加盟的Tenstorrent以及以色列的AI芯片獨(dú)角獸Hailo Technologies。

憑借領(lǐng)先的創(chuàng)新技術(shù)與落地進(jìn)程，這6家歐美AI芯片獨(dú)角獸代表，正將影響力輻射至全球科技圈。
SambaNova：甲骨文元老斯坦福教授創(chuàng)立，獲谷歌英特爾投資

6家獨(dú)角獸中，SambaNova Systems估值最高，最新一輪融資總額也遙遙領(lǐng)先。這家美國的AI芯片公司成立于2017年，總部位于美國加州帕洛阿爾托，2019年春季已發(fā)布第一款Cardinal云端訓(xùn)練芯片，落地于美國阿貢國家實(shí)驗(yàn)室、美國能源部旗下國家核安全管理局（NNSA）等多個(gè)研究機(jī)構(gòu)。值得一提的是，投資SambaNova Systems的投資方不僅包括活躍的投資機(jī)構(gòu)日本軟銀、淡馬錫等，還有谷歌、英特爾等知名科技巨頭。

今年4月，該公司獲得最新一輪6.76億美元的D輪融資，融資后估值超過50億美元，一舉躍升歐美估值最高的AI芯片公司。SambaNova Systems由曾在甲骨文任職的羅德里戈·梁（Rodrigo Liang）以及斯坦福大學(xué)教授昆勒·奧魯克頓（Kunle Olukotun）、克里斯·雷（Chris Ré）聯(lián)合創(chuàng)辦。

其中奧魯克頓是斯坦福大學(xué)芯片多處理器項(xiàng)目的負(fù)責(zé)人，雷是斯坦福大學(xué)計(jì)算機(jī)科學(xué)系副教授、麥克阿瑟天才獎(jiǎng)的獲得者，并在統(tǒng)計(jì)機(jī)器學(xué)習(xí)小組和斯坦福大學(xué)AI實(shí)驗(yàn)室開展研究工作。2021年4月，SambaNova Systems推出了其第二代云端AI芯片可重構(gòu)數(shù)據(jù)流單元Cardinal SN10 RDU，包含400億晶體管，采用臺積電7nm制程，由一系列可重構(gòu)節(jié)點(diǎn)組成，用于數(shù)據(jù)存儲和交換。每個(gè)Cardinal芯片有6個(gè)控制器用于內(nèi)存，可實(shí)現(xiàn)153 GB/s的帶寬，8個(gè)芯片以全配置連接。

SambaNova Systems的AI芯片并不會(huì)單獨(dú)出售，而是作為一種安裝在數(shù)據(jù)中心上的解決方案配套出售。目前其SambaNova Systems的旗艦產(chǎn)品是訂閱型的AI服務(wù)平臺SambaNova DaaS，與其集成軟件和硬件系統(tǒng)平臺DataScale一起使用。

SambaNova Systems的AI芯片以及它的客戶在很大程度上仍處于保密狀態(tài)。其產(chǎn)品自2020年以來已進(jìn)入美國能源部下屬的勞倫斯·利弗莫爾國家實(shí)驗(yàn)室和阿貢國家實(shí)驗(yàn)室。SambaNova Systems主要是根據(jù)客戶需求定制產(chǎn)品，并提供一套默認(rèn)的網(wǎng)絡(luò)和管理功能，并由SambaNova Systems進(jìn)行遠(yuǎn)程管理。
Cerebras：打造全球最大芯片今年解鎖“人腦級”AI模型

2019年8月，美國硅谷創(chuàng)企Cerebras Systems推出的世界最大芯片引爆芯片圈。今年4月，這家公司推出了巨芯二代WSE-2，可處理超級計(jì)算任務(wù)，搭載WSE-2芯片的AI超算系統(tǒng)CS-2也同期發(fā)布。這家以巨型芯片聞名的獨(dú)角獸公司成立于2016年，總部位于美國加州洛斯阿爾托斯。就在今年11月10日，Cerebras Systems宣布，獲得2.5億美元F輪融資，總?cè)谫Y額達(dá)到7.5億美元，投后估值超40億美元。

Cerebras Systems由加里·勞特巴赫（Gary Lauterbach）和安德魯·費(fèi)爾德曼（Andrew Feldman）聯(lián)合創(chuàng)立。

值得一提的是，加里和安德魯曾經(jīng)還聯(lián)合創(chuàng)辦了專注于超高密度計(jì)算機(jī)服務(wù)器業(yè)務(wù)的Seammicro公司，這家公司在2012年被AMD以高達(dá)3.57億美元的價(jià)格收購。

今年4月，Cerebras Systems又推出了巨芯二代Wafer Scale Engine 2（WSE-2），該芯片為超級計(jì)算任務(wù)而構(gòu)建，具有破紀(jì)錄的2.6萬億個(gè)晶體管和85萬顆AI優(yōu)化內(nèi)核，大小類似餐盤，采用臺積電的7nm工藝。

今年8月，Cerebras Systems宣布推出世界上第一個(gè)人類大腦規(guī)模的AI解決方案，一臺CS-2 AI計(jì)算機(jī)可支持超過120萬億參數(shù)規(guī)模的訓(xùn)練。相比之下，人類大腦大約有100萬億個(gè)突觸。此外，Cerebras Systems還實(shí)現(xiàn)了192臺CS-2 AI計(jì)算機(jī)近乎線性的擴(kuò)展，從而打造出包含高達(dá)1.63億個(gè)核心的計(jì)算集群。

目前，Cerebras Systems的AI超算系統(tǒng)CS-2只有少數(shù)客戶可以使用，它的客戶集中于軍事、實(shí)驗(yàn)室等。Cerebras Systems重量級客戶包括美國阿貢國家實(shí)驗(yàn)室、勞倫斯利弗莫爾國家實(shí)驗(yàn)室、匹茲堡超級計(jì)算中心、愛丁堡大學(xué)的超級計(jì)算中心、葛蘭素史克、東京電子器件等。
Graphcore：英國唯一AI芯片獨(dú)角獸與阿里、百度建立合作

作為闖入中國AI芯片市場的少數(shù)國外獨(dú)角獸之一，Graphcore已經(jīng)與阿里巴巴、百度建立合作。該公司為阿里巴巴的HALO專門定制代碼，并加入了百度的飛槳硬件生態(tài)聯(lián)盟。這家公司還是英國的唯一一家AI芯片獨(dú)角獸。Graphcore成立于2016年，總部位于英國布里斯托爾。2020年7月，Graphcore推出第二代云端訓(xùn)練芯片GC200。最新一輪融資后Graphcore估值達(dá)27.7億美元，這使得它成為歐洲市值最高的芯片初創(chuàng)公司。此前，Graphcore高級副總裁、中國區(qū)總經(jīng)理盧濤在接受芯東西等媒體采訪時(shí)談道，當(dāng)下Graphcore面臨唯一的巨頭挑戰(zhàn)是英偉達(dá)。而Graphcore和英偉達(dá)的淵源不止于此，Graphcore的創(chuàng)始人Nigel Toon此前創(chuàng)立的芯片公司Icera，于2011年被英偉達(dá)收購。

Graphcore此前共經(jīng)歷了6輪融資，最新一輪融資在2020年12月29日公布，融資金額高達(dá)2.22億美元，是6筆融資中金額最高的。Graphcore已經(jīng)獲得超過4.5億美元的融資，戰(zhàn)略投資者不乏寶馬、博世、戴爾、微軟、三星等各行業(yè)巨頭。

Graphcore的AI芯片為智能處理單元IPU，采用自研大規(guī)模并行同構(gòu)多核架構(gòu)，包含1216個(gè)獨(dú)立IPU核心。Graphcore研發(fā)的GC200芯片基于7nm工藝，最多可以連接64000個(gè)芯片來創(chuàng)建一個(gè)巨大的并行處理器，其計(jì)算能力約為16 exaFLOPS。這樣的系統(tǒng)將能夠支持具有數(shù)萬億個(gè)參數(shù)的AI模型。基于第二代IPU芯片GC200，Graphcore還構(gòu)造了大規(guī)模系統(tǒng)級產(chǎn)品IPU-M2000以及模塊化機(jī)架規(guī)模解決方案IPU-POD系統(tǒng)。Graphcore的IPU-POD系統(tǒng)可以將AI計(jì)算和服務(wù)器進(jìn)行分解，以優(yōu)化其解決方案為不同的AI工作負(fù)載提供最高性能。

值得注意的是，Graphcore也開始在中國市場大展拳腳。Toon曾在接受采訪時(shí)說，中國是支持Graphcore AI計(jì)算應(yīng)用增長最快的市場，并正式定名為“擬未科技”。Graphcore將與中國的生態(tài)聯(lián)盟共同推廣新的AI應(yīng)用程序，并幫助建立行業(yè)標(biāo)準(zhǔn)。在去年5月的Wave Summit 2020深度學(xué)習(xí)開發(fā)者峰會(huì)上，Graphcore宣布成為百度飛槳硬件生態(tài)圈共建計(jì)劃伙伴之一，加速機(jī)器視覺、自然語言處理等算法模型與硬件的適配與落地。
Groq：主攻計(jì)算機(jī)視覺前谷歌TPU團(tuán)隊(duì)創(chuàng)立

2016年底，谷歌TPU核心團(tuán)隊(duì)中喬納森·羅斯（Jonathan Ross）悄悄離職，與同樣出身谷歌的道格拉斯·懷特曼（Douglas Wightman）在美國加利福尼亞創(chuàng)立了一家機(jī)器學(xué)習(xí)系統(tǒng)公司。這家公司就是美國的獨(dú)角獸AI芯片初創(chuàng)公司Groq，它成立于2017年，總部位于美國加州山景城。最新一輪融資完成后，該公司估值已超10億美元。谷歌的TPU團(tuán)隊(duì)負(fù)責(zé)研發(fā)用于加速機(jī)器學(xué)習(xí)的定制芯片，曾幫助軟件程序AlphaGo（阿爾法狗）擊敗傳奇圍棋玩家李世石。而Groq的創(chuàng)始團(tuán)隊(duì)中有8名都出身于谷歌的TPU核心團(tuán)隊(duì)。

此前，Groq共經(jīng)歷4輪融資，2021年4月，Groq獲得最新一筆融資，金額為3億美元，由Tiger Global Management和億萬富翁Dan Sundheim投資。該公司前3輪融資總額僅為6230萬美元，新一輪融資完成后，其融資總額達(dá)到3.623億美元。

第一個(gè)能在單個(gè)芯片上每秒執(zhí)行1000萬億次（1000 TOPS）操作的芯片架構(gòu)，專門針對計(jì)算機(jī)視覺、機(jī)器學(xué)習(xí)和其他AI相關(guān)工作負(fù)載的性能需求而設(shè)計(jì)。

Groq的TSP架構(gòu)受軟件優(yōu)先的啟發(fā)，能夠?qū)崿F(xiàn)實(shí)現(xiàn)計(jì)算靈活性和大規(guī)模并行性。目前已經(jīng)在x86和非x86系統(tǒng)的客戶站點(diǎn)上運(yùn)行。同時(shí)期，Groq推出了其首個(gè)云端推理芯片GroqChip，可以實(shí)現(xiàn)16個(gè)芯片間互連和230 MB SRAM，靈活集成到嵌入式應(yīng)用中，算力可達(dá)750 TOPS。GroqChip還使用TSP架構(gòu)，使其能夠在內(nèi)存中存儲更多的模型，以高計(jì)算性能處理數(shù)據(jù)，這使得它非常適合從大型數(shù)據(jù)集進(jìn)行推理。除此之外，該公司堅(jiān)持“以軟件為先”，其編譯器能處理硬件中的控制功能，例如執(zhí)行計(jì)劃等。Groq的軟件還可精心編排所有數(shù)據(jù)流和所需時(shí)序，以確保計(jì)算不會(huì)出現(xiàn)停頓，并在編譯時(shí)完全可預(yù)測延遲、性能和功耗。

2020年，美國阿貢實(shí)驗(yàn)室的科學(xué)家們使用GroqChip創(chuàng)建了SARS-CoV-2病毒的機(jī)器學(xué)習(xí)模型。第一代芯片發(fā)布后，Groq稱正在研發(fā)第二代新型芯片，但截至現(xiàn)在，還沒有檢索到二代芯片的相關(guān)信息。羅斯談到，機(jī)器的學(xué)習(xí)效果是具有隨機(jī)性的，想要他們正確應(yīng)對各種復(fù)雜的情況是非常困難的，當(dāng)隨機(jī)情況發(fā)生的時(shí)候，需要完成所有可能的計(jì)算，才能達(dá)到機(jī)器學(xué)習(xí)的最優(yōu)化，這使得執(zhí)行起來的成本大大增加。而Groq的芯片構(gòu)架就可以為機(jī)器學(xué)習(xí)和AI應(yīng)用帶來客觀的性能提升。
Tenstorrent：兼顧高算力和可擴(kuò)展，獲芯片大神加盟

傳奇芯片設(shè)計(jì)大神Jim Keller去年6月從英特爾辭職后，今年1月宣布加盟加拿大AI芯片創(chuàng)企Tenstorrent，擔(dān)任CTO兼總裁。手握本科學(xué)歷的Jim Keller，人送外號“硅谷游俠”，1998年從業(yè)以來，20年間輾轉(zhuǎn)于多家大型科技公司，不乏AMD、蘋果、特斯拉、英特爾等頂尖企業(yè)，這位技術(shù)大牛不斷革新半導(dǎo)體行業(yè)的發(fā)展，屢屢研發(fā)出里程碑式的芯片。2020年6月，這位業(yè)界傳奇人物從英特爾離職，他的去向備受業(yè)界關(guān)注。但出乎多數(shù)人的預(yù)期，這個(gè)答案在今年1月揭曉——Jim Keller選擇加盟了一家AI芯片公司Tenstorrent。之所以做出這樣的選擇，Jim Keller在接受外媒專訪時(shí)予以回應(yīng)：“目前爆發(fā)性增長的AI芯片領(lǐng)域，Tenstorrent更像是一張白紙。我在公司中擁有大量股權(quán)，公司CEO Ljubisa Bajic也是我的老朋友，無論是基于財(cái)務(wù)還是對朋友的承諾，我都會(huì)選擇暫時(shí)待在這里。”

Tenstorrent于2016年創(chuàng)立，總部位于加拿大多倫多市。最新一輪融資完成后，這家公司的估值達(dá)到了10億美元的級別。2020年4月，Tenstorrent推出其第一款A(yù)I芯片Grayskull，可以兼顧AI訓(xùn)練和推理任務(wù)。Tenstorrent此前共經(jīng)歷4輪融資，最新一輪融資在2021年5月20日，完成了超過2億美元資金的C輪融資，由私募股權(quán)機(jī)構(gòu)富達(dá)管理（Fidelity Management）領(lǐng)投。

2020年4月7日，Tenstorrent發(fā)布其首款A(yù)I芯片Grayskull。同年年底，Grayskull開始量產(chǎn)，并逐漸向早期客戶出樣。Grayskull處理器配備Tenstorrent定制的Tensix能夠提供368 TOPS。每個(gè)Tensix核心具備完全C++可編程、多線程、前端功能；高面積和功率效率矩陣計(jì)算引擎；強(qiáng)大靈活的SIMD引擎等。

相較市面上現(xiàn)有AI芯片產(chǎn)品，Grayskull不僅能兼顧高算力和低能耗，還具備高度可擴(kuò)展的特點(diǎn)，可擴(kuò)展到10萬個(gè)節(jié)點(diǎn)，支持從小型嵌入式設(shè)備到大型數(shù)據(jù)中心的AI推理和訓(xùn)練任務(wù)。Tenstorrent的研究人員設(shè)計(jì)了一個(gè)能實(shí)現(xiàn)細(xì)粒度條件執(zhí)行、動(dòng)態(tài)稀疏處理的完全可編程體系結(jié)構(gòu)，可將較大數(shù)據(jù)組的復(fù)雜計(jì)算任務(wù)分解成多個(gè)較小數(shù)據(jù)組的計(jì)算，由芯片上的各個(gè)內(nèi)核進(jìn)行獨(dú)立的處理。其研究人員稱，該處理器新的架構(gòu)方法將通過適應(yīng)模型的確切輸入并緊密集成計(jì)算和網(wǎng)絡(luò)，使處理器能夠隨著AI模型的持續(xù)增長而擴(kuò)展。2021年6月，外媒SemiAnalysis報(bào)道，Tenstorrent正在研發(fā)的第二代AI芯片Wormhole，將更注重訓(xùn)練而不是加速，并捆綁在16x100 G以太網(wǎng)端****換機(jī)中。Jim Keller加盟后談道，Tenstorrent的目標(biāo)是將高性能的AI芯片與一種新方法相結(jié)合，利用AI來優(yōu)化低級軟件功能，通過這種被稱為Software 2.0的方法來提高效率和運(yùn)算速度。Jim Keller將為Software 2.0提供所需的硬件解決方案。
Hailo：以色列獨(dú)角獸，中國資本參投

以色列AI芯片獨(dú)角獸Hailo Technologies成立于2017年，總部位于特拉維夫，主打?yàn)檫吘壴O(shè)備提供數(shù)據(jù)中心性能。以色列國防軍以黑科技著稱，是以色列科技界的中堅(jiān)力量，Hailo Technologies的創(chuàng)始人奧爾·達(dá)農(nóng)（Orr Danon）就來自以色列國防軍精英技術(shù)小組。

今年完成最新一輪融資后，Hailo Technologies的總估值約為10億美元，正式晉升獨(dú)角獸企業(yè)。此前，有中國投資公司上海耀途資本參投，這家投資公司聚焦物聯(lián)網(wǎng)、大數(shù)據(jù)、云計(jì)算及AI領(lǐng)域。該公司共經(jīng)歷4輪融資，最新的一輪是2021年10月12日，融資金額為1.36億美元，其融資總額已經(jīng)達(dá)到2.239億美元。

目前Hailo已推出一款A(yù)I推理芯片Hailo-8及M.2和Mini PCIe加速模塊，分別在2019年5月和2020年10月推出，AI推理芯片Hailo-8已經(jīng)實(shí)現(xiàn)量產(chǎn)。2019年5月，Hailo Technologies發(fā)布了超性能創(chuàng)新架構(gòu)AI芯片Hailo-8，該芯片性能高達(dá)26 TOPS，并且具有超小的面積和功耗，芯片尺寸均小于1美分。

Hailo Technologies的Hailo-8深度學(xué)習(xí)芯片可在邊緣提供數(shù)據(jù)中心級芯片的性能，同時(shí)在尺寸、性能和功耗方面擊敗競爭的邊緣處理器。2020年10月，Hailo Technologies宣布推出基于Hailo-8芯片M.2和Mini PCIe高AI加速模塊，該公司稱已經(jīng)與富士康展開合作，將M.2模塊整合到其 “BOXiedge”邊緣計(jì)算平臺中。IBM、英特爾、三星電子、阿里巴巴等跨國科技巨頭已經(jīng)在研發(fā)過程中注意到了該公司的技術(shù)，它們已經(jīng)有部分技術(shù)引用了Hailo Technologies公司的專利。今年10月，Hailo Technologies稱正在努力將其芯片構(gòu)建到原始設(shè)備制造商（OEMs）和一級汽車公司的產(chǎn)品中，這些領(lǐng)域包括先進(jìn)的駕駛輔助系統(tǒng)以及機(jī)器人、醫(yī)學(xué)、智慧城市和家庭等。
結(jié)語：AI芯片產(chǎn)品各異創(chuàng)企如何突出重圍？

經(jīng)過四五年的磨礪，這6家歐美AI芯片獨(dú)角獸的自研芯片產(chǎn)品已經(jīng)開始走向落地?？梢钥吹剑嗉业氖着蛻艏杏诖笮蛯?shí)驗(yàn)室，商業(yè)化程度還相對有限，其中Graphcore已率先發(fā)力中國市場。與此同時(shí)，系統(tǒng)化已經(jīng)是今年AI芯片產(chǎn)業(yè)呈現(xiàn)的一大趨勢。AI芯片獨(dú)角獸在其自研芯片的基礎(chǔ)上，已經(jīng)陸續(xù)打造從板卡、服務(wù)器、軟件到集群的更完整系統(tǒng)級解決方案，并公布更多的應(yīng)用案例，來展現(xiàn)其技術(shù)實(shí)力和商用價(jià)值。相比國內(nèi)，歐美AI芯片創(chuàng)企面臨的生存壓力往往更甚，它們直面英偉達(dá)、英特爾等芯片巨頭已經(jīng)構(gòu)筑的深厚生態(tài)壁壘，又缺少國產(chǎn)化替代等外部環(huán)境特定的激勵(lì)，此前有些AI芯片創(chuàng)企已經(jīng)被巨頭企業(yè)收購，也曾有明星企業(yè)走向破產(chǎn)重組。作為AI技術(shù)的底層驅(qū)動(dòng)，AI芯片行業(yè)發(fā)展態(tài)勢不可逆轉(zhuǎn)，更多半導(dǎo)體大公司、互聯(lián)網(wǎng)巨頭和創(chuàng)業(yè)公司開始布局這一領(lǐng)域。而如何在一眾強(qiáng)手中突出重圍，將是AI芯片企業(yè)們面臨的關(guān)鍵考驗(yàn)。