AI“大躍進”，芯片還夠嗎？

在ChatGPT帶來的AI熱潮中，繼百度之后，360、華為、騰訊、阿里甚至是科大訊飛、商湯、創(chuàng)維等企業(yè)均表示將推出自己的大語言模型。

盡管ChatGPT及一眾主流大模型背后的芯片主力仍是GPU，但嚴峻的挑戰(zhàn)已經(jīng)擺到眼前：生成式AI所需計算量不斷增加，而算力增長空間卻即將觸頂。

4月5日，OpenAI暫停ChatGPT Plus的注冊，隨后又重新恢復(fù)，其中原因是算力需求量超載。此前，ChatGPT還因訪問量過大而大規(guī)模封號，并禁止使用亞洲節(jié)點登錄，主要還是算力不足造成的。

盡管OpenAI踩下“剎車”，但大洋彼岸的A股算力概念股依舊掀起巨浪，一時間炙手可熱。業(yè)內(nèi)稱，如今AI的“iPhone時刻”已經(jīng)來臨，作為人工智能時代的底層基座，誰掌握了算力資源，誰就擁有了引領(lǐng)數(shù)字經(jīng)濟發(fā)展的“終極武器”。在這個歷史性的變革時刻，中國不能缺席。

AI模型開啟算力軍備競賽

作為人工智能三大核心要素（數(shù)據(jù)、算法、算力）之一，算力被譽為人工智能“發(fā)動機”。在AI風暴的催化下，浪潮中的AI大算力芯片公司面臨著摩爾定律瀕臨極限之外的技術(shù)挑戰(zhàn)：以更低的系統(tǒng)成本、更少的能源消耗，支撐起龐大且持續(xù)增加的參數(shù)量所帶動的高算力需求。

根據(jù)OpenAI測算，自2012年以來全球頭部AI模型訓(xùn)練算力需求每3-4個月翻一番，每年頭部訓(xùn)練模型所需算力增幅高達10倍。AI深度學(xué)習(xí)正在逼近現(xiàn)有芯片的算力極限，也對芯片設(shè)計廠商提出了更高要求。

在技術(shù)架構(gòu)層面，AI芯片可分為GPU（圖形處理器）、ASIC（專業(yè)集成電路）、FPGA（現(xiàn)場可編程門陣列）和類腦芯片。隨著現(xiàn)象級AI產(chǎn)品ChatGPT的走紅，以大型語言模型為代表的前沿AI技術(shù)走向聚光燈之下，這類模型所需的數(shù)據(jù)量、計算量龐大，成本高昂。

例如，目前采購一片英偉達頂級GPU成本為8萬元，GPU服務(wù)器成本超過40萬元。對于ChatGPT而言，支撐其算力基礎(chǔ)設(shè)施至少需要上萬顆英偉達GPU A100，一次模型訓(xùn)練成本超過1200萬美元。

根據(jù)浙商證券研報，ChatGPT背后的算力支撐主要來自GPU或CPU+FPGA。由于具備并行計算能力，可兼容訓(xùn)練和推理，GPU目前被廣泛應(yīng)用。

除了GPU以外，CPU+FPGA的方案也能夠滿足AI龐大的算力需求。FPGA全稱為現(xiàn)場可編程門陣列，是一種可以重構(gòu)電路的芯片。作為可編程芯片，F(xiàn)PGA芯片可以針對特定功能進行擴展。通過與CPU結(jié)合，F(xiàn)PGA能夠?qū)崿F(xiàn)深度學(xué)習(xí)功能，兩者共同應(yīng)用于深度學(xué)習(xí)模型。

近期，英特爾透露，計劃將在今年推出15款新FPGA，這將刷新英特爾該品類的年度推新紀錄。其實在3月初，英特爾就發(fā)布了Agilex7 FPGA F-Tile，并配備FPGA收發(fā)器，其每個通道的帶寬都較上一代提升了一倍，在給產(chǎn)品提供更高的數(shù)據(jù)流量的同時也降低了功耗。

目前，F(xiàn)PGA領(lǐng)域的本土化程度較低。中國市場主要由賽靈思Xilinx（現(xiàn)已被AMD收購）和英特爾兩大廠商主導(dǎo)，占據(jù)了超過70%的市場份額。國內(nèi)廠商安路科技、紫光國微、復(fù)旦微電等總份額約為15%。

寒武紀作為科創(chuàng)板AI芯片第一股，是全球少數(shù)全面掌握AI芯片技術(shù)的企業(yè)之一。其產(chǎn)品矩陣涉及云端產(chǎn)品、邊緣產(chǎn)品和IP授權(quán)及軟件，前兩者對標英偉達、AMD，IP授權(quán)則對應(yīng)英國的ARM。云端芯片就是目前大語言模型最為需要的動能來源，在該領(lǐng)域，英偉達A100、H100系列占據(jù)金字塔頂尖位置。

作為追趕者，寒武紀推出了思元系列，思元290、思元370等已經(jīng)進入浪潮、聯(lián)想、阿里云等多家頭部客戶。去年3月，寒武紀正式發(fā)布新款訓(xùn)練加速卡“MLU370-X8”，其搭載了思元370，主要面向AI訓(xùn)練任務(wù)。

差距懸殊，彎道難以超車

作為當前唯一可以實際處理ChatGPT的GPU供應(yīng)商，英偉達是當之無愧的“AI算力王者”。

6年前，黃仁勛親自向OpenAI交付了第一臺搭載A100芯片的超級計算機，幫助后者創(chuàng)造ChatGPT，并成為AI時代的引領(lǐng)者。

在2023年3月22日召開的GTC大會上，黃仁勛又展示了速度比現(xiàn)有技術(shù)快10倍的英偉達HGX A100，可將大語言模型的處理成本降低一個數(shù)量級。

目前，英偉達市值飆升到6678億美元（約合4.6萬億人民幣），幾乎是傳統(tǒng)芯片巨頭英特爾市值的五倍，成為全球最大市值的芯片企業(yè)。英偉達在PC的GPU市場上占據(jù)了近70%的份額，在獨顯市場的份額更是高達70%-80%。

據(jù)TrendForce分析，運行1800億參數(shù)的GPT-3.5大型模型需要2萬顆GPU芯片，大模型商業(yè)化的GPT則需要超過3萬顆。

然而，根據(jù)相關(guān)報道，國內(nèi)目前擁有超1萬顆GPU的企業(yè)不超過5家，擁有1萬顆英偉達A100芯片的可能最多只有一家，絕大部分中國公司都只能采購英偉達的中低端性能產(chǎn)品。

即使國內(nèi)頭部公司，從算力上跟美國的英偉達等公司相比，差距也非常明顯。

就GPU細分賽道而言，國內(nèi)自研GPU的領(lǐng)軍企業(yè)主要包括景嘉微、壁仞科技、芯動科技等。其中，其中，景嘉微是成立最早的一家，自2006年開始研發(fā)擁有自主知識產(chǎn)權(quán)的GPU產(chǎn)品，現(xiàn)在已經(jīng)推出了一系列產(chǎn)品線，且均采用國內(nèi)成熟制程工藝和自主架構(gòu)。

景嘉微的主打產(chǎn)品是JH920獨立顯卡。根據(jù)行業(yè)專家的評測，從性能參數(shù)上來看，JH920的性能與英偉達2016年發(fā)布的GTX 1050相當，雖然兩者僅相差6年，但由于GTX 1050是英偉達10系列顯卡中的入門級產(chǎn)品，無法代表當時的整體水平。

要想找到與GTX 1050性能相當?shù)挠ミ_產(chǎn)品，需要回溯到2010年推出的GTX 580，這意味著景嘉微JH920基本上達到了英偉達12年前的水平。

所以整體而言國產(chǎn)GPU的現(xiàn)狀并不算樂觀，雖然在特殊領(lǐng)域能夠自給自足，但在中高端領(lǐng)域依舊捉襟見肘。

與此同時，中美地緣關(guān)系的博弈氣息日漸濃厚，這給高度依賴先進制程的AI芯片創(chuàng)業(yè)公司提出了技術(shù)之外的新難題。

去年，在美國總統(tǒng)拜登正式簽署芯片法案（《CHIPS and Science Act》）一個月之后，美國政府對華實施了高端GPU芯片的出口禁令。同時，國內(nèi)GPU設(shè)計商壁仞科技的GPU芯片BR100在臺積電的試產(chǎn)也被迫叫停并主動修改設(shè)計，以滿足出口禁令的要求。

A100和H100被禁止后，中國企業(yè)只能奢望其替代品A800和H800。2022年11月7日，英偉達向中國的供應(yīng)商提供其重新封裝的A800芯片。據(jù)稱，國內(nèi)幾家頭部互聯(lián)網(wǎng)企業(yè)都向英偉達下了1.5萬左右的A800和H800訂單。但即使是最佳替代品A800，也只是A100的“閹割版”，其傳輸速度和運算性能較A100下降了50%。

被美國等國聯(lián)合封堵的我們，或許在較長時間內(nèi)都無法制造出比肩英偉達等國際頂級公司的高水準AI芯片。面對一個新的時代，我們又該如何破局？

換道行駛，續(xù)命摩爾定律

一直以來，頭部廠商通過不斷提升制程工藝和擴大芯片面積推出算力更高的芯片產(chǎn)品。雖然GPU、CPU＋FPGA等芯片已經(jīng)對現(xiàn)有模型構(gòu)成底層算力支撐，在應(yīng)對生成式AI及大模型對算力基礎(chǔ)設(shè)施提出的新要求，都多少顯得有些捉襟見肘。

伴隨著摩爾定律逼近物理極限，制程升級和芯片面積擴大帶來的收益邊際遞減，架構(gòu)創(chuàng)新或成為提升芯片算力另辟蹊徑的選擇。

Chiplet及先進封裝方案能夠彌補先進制程落后的劣勢，通過將來自不同生產(chǎn)廠商、不同制程工藝的芯片組件“混搭”，降低實現(xiàn)目標性能所需的成本。研究數(shù)據(jù)顯示，當5nm芯片的面積達到200㎜2以上，采用5Chiplet方案成本將低于單顆SoC，并將大幅降低因面積增加帶來的良率損失。

除了成本和良率端的優(yōu)勢，Chiplet技術(shù)帶來高速的Die to Die互連，使多顆計算芯粒得以集成在一顆芯片中，實現(xiàn)算力的大幅提升。

臺積電是Chiplet工藝的領(lǐng)軍者，目前其技術(shù)平臺下有CoWoS、InFO、SoIC三種封裝工藝。其中，早在2016年英偉達Tesla P100 AI數(shù)據(jù)中心GPU就已經(jīng)應(yīng)用CoWoS工藝，AMD的最新GPU、CPU也廣泛采用了該工藝。此外，三星、Intel等龍頭廠商亦推出了各自用于Chiplet的封裝技術(shù)，如三星I-Cube（2.5D封裝），X-Cube（3D封裝），英特爾EMIB（2.5D封裝），英特爾Foveros（3D封裝）。

不止在國際，近幾年Chiplet在中國大陸也非常火爆，特別是美國開始打壓中國半導(dǎo)體業(yè)以來。Chiplet既能減少先進制程用量，同時又能帶來先進制程的好處，這為國內(nèi)芯片企業(yè)提供“換道行駛”的機會。

目前國內(nèi)封測巨頭相關(guān)技術(shù)積累已初顯成效。例如長電科技的XDFOI Chiplet高密度多維異構(gòu)集成系列工藝已進入穩(wěn)定量產(chǎn)階段；通富微電與AMD密切合作，已大規(guī)模生產(chǎn)7nm Chiplet產(chǎn)品；華天科技的Chiplet系列工藝也實現(xiàn)量產(chǎn)。

Chiplet設(shè)計主要用于大型CPU和GPU等處理器。雖然當下國產(chǎn)CPU特別是大芯片與國際大廠存在明顯差距，但華為海思、寒武紀科技等少數(shù)企業(yè)正重點研發(fā)并采用7nm及更先進制程的服務(wù)器芯片和AI芯片。

在GPU方面，英偉達等國際GPU龍頭企業(yè)已經(jīng)構(gòu)建了牢固的專利墻。無論是老牌企業(yè)如景嘉微和海光，還是新興創(chuàng)業(yè)公司，如芯動科技、壁仞科技、摩爾線程、沐曦集成電路、天數(shù)智芯等，大多還處于發(fā)展初期，且所設(shè)計的芯片規(guī)模有限，采用Chiplet設(shè)計的還不多。

不過，一些GPU企業(yè)，特別是創(chuàng)業(yè)公司，雖然短期內(nèi)難以在大芯片領(lǐng)域形成規(guī)模，但長期發(fā)展前景仍值得期待。例如，近幾年天數(shù)智芯在云端GPGPU方面異軍突起，其推出的7nm制程云端訓(xùn)練和推理GPGPU，能夠為云端AI訓(xùn)練和HPC通用計算提供高算力和高能效比。類似這樣的芯片成為中國本土Chiplet技術(shù)發(fā)展的希望。

近期，中國成立了自己的Chiplet聯(lián)盟，由多家芯片設(shè)計、IP、以及封裝、測試和組裝服務(wù)公司組成，并推出相應(yīng)的互連接口標準ACC 1.0。這一聯(lián)盟的成立，頗有與由AMD、Arm、英特爾、臺積電等主導(dǎo)的UCIe聯(lián)盟分庭抗禮的意味，也反映出中國相關(guān)企事業(yè)單位要從底層做起，發(fā)展本土Chiplet的愿望。

通過標準的設(shè)立，可以將自己生產(chǎn)的芯片變成Chiplet企業(yè)使用的“標準產(chǎn)品”，被不斷地集成到各種終端應(yīng)用中，從而為芯片行業(yè)開辟出一片新天地。

結(jié)尾

算力的每一次提升，都掀起技術(shù)與產(chǎn)業(yè)變革的浪潮：CPU帶領(lǐng)人類進入PC時代，移動芯片掀起移動互聯(lián)網(wǎng)浪潮，而AI芯片打破了AI產(chǎn)業(yè)此前長達數(shù)十年的算力瓶頸。如今，“人工智能的iPhone時刻”已經(jīng)來臨，走向下一個時代的路，或許早已擺在我們眼前。

正如阿里巴巴集團董事會主席張勇所言，面向AI時代，所有產(chǎn)品都值得用大模型重新升級。過去一年消費電子的低迷使得一些GPU公司的產(chǎn)品找不到應(yīng)用場景。但隨著ChatGPT出現(xiàn)，相關(guān)芯片的應(yīng)用場景開始增加，并發(fā)展成AI基礎(chǔ)研究和產(chǎn)業(yè)化落地的一大趨勢。

AI往前發(fā)展，超高算力需求毋庸置疑AI大算力芯片技術(shù)提供了一種可行的解決方案。未來幾年，中美兩國將成為大模型的主要誕生地，并不計成本地帶動對算力芯片的需求。不管是彎道超車還是換道行駛，在這場AI的征途中，中國算力企業(yè)萬象競逐的畫卷才剛剛展開。