國產(chǎn)GPU距離“平替”英偉達還有多遠?

會上，阿里巴巴的通義千問、智譜AI基座大模型、商湯科技的Vimi可控人物視頻生成模型等“鎮(zhèn)館之寶”充分發(fā)揮，展示了其強大的AGI能力。引人注目的效果。但除了在觀眾面前展示AI前端效果的大型模型外，國產(chǎn)AI的基地：國產(chǎn)算力也集中亮相。國內一大批AI芯片企業(yè)密集展示產(chǎn)品線。這些產(chǎn)品線涵蓋訓練到推理，包括設備端和云端，無論是通用GPU還是搭載各種場景的AI加速卡，可以說給英偉達帶來了“小小的中國震撼”。

當觀眾徜徉在國內算力博物館，觀察完整的產(chǎn)品線和出色的單卡性能時，直觀的感受就是這個行業(yè)“百花齊放”、“生機勃勃”。與大洋彼岸相比，并不遜色多少。但當我每天打開新聞看到對方不斷收緊的制裁時，似乎很難支持“國產(chǎn)AI芯片”正處于行業(yè)爆發(fā)期的結論。那么我們今天必須面對的問題是：眼前的“繁榮”可能嗎？基礎扎實嗎？

國產(chǎn)大模型的蓬勃發(fā)展遭遇國外芯片制裁。就像割下一塊純鈉扔進水池里一樣，瞬間引爆了國內GPU市場。

如果縱觀中國芯片自主化的緊迫歷史，從早期的龍芯、飛騰沖擊Wintel聯(lián)盟，到松山湖的麒麟芯片之戰(zhàn)，業(yè)界的注意力一直集中在設備的核心處理器上，所以CPU類型的核心從政府和投資者的角度來看是一個更核心的突破點。已獲得政府新創(chuàng)訂單及大量資金投入。2023年底麒麟的回歸，是對國產(chǎn)芯片外部封鎖的一個強力反擊。

但在處理器前端取得突破的同時，曾經(jīng)的側翼戰(zhàn)場GPU卻突然轉戰(zhàn)主戰(zhàn)場。隨著2023年大型AI模型的出現(xiàn)，作為大模型引擎的GPU的需求急劇增加。英偉達2023年營收增長125%，2024年第一季度報告將增長262%，速度無與倫比。將其他芯片巨頭拋在了后面。

相比之下，計算機時代的芯片王者英特爾和移動互聯(lián)網(wǎng)時代的王者高通，合計市值剛剛超過3000億美元，不到英偉達的1/8。新國王們面臨著人工智能培訓的旺盛需求。英偉達登上了王位。

但尷尬的是，美國人并不打算在這次人工智能熱潮中給中國留一張頭等艙機票。在美國政府的要求下，英偉達和AMD只能切斷A100、H100等高端GPU型號的供應，轉而向中國提供H20等“中國特別版”產(chǎn)品。“特別版”相對于“正版”來說有點雞肋。在一些科技媒體的評測中，H20的綜合算力僅相當于H100的20%，而且由于其他硬件配置的加入，算力成本大幅增加。

在這種半卡頓的局面下，國產(chǎn)大模型與國產(chǎn)AI芯片的協(xié)同自然就成了理所應當?shù)氖虑?。此外，中國對算力中心的強勁需求也給國產(chǎn)GPU帶來了巨大的市場。要知道，截至2023年底，我國數(shù)據(jù)中心機架總規(guī)模已超過810萬個，算力總規(guī)模達到驚人的230EFlops，成為僅次于美國的算力第一大國。

所以我們也可以看到國產(chǎn)芯片在數(shù)據(jù)中心落地的非常實際的案例：

壁仞科技成為中國電信算力合作伙伴，配備必利系列通用GPU算力。該產(chǎn)品的中國移動智能計算中心（呼和浩特）已于近日成功上線。該智能計算中心屬于國家N節(jié)點萬卡訓練場，單機算力達到6.7EFLOPS（FP16）。也驗證了壁仞聲稱的產(chǎn)品可以應用于千卡集群建設方案，并可以擴展到萬卡規(guī)模。 

摩爾線程還為其AI旗艦產(chǎn)品KUAE推出了一整套解決方案，包括KUAE集群管理平臺（KUAE Platform）和KUAE大模型服務平臺（KUAE ModelStudio）。這是針對萬卡數(shù)據(jù)中心在這么多計算卡高速連接的情況下如何保持穩(wěn)定運行和高效計算資源分配的問題。同時還簽約了青海零碳產(chǎn)業(yè)園萬卡集群項目、青海高原庫阿埃萬卡集群項目、廣西東盟萬卡集群項目。

除了云端之外，客戶端能夠匹配大型AI模型的需求也是很多AI芯片公司的切入點。另外不可忽視的一點是，國內資本市場也為GPU行業(yè)的發(fā)展帶來了巨大的支持。

可以說，國產(chǎn)計算中心、國產(chǎn)大機型正在從硬件配套和軟件生態(tài)兩個方向支撐國產(chǎn)。這是國內GPU玩家敢于與國際巨頭周旋的底氣。但是，一切真的有那么合乎邏輯嗎？

A股GPU第一股：景嘉微2024年第一季度實現(xiàn)營收1.08億元，盡管同比增長66.27%。據(jù)新聞報道和券商研報顯示，算力頭部公司寒武紀一季度營收為2500萬。從人工智能應用端轉型開發(fā)人工智能芯片的云天勵飛，2023年芯片營收將達到2400萬元。

芯片企業(yè)在一級市場的收入不透明。有的公司估值達數(shù)十億甚至數(shù)百億。在每天發(fā)布的合作和訂單協(xié)議的背景下，實際交付的收入只有幾千萬。。

可以說，熱鬧之下，大多數(shù)“戰(zhàn)略合作”和“戰(zhàn)略簽約”更像是示范而不是實際執(zhí)行。

我不得不承認一個現(xiàn)實。單純用紙面參數(shù)去PK NVIDIA 并沒有多大意義。千億參數(shù)的大模型及其背后的萬卡數(shù)據(jù)中心穩(wěn)定、持續(xù)、高效的運行從來都不是單點。維度問題從來都不是一朝一夕就能完成的事情。

事實上，即使是最簡單的大模型評估維度也至少包含5個方面：

對于每一款國產(chǎn)GPU來說，可能都有一個亮點。比如，華為的單卡性能可能并不弱于NVIDIA，百度的昆侖芯片在支持自家文心一言等大型模型的訓練效率上有著顯著的優(yōu)勢。不過，只有NVIDIA能做到五邊形勇士，其他人如果五邊形缺了一個角，就很難落地。。

例如，CUDA生態(tài)系統(tǒng)被認為是Nvidia的護城河之一。可以說，如果沒有CUDA，大多數(shù)程序員都不知道如何在GPU硬件平臺上進行開發(fā)。其軟件生態(tài)已滲透到人工智能、科研等領域的方方面面。百度前首席科學家吳恩達評論道：在CUDA出現(xiàn)之前，全球會用GPU編程的人可能不超過100人，但目前全球有數(shù)百萬CUDA開發(fā)者。

這一切都得益于NVIDIA早在2006年就大力支持CUDA系統(tǒng)在AI領域的研發(fā)和推廣。當時，NVIDIA每年投入5億美元的研發(fā)資金來不斷更新和維護CUDA，而其同期營收僅為30億美元。同時，NVIDIA還允許美國大學和科研機構免費使用CUDA系統(tǒng)，讓CUDA系統(tǒng)在AI和通用計算領域迅速開花結果。

在支持大型機型領域，NVIDIA很早就走在了大家的前列。很少人知道的是，NVIDIA在2016年斥巨資打造了全球首臺AI超級計算機DGX-1后，首先將其捐贈給了尚處于起步階段的Open AI，并且還與大模型生態(tài)系統(tǒng)形成了早期聯(lián)盟。它有著深厚的淵源。

在高功率芯片互連領域，NVlink也領先于競爭對手，就連美國顯卡巨頭AMD也不得不落后。一個常識是，GPU的計算能力不會簡單疊加。無論單筆數(shù)據(jù)交易有多高，如果沒有好的連接技術，1+1從一開始就小于2。10+10能否達到15還有一個問號。

當其他廠商還僅限于傳統(tǒng)的 PCIe 時，NVIDIA 也已經(jīng)布局了 10 多年。早在2014年，NVIDIA就發(fā)布了NVLink 1.0，并在P100 GPU芯片之間實現(xiàn)，已經(jīng)是當時PCle 3傳輸速度的5倍；2020年，NVIDIA完成了對Mellanox的收購，獲得了InfiniBand、Ethernet、SmartNIC、DPU和LinkX的互聯(lián)能力，更加強大；現(xiàn)在，NVlink可以在每個GPU之間實現(xiàn)高達每秒600GB的帶寬，比PCIe 4.0高出十倍。

因此，在一些評論家眼中，英偉達是一條“三頭龍”。其強大的GPU算力、豐富的軟件生態(tài)、高速廣連接使其構筑了攻守兼?zhèn)?、難以突破的產(chǎn)品防線。。一旦你試圖規(guī)避它的生態(tài)，你可能會面臨購買萬卡卻只能擺脫千卡算力數(shù)據(jù)封鎖的困境。你在編程開發(fā)過程中也可能會遇到?jīng)]有合適的應用程序開發(fā)工具的問題。這種損失對于投入巨資的AI算力中心來說無疑是難以接受的，對于工程量極大、優(yōu)化工作繁重的大型模型開發(fā)者來說也是難以承受的。

更顯著的差距是，英偉達仍在急于為客戶降低成本。