新聞中心

EEPW首頁 > 消費(fèi)電子 > 市場(chǎng)分析 > ?CPU 開始淪為配角

?CPU 開始淪為配角

作者: 時(shí)間:2023-10-10 來源:半導(dǎo)體產(chǎn)業(yè)縱橫 收藏

最近,財(cái)務(wù)長(zhǎng) DavidZinsner 表示,雖然數(shù)據(jù)中心芯片需求在過去兩季有所好轉(zhuǎn),但庫存消化將比電腦芯片更長(zhǎng),可能還要過幾季才能達(dá)到較佳的狀態(tài)。在這個(gè) 被炒的火熱的時(shí)代,當(dāng)說數(shù)據(jù)中心芯片的庫存正在積壓,出乎很多人的意料。

本文引用地址:http://m.butianyuan.cn/article/202310/451318.htm

前所未有的壓力

產(chǎn)業(yè)正同時(shí)經(jīng)歷「加速運(yùn)算」和「生成式 」兩大轉(zhuǎn)變。據(jù) Gartner 最新報(bào)告,2023 年全球用于 的硬件銷售收入預(yù)計(jì)將達(dá)到 534 億美元,按年增長(zhǎng) 20.9%,這一銷售還將在 2024 年進(jìn)一步增長(zhǎng)到 671 億美元,在 2027 年進(jìn)一步增長(zhǎng)到 1194 億美元。

今年,不少互聯(lián)網(wǎng)公司紛紛開發(fā)自己的大模型。3 月,百度制作了類似 ChatGPT 的項(xiàng)目 ErnieBot;4 月,騰訊云發(fā)布了新的服務(wù)器集群,該集群可供其他人租用計(jì)算能力;阿里巴巴計(jì)劃將所有產(chǎn)品插入大型語言模型,包括在線購(gòu)物平臺(tái)淘寶和地圖工具高德地圖。

據(jù)報(bào)道,目前百度、騰訊、阿里巴巴和字節(jié)跳動(dòng)四家公司合計(jì)向英偉達(dá)訂購(gòu)了價(jià)值 50 億美元的 AI 芯片。這些芯片包括英偉達(dá) 2023 年發(fā)貨的 10 萬塊 A800 芯片,價(jià)值 10 億美元,另外價(jià)值 40 億美元的芯片將在 2024 年交付。

數(shù)據(jù)中心芯片風(fēng)光一時(shí)無兩。目前,數(shù)據(jù)中心領(lǐng)域有三大巨頭:、英偉達(dá)、AMD。在數(shù)據(jù)中心 CPU 方面,根據(jù) Counterpoint 數(shù)據(jù),2022 年英特爾以 71% 的份額保持?jǐn)?shù)據(jù)中心市場(chǎng)的領(lǐng)先地位,AMD 以 20% 的市場(chǎng)份額位居第二。

在數(shù)據(jù)中心 GPU 方面,英偉達(dá)不僅占有一席之地,甚至可以說幾乎「壟斷」。英偉達(dá)數(shù)據(jù)中心產(chǎn)品的客戶主要來自云服務(wù)商和大型互聯(lián)網(wǎng)公司,它們貢獻(xiàn)了英偉達(dá)大約一半的數(shù)據(jù)中心收入。英偉達(dá)的 GPU 用于 ChatGPT 等人工智能應(yīng)用程序背后大模型的訓(xùn)練和推理,目前科技公司對(duì)英偉達(dá)最高端的人工智能芯片 H100 的需求極大。

從今年的業(yè)績(jī)來看,英偉達(dá)是毋庸置疑的收入暴漲,尤其是在數(shù)據(jù)中心領(lǐng)域,在英偉達(dá)公布的截至 7 月 30 日的季度財(cái)報(bào)中,英偉達(dá)數(shù)據(jù)中心業(yè)務(wù)收入增長(zhǎng) 141% 至 103 億美元,占其總收入比超過 76%。按照這種趨勢(shì),有分析師估計(jì),到 2025 財(cái)年,英偉達(dá)的數(shù)據(jù)中心部門收入將擴(kuò)大到 400 億美元。

英偉達(dá)如此強(qiáng)勢(shì),其他兩大巨頭自然頗受影響。

AMD 對(duì)數(shù)據(jù)中心同時(shí)供應(yīng) CPU、GPU、FPGA、DPU 和 SoC,二季度 AMD 的數(shù)據(jù)中心業(yè)務(wù)下滑了。根據(jù)其財(cái)報(bào)數(shù)據(jù),AMD 數(shù)據(jù)中心營(yíng)收為 13.21 億美元,同比下滑 11%。AMD 坦言,報(bào)告期內(nèi)的 Epyc 處理器銷售沒有預(yù)期那么好,而且加大的研發(fā)支出也攤薄了利潤(rùn)率。

從二季度的業(yè)績(jī)來看,英特爾數(shù)據(jù)中心和人工智能業(yè)務(wù)銷售額從去年同期的 47 億美元下降 15% 至 40 億美元。英特爾首席執(zhí)行官帕特·基辛格表示,服務(wù)器 CPU 的庫存過剩將持續(xù)到今年下半年,數(shù)據(jù)中心芯片銷售將在第三季度小幅下降,在第四季度恢復(fù)。

對(duì)于英特爾抱怨數(shù)據(jù)中心芯片庫存積壓,分析師陸行之表示:「庫存難消耗有兩種原因,一是產(chǎn)能利用率維持高檔不墜、超過穩(wěn)定需求,二是需求下降速度快過產(chǎn)能利用率下降速度。」他認(rèn)為,英特爾在數(shù)據(jù)中心早已喪失話語權(quán)。依據(jù)預(yù)算的排擠效應(yīng),每買一臺(tái) AI 服務(wù)器,就少買幾臺(tái)通用服務(wù)器,即使功用不盡相同,但這趨勢(shì)應(yīng)該會(huì)持續(xù)數(shù)個(gè)季度,甚至數(shù)年。

一臺(tái) AI 服務(wù)器價(jià)格比通用服務(wù)器貴 20 倍以上,也因此客戶無法大幅加碼服務(wù)器采購(gòu)預(yù)算,只能少買數(shù)臺(tái)通用服務(wù)器。如果一臺(tái) AI 服務(wù)器使用兩顆英特爾的 CPU,假設(shè)少買三臺(tái),那就少了 6 顆比較便宜的 CPU 需求,也就是為什么英特爾的 CPU 庫存被積壓。

實(shí)際上,不止陸行之認(rèn)為英特爾在數(shù)據(jù)中心早已喪失話語權(quán)。Global X 分析師 Tejas Dessai 也認(rèn)為,英特爾等對(duì)于 AI 著墨不深的傳統(tǒng)芯片企業(yè),恐面臨市占率下滑窘境。也有業(yè)內(nèi)人士表示,生成式 AI 改變了數(shù)據(jù)中心平臺(tái)的戰(zhàn)局,英特爾、AMD 正面臨前所未有的壓力。

CPU 開始淪為配角

今年的市場(chǎng)中,通用服務(wù)器和 AI 服務(wù)器需求出現(xiàn)了兩極分化。

AI 服務(wù)器和通用服務(wù)器的差異是什么?實(shí)際上,比起通用服務(wù)器以 CPU 為主要算力,AI 服務(wù)器則是以 GPU 為主要架構(gòu),通過異質(zhì)運(yùn)算架構(gòu)提高運(yùn)算能力。目前依據(jù)應(yīng)用的類型,AI 服務(wù)器可以分為訓(xùn)練和推理兩種。

從前電腦、服務(wù)器最重要的零組件是 CPU,但隨著需要大量運(yùn)算能力的 AI 應(yīng)用出現(xiàn)后,CPU 開始淪為配角,GPU 的時(shí)代開啟了。

從目前 AI 服務(wù)器的市場(chǎng)來看,一張主板需要 1~8 個(gè) GPU、1~2 個(gè) CPU,以及 1 個(gè) Arm Grace CPU,其中英偉達(dá)的 GPU 市場(chǎng)占有率超過 8 成,并以運(yùn)算效能達(dá) 5 PetaFLOPS 的 DGX A100 和 H100 為 AI 服務(wù)器運(yùn)算主力。

即使英偉達(dá)的 GPU 價(jià)格高昂,但是效率是遠(yuǎn)高于其他產(chǎn)品的。一起來算一筆賬,假設(shè)建置數(shù)據(jù)中心預(yù)算為 1000 萬美元,可以選擇建置 1 座搭載 960 顆 CPU、電力消耗達(dá) 11GW 的數(shù)據(jù)中心,可提供 1 倍的大型語言模型 LLM 處理性能;但是選擇建置 1 座有 48 顆 GPU、功耗僅需 3.2GW 的數(shù)據(jù)中心,且 LLM 資料處理量是 CPU 的 44 倍。

從綜合成本收益來看,還是占優(yōu)。更何況英偉達(dá) GPU 在人工智能的推理和計(jì)算方面獨(dú)具優(yōu)勢(shì)。因此一些財(cái)務(wù)實(shí)力不雄厚甚至負(fù)債累累的初創(chuàng)企業(yè)也在搶購(gòu)英偉達(dá)芯片。這也就是為什么黃仁勛之前表示:買的越多,省的越多 (The more you buy,the more you save.)。

在 15 年前,黃仁勛就表示,CUDA 運(yùn)算效果較 CPU 高出 10~100 倍。GPU 應(yīng)用能力早已不亞于 CPU,甚至更勝一籌,自家 GPU 持續(xù)擴(kuò)大生態(tài)系統(tǒng)(ecosystem),全新視覺運(yùn)算世代即將來臨。今年,黃仁勛更是直接說到:「盡管 CPU 過去幾年運(yùn)算速度不斷提升,但進(jìn)入 AI 時(shí)代后,以 CPU 為運(yùn)算基礎(chǔ)的時(shí)代已經(jīng)結(jié)束,現(xiàn)在大型語言模型 (LLM) 需要更新的解決方案?!?/p>

業(yè)界分析師估計(jì),AI 芯片市場(chǎng)有超過 8 成掌握在英偉達(dá)手里。在一篇名為《Nvidia H100 GPU:供需》文章中,深度剖析了當(dāng)前科技公司們對(duì) GPU 的使用情況和需求。文章推測(cè),小型和大型云提供商的大規(guī)模 H100 集群容量即將耗盡,H100 的需求趨勢(shì)至少會(huì)持續(xù)到 2024 年底。不過,目前英偉達(dá) GPU 的產(chǎn)能受到供應(yīng)鏈的限制,給英特爾和 AMD 反超的機(jī)會(huì)。

AI 趨勢(shì)下,英特爾、AMD 能分到一杯羹嗎?

英特爾不會(huì)放過 AI 發(fā)展的浪潮。今年英特爾在加州圣何塞舉辦 Innovation 2023 活動(dòng)中,AI 是貫穿始終的主旋律。

演講開篇,英特爾執(zhí)行長(zhǎng)帕特·基辛格便表示,AI 正在催生全球增長(zhǎng)的新時(shí)代,在新時(shí)代當(dāng)中,算力便起到了重要的作用,開發(fā)者正迎來巨大的商業(yè)和社會(huì)機(jī)會(huì)——算力離不開芯片,如今芯片形成了規(guī)模達(dá) 5740 億美元的行業(yè),驅(qū)動(dòng)著全球背后約 8 萬億美元的技術(shù)經(jīng)濟(jì)。

數(shù)據(jù)中心方面,英特爾將數(shù)據(jù)中心芯片分為兩類,包括著重效能但耗能更高的 Granite Rapids 芯片,以及聚焦能源效率的 Sierra Forest 芯片。目前英特爾新款數(shù)據(jù)中心芯片「Sierra Forest」已經(jīng)預(yù)定明年上市,每瓦性能將比目前的數(shù)據(jù)中心芯片提高 240%。這是英特爾首次披露這類數(shù)據(jù),對(duì)性能的提前披露,也能看出英特爾頗為著急。

看一下 Granite Rapids 和 Sierra Forest 這兩款數(shù)據(jù)中心芯片的具體細(xì)節(jié)。Sierra Forest,它是英特爾首款用于數(shù)據(jù)中心的 E 核 Xeon 可擴(kuò)展芯片,還是基于 EUV 的 Intel 3 工藝的主導(dǎo)產(chǎn)品。Granite Rapids 可將 AI 工作負(fù)載性能提升 2-3 倍,實(shí)現(xiàn) 2.8 倍的更好內(nèi)存帶寬,內(nèi)存模組 MCR DIMM 帶寬可提高 30-40%。

英特爾預(yù)估,在 AI 戰(zhàn)場(chǎng),還需要幾年時(shí)間,應(yīng)該就可以追上 NVIDIA 在高端 AI 相關(guān)的進(jìn)展,除此之外,英特爾在 H 是具有高度優(yōu)勢(shì),H 與 AI 未來是會(huì)匯聚,英特爾除了 AI 持續(xù)進(jìn)展,HPC 更具有優(yōu)勢(shì)。

AMD 也在發(fā)力。AMD 也跟英特爾一樣面臨產(chǎn)品推出時(shí)機(jī)落后的問題,旗艦 AI 芯片 MI300 目前僅少量送樣,要到明年才會(huì)上市。AMD 數(shù)據(jù)中心硬件部門主管諾羅德(Forrest Norrod)表示,ChatGPT 引爆的 AI 熱潮是 AMD 始料未及的。

目前,AMD 已經(jīng)將人工智能作為分配資源和投資的首要領(lǐng)域。AMD 正在增加 AI 相關(guān)的研發(fā)支出,并已經(jīng)制定 AI 戰(zhàn)略——包括 AI 專用芯片和軟件的開發(fā)。

對(duì)標(biāo)英偉達(dá) AI 芯片 H100 的大模型專用芯片,AMD 的 MI300X 號(hào)稱 HBM 密度高達(dá)英偉達(dá) H100 的 2.4 倍,HBM 帶寬高達(dá) H100 的 1.6 倍,單個(gè)芯片可運(yùn)行多達(dá) 800 億參數(shù)的模型,可以運(yùn)行比 H100 更大的模型。

也有市場(chǎng)機(jī)構(gòu)看好 AMD,Northland 資本市場(chǎng)分析師理查(Gus Richard)預(yù)期,AMD 未來可望在 AI 芯片市場(chǎng)拿下 20%市占率。他認(rèn)為除了 AMD 芯片表現(xiàn)不凡之外,AMD 與大型數(shù)據(jù)中心的合作關(guān)系也有利 AI 芯片銷售。

值得注意的是,從晶圓代工的角度來看,數(shù)據(jù)中心芯片對(duì)高級(jí)節(jié)點(diǎn)的需求不斷增加。AMD 在最近 5 年中崛起,并且在 PC、服務(wù)器領(lǐng)域能夠威脅英特爾,其 2018 年宣布擁抱臺(tái)積電 7nm 是個(gè)關(guān)鍵決定。而英偉達(dá)也一直和臺(tái)積電關(guān)系緊密,盡管部分產(chǎn)品因分散風(fēng)險(xiǎn)、價(jià)格考量而轉(zhuǎn)由三星代工,如先前的 RTX 30 系列,但面臨三星制程技術(shù)落后下,最終 RTX 40 系列也回歸臺(tái)積電。

不管怎么說,在英特爾和 AMD 最新的數(shù)據(jù)中心芯片明年大量出貨之前,英偉達(dá)的高端 GPU 沒有抗打的對(duì)手。



關(guān)鍵詞: PC 英特爾 AI

評(píng)論


相關(guān)推薦

技術(shù)專區(qū)

關(guān)閉