英特爾Gaudi 3價(jià)格曝光:對(duì)華特供版或僅為英偉達(dá)H20的一半!
6月7日消息,雖然目前在AI加速芯片市場(chǎng),英偉達(dá)可謂是一家獨(dú)大,占據(jù)了大約超過90%的市場(chǎng)份額,但是英偉達(dá)AI加速芯片的供應(yīng)瓶頸和高昂的價(jià)格也讓不少客戶頗有微詞。
對(duì)此,AMD和英特爾也在持續(xù)推出更具性價(jià)比AI加速芯片來爭(zhēng)奪市場(chǎng)份額。根據(jù)最新披露的數(shù)據(jù)顯示,英特爾新推出的 Gaudi 3 的價(jià)格僅為15,650美元左右,只有英偉達(dá)H100 80G版本價(jià)格的一半左右。
資料顯示,Gaudi 3將基于臺(tái)積電5nm工藝,擁有 8 個(gè)矩陣數(shù)學(xué)引擎、64 個(gè)張量?jī)?nèi)核、96MB SRAM(每個(gè)Tile 48MB,可提供12.8 TB/s的總帶寬) 和 128 GB HBM2e 內(nèi)存,16 個(gè) PCIe 5.0 通道和 24 個(gè) 200GbE 鏈路 。在計(jì)算核心的周圍,則是八個(gè)HBM2e內(nèi)存堆棧,總?cè)萘繛?28 GB,帶寬為3.7 TBps。
根據(jù)英特爾官方公布的數(shù)據(jù)顯示,Gaudi 3 在流行的大語(yǔ)言模型(LLM)訓(xùn)練速度方面,比英偉達(dá)H100平均快了40%;在流行大模型的推理能效表現(xiàn)上,比如英偉達(dá)H100領(lǐng)先50%。英特爾 Gaudi 3 與英偉達(dá) H100 在相同節(jié)點(diǎn)數(shù)量下,相關(guān)大模型訓(xùn)練時(shí)間對(duì)比上最高快了1.7倍,其中,LLAMA2 70 億參數(shù)對(duì)比有 1.5 倍于 H100 的優(yōu)勢(shì),LLAMA2 130 億參數(shù)最高有 1.7 倍的優(yōu)勢(shì),GPT-3 1750 億參數(shù)有 1.4 倍優(yōu)勢(shì)。在大模型推理速度表現(xiàn)上,Gaudi 3 相比 H100 平均快了1.5倍,最高快了4倍。
英特爾CEO帕特·基辛格在Computex 2024展會(huì)上表示,其Xeon處理器與Gaudi系列加速器不僅具備高效能,整體成本低于其他平臺(tái)的三分之一,這兩款產(chǎn)品也可以整合在單一系統(tǒng)中,整體平臺(tái)也比其他競(jìng)爭(zhēng)者的解決方案更具競(jìng)爭(zhēng)力。
目前,英特爾Gaudi 3已經(jīng)上市,并且與戴爾、慧與科技、聯(lián)想、美超威、華碩、鴻海、技嘉、英業(yè)達(dá)、廣達(dá)和緯創(chuàng)展開合作。
根據(jù)Tirias Research 分析師 Jim McGregor 最新公布的數(shù)據(jù)顯示,英特爾集成了8個(gè)Gaudi 2 芯片的加速器售價(jià)為 65,000 美元,集成了8個(gè)Gaudi 3 芯片的加速器售價(jià)為 125,000 美元。這也意味著單個(gè) Gaudi 2 芯片價(jià)格約為 8,125 美元,而單個(gè) Gaudi 3 芯片價(jià)格約為 15,650 美元。當(dāng)然,這是批量購(gòu)買時(shí)的價(jià)格,如果采購(gòu)量更大,英特爾可能還會(huì)進(jìn)一步提供折扣。
對(duì)比之下,英偉達(dá)當(dāng)前熱銷的 H100 80GB 加速卡售價(jià)約為 30,000 美元。匯豐銀行預(yù)計(jì),基于 Blackwell 架構(gòu)的英偉達(dá)“入門級(jí)”下一代 B100 GPU 的平均售價(jià) (ASP) 將在 30,000 美元至 35,000 美元之間,與當(dāng)前的 H100 價(jià)格相當(dāng)(B100上市后,H100會(huì)進(jìn)一步降價(jià))。性能更強(qiáng)大的 GB200 則集成了一個(gè) Grace CPU 和兩個(gè) B200 GPU,預(yù)計(jì)售價(jià)在 60,000 美元至 70,000 美元之間。但是,需要注意的是,這些只是分析師的估計(jì),實(shí)際價(jià)格可能會(huì)更高。
顯然,英特爾最新的 Gaudi 3 不僅性能優(yōu)于英偉達(dá)H100 80G,價(jià)格更是僅只有其一半左右,這個(gè)價(jià)格顯然還是非常有吸引力的。
如果與英偉達(dá)對(duì)華特供的AI加速芯片H20,以及華為的昇騰910B相比,英特爾Gaudi 3 則更具性價(jià)比優(yōu)勢(shì)。
此前的消息顯示,AI算力只有英偉達(dá)H100不到15%的H20的批量?jī)r(jià)格已經(jīng)降至了10萬(wàn)元人民幣左右(約13,800美元),而華為昇騰910B售價(jià)約在12萬(wàn)元人民幣(約合16,556美元)左右。
當(dāng)然由于美國(guó)出口限制的存在,英特爾Gaudi 3 也無法直接對(duì)華銷售。不過,根據(jù)之前曝光的消息,英特爾也準(zhǔn)備對(duì)華推出“特供版”的Gaudi 3,AI性能似乎只有原版的Gaudi 3的不到10%,不過即便如此應(yīng)該還是要優(yōu)于英偉達(dá)H20,畢竟英特爾Gaudi 3的128GB HBM內(nèi)存容量更大(英偉達(dá)H20 HBM容量為96 GB)。
對(duì)于AI芯片來說,AI算力固然重要,但絕不能小看更大HBM容量所帶來的優(yōu)勢(shì)。此前的分析數(shù)據(jù)顯示,擁有更大HBM容量的英偉達(dá)H20在多數(shù)大模型推理場(chǎng)景中的速度表現(xiàn)比英偉達(dá)H100更優(yōu)異。
據(jù)此不難推測(cè),擁有更大HBM容量的英特爾對(duì)華特供版Gaudi 3 整體的性能表現(xiàn)要更優(yōu)于英偉達(dá)H20,并且特供版的Gaudi 3 價(jià)格預(yù)計(jì)也將會(huì)更低。參考英偉達(dá)H20的定價(jià),其價(jià)格大約僅為H100的一半,如果對(duì)華特供版Gaudi 3 也只有原版的一半,那么價(jià)格大約為7825美元,僅為英偉達(dá)H20最初價(jià)格(約15,000美元)的一半左右。
不過,以上對(duì)于特供版Gaudi 3 價(jià)格只是推測(cè),畢竟目前還沒在國(guó)內(nèi)上市,但可以確定的是定價(jià)必定會(huì)比英偉達(dá)H20更低,這意味著英偉達(dá)H20接下來不僅將面臨昇騰910B的競(jìng)爭(zhēng),也將面臨英特爾對(duì)華特供版Gaudi 3 的強(qiáng)力競(jìng)爭(zhēng),可謂是“壓力山大”。
編輯:芯智訊-浪客劍
*博客內(nèi)容為網(wǎng)友個(gè)人發(fā)布,僅代表博主個(gè)人觀點(diǎn),如有侵權(quán)請(qǐng)聯(lián)系工作人員刪除。