博客專欄

EEPW首頁 > 博客 > 調(diào)查:大量用戶正計(jì)劃由英偉達(dá)平臺轉(zhuǎn)向AMD MI300X!

調(diào)查:大量用戶正計(jì)劃由英偉達(dá)平臺轉(zhuǎn)向AMD MI300X!

發(fā)布人:芯智訊 時(shí)間:2024-03-11 來源:工程師 發(fā)布文章

image.png

3月10日消息,根據(jù)TensorWave最近公布的一項(xiàng)調(diào)查數(shù)據(jù)顯示,大量人工智能專業(yè)人士正計(jì)劃從英偉達(dá)的AI GPU平臺轉(zhuǎn)向采用AMD最新的Instinct MI300X GPU。

TensorWave 聯(lián)合創(chuàng)始人 Jeff Tatarchuk 近日通過X平臺透露,他們進(jìn)行了一項(xiàng)獨(dú)立調(diào)查,涵蓋 82 名工程師和人工智能專業(yè)人士,其中約有 50% 的受訪者表示他們對 AMD Instinct MI300X GPU 充滿信心,因?yàn)橄啾扔谟ミ_(dá)的 H100 系列產(chǎn)品,MI300X 不僅擁有更出色的性價(jià)比,而且供應(yīng)充足,避免了遇到貨源緊張的問題。Jeff 還提到,TensorWave 公司也將采用 MI300X 人工智能加速器。

顯然,這對于 AMD 來說無疑是個(gè)好消息。因?yàn)橐酝?Instinct 系列產(chǎn)品相比英偉達(dá)的競品,不僅性能要低一些,市場認(rèn)可度也相對較低,這也導(dǎo)致其在AI芯片市場的份額遠(yuǎn)低于英偉達(dá)。但是,AMD去年推出的最新的Instinct MI300X GPU在性能上成功超越了英偉達(dá)明星產(chǎn)品H100。

根據(jù)資料顯示,AMD Instinct MI300X 內(nèi)部集成了12個(gè)5/6nm工藝的小芯片(HMB和I/O為6nm),擁有1530億個(gè)晶體管。在內(nèi)核設(shè)計(jì)上,采用了相比MI250X更簡單的設(shè)計(jì),放棄了 APU 的 24 個(gè)Zen4內(nèi)核和 I/O 芯片,取而代之的是CDNA 3 GPU內(nèi)核架構(gòu),擁有304個(gè)計(jì)算單元(每個(gè)GPU小芯片擁有38個(gè)CU),19456個(gè)流處理器。在內(nèi)存帶寬方面,MI300X也配備了更大的 192GB HBM3內(nèi)存(8個(gè)HBM3封裝,每個(gè)堆棧為12 Hi)相比MI250X提高了50%,帶來高達(dá)5.3TB/s的帶寬和896GB/s的Infinity Fabric帶寬。相比之下,英偉達(dá)即將推出的H200 AI加速器也只有141 GB的容量。

具體來說,與英偉達(dá) H100 相比,MI300X 擁有以下優(yōu)勢:

  • 內(nèi)存容量高出 2.4 倍

  • 內(nèi)存帶寬高出 1.6 倍

  • FP8 性能 (TFLOPS) 高出 1.3 倍

  • FP16 性能 (TFLOPS) 高出 1.3 倍

  • 在 1v1 對比測試中,性能方面可領(lǐng)先 H100 (Llama 2 70B) 最多 20%

  • 在 1v1 對比測試中,性能方面可領(lǐng)先 H100 (FlashAttention 2) 最多 20%

  • 在 8v8 服務(wù)器對比測試中,性能方面可領(lǐng)先 H100 (Llama 2 70B) 最多 40%

  • 在 8v8 服務(wù)器對比測試中,性能方面可領(lǐng)先 H100 (Bloom 176B) 最多 60%

從參數(shù)上來看,AMD Instinct MI300X 在性能上取得了巨大飛躍,相比英偉達(dá)目前的主力產(chǎn)品H100擁有一定的優(yōu)勢,再加上英偉達(dá)目前仍然存在供應(yīng)不足以及價(jià)格高昂等方面的問題,這也使得AMD有了更多的機(jī)會。

AMD CEO蘇姿豐在1月30日的電話會議上預(yù)測稱,2024年AMD的AI芯片營收將達(dá)35億美元,高于先前預(yù)測的20億美元。另外,去年四季度的AI芯片營收也超越此前預(yù)測的4億美元,但她并未披露確切的數(shù)字。

不過,需要指出的是,目前英偉達(dá)在AI芯片市場占據(jù)了超過了90%的市場份額,居于壟斷地位,這也使得AMD在與其競爭過程中可能會受到其市場地位的壓制。

上個(gè)月推出的面向云端大模型的全新推理芯片與英偉達(dá)(NVIDIA)競爭的美國人工智能初創(chuàng)公司——Groq的CEO Jonathan Ross近日在接受《華爾街日報(bào)》采訪時(shí)就控訴英偉達(dá)阻礙公平競爭。Jonathan Ross表示,曾有其他芯片供應(yīng)商客戶對其透露,如果英偉達(dá)問起這件事,他們會否認(rèn)與Groq談過話,因?yàn)榕略獾綀?bào)復(fù)。

“我們見過的很多人都說,倘若雙方見面的消息傳到英偉達(dá)耳里,他們會打死不認(rèn)?!薄皢栴}在于,你必須提前一年付款給英偉達(dá),但產(chǎn)品交期或許是一年、或許要更久。他們會說,‘哎呀,你跟別人買了,那我猜交貨時(shí)間可能要晚點(diǎn)了?!?Jonathan Ross說道。

雖然英偉達(dá)否認(rèn)此事,隨后AMD前資深副總裁兼圖形業(yè)務(wù)部總經(jīng)理Scott Herkleman也指控英偉達(dá)的商業(yè)行為和壟斷集團(tuán)卡特爾(Cartel)行為相似,并稱其為“GPU卡特爾”,暗示英偉達(dá)在AI芯片市場上的霸主地位或許不是偶然。Herkleman認(rèn)為,英偉達(dá)限制GPU供應(yīng),通過讓客戶害怕使用競爭對手GPU,以維持產(chǎn)業(yè)主導(dǎo)地位。

編輯:芯智訊-浪客劍


*博客內(nèi)容為網(wǎng)友個(gè)人發(fā)布,僅代表博主個(gè)人觀點(diǎn),如有侵權(quán)請聯(lián)系工作人員刪除。



關(guān)鍵詞: 英偉達(dá)

相關(guān)推薦

技術(shù)專區(qū)

關(guān)閉