單價(jià)炒到4萬(wàn)美元！傳馬斯克已購(gòu)入數(shù)千片英偉達(dá)H100

導(dǎo)讀：近日據(jù)CNBC報(bào)道，由于ChatGPT等語(yǔ)言模型火爆，英偉達(dá)最先進(jìn)的H100在eBay上的單片售價(jià)超過(guò)了4萬(wàn)美元，而此前零售商的售價(jià)約為3.6萬(wàn)美元。

圖：英偉達(dá)H100計(jì)算卡

H100是NVIDIA在2022年發(fā)布的旗艦AI芯片，取代了一直被稱(chēng)為AI應(yīng)用“主力軍”的芯片A100，與A100相比，H100的能效提高了3.5倍，價(jià)格也從1萬(wàn)美元上漲到超過(guò)3萬(wàn)美元。

NVIDIA黃仁勛曾經(jīng)表示，20塊H100 GPU就可承托全球互聯(lián)網(wǎng)的流量。

芯片大師曾報(bào)道ChatGPT等火爆，英偉達(dá)增加A100等旗艦GPU投片，開(kāi)發(fā)人員正在使用H100來(lái)構(gòu)建所謂的大型語(yǔ)言模型(LLMs)。

據(jù)報(bào)道，特斯拉CEO埃隆·馬斯克在美國(guó)內(nèi)華達(dá)州成立了一家名為X.AI的人工智能公司，旨在與Open AI展開(kāi)競(jìng)爭(zhēng)。據(jù)說(shuō)馬斯克為了新項(xiàng)目已經(jīng)從NVIDIA購(gòu)買(mǎi)了數(shù)千顆高性能GPU。

圖：?jiǎn)蝺r(jià)被炒到4萬(wàn)美元的H100

3D游戲先驅(qū)、前Meta consulting技術(shù)主管約翰·卡馬克在Twitter上提到英偉達(dá)H100的漲價(jià)，上周五，至少有8個(gè)H100在eBay掛牌出售，價(jià)格從39995美元到46000美元不等。

而訓(xùn)練一個(gè)AI語(yǔ)言模型，尤其是像GPT這樣的大型模型，需要數(shù)百個(gè)高端GPU協(xié)同工作。比如微軟就斥資數(shù)億美元購(gòu)買(mǎi)了數(shù)萬(wàn)顆Nvidia A100芯片，幫助打造ChatGPT。

根據(jù)最近的爆料，為了創(chuàng)建和維持ChatGPT所需的人工智能分析數(shù)據(jù)的龐大數(shù)據(jù)庫(kù)，開(kāi)發(fā)商O(píng)penAI使用了10000個(gè)英偉達(dá)的GPU進(jìn)行相關(guān)的訓(xùn)練。而為了支持實(shí)際應(yīng)用，滿足服務(wù)器的需求，OpenAI已使用了約2.5萬(wàn)個(gè)英偉達(dá)的GPU，隨著需求的增加未來(lái)預(yù)計(jì)還會(huì)增加。

圖：售價(jià)數(shù)百萬(wàn)的英偉達(dá)DGX

此外，Nvidia還提供了一臺(tái)帶有八顆GPU的超級(jí)計(jì)算機(jī)，稱(chēng)為DGX。年初英偉達(dá)宣布推出新服務(wù)，允許公司以每月37,000美元的價(jià)格租用DGX——該系統(tǒng)將使用Nvidia A100芯片。如果要購(gòu)買(mǎi)，不同配置的DGX售價(jià)將高達(dá)數(shù)百萬(wàn)元。

行業(yè)專(zhuān)家表示，要構(gòu)建比目前可用的模型更大、數(shù)據(jù)需求量更大的模型，將需要更強(qiáng)大的芯片。

同時(shí)，由于當(dāng)前AI算力稀缺，高端GPU的價(jià)格和行情仍將上漲。