美光曝存儲(chǔ)器新進(jìn)度

研調(diào)機(jī)構(gòu)TrendForce集邦咨詢17日舉辦AI服務(wù)器論壇，美光透露目前DDR5醞釀許久，而HBM產(chǎn)能在2025年前已滿載，美光在各種存儲(chǔ)器產(chǎn)品有多種布局，也為AI數(shù)據(jù)中心提供強(qiáng)大支持。

美光在全球布局超過54,000項(xiàng)專利，存儲(chǔ)器和存儲(chǔ)技術(shù)領(lǐng)先業(yè)界，目前已經(jīng)醞釀很久DDR5，下一代會(huì)做到1γ制程，采用EUV制程技術(shù)，計(jì)劃2025年率先在中國臺(tái)灣量產(chǎn)。

美光表示，公司擁有廣泛的產(chǎn)品群組、長周期生命產(chǎn)品，以及完整的系統(tǒng)規(guī)劃。隨著AI改變數(shù)據(jù)中心生態(tài)，讀取方式已經(jīng)不同，必須跟著AI神經(jīng)網(wǎng)路模式運(yùn)作，因此深度學(xué)習(xí)的讀寫比率已經(jīng)到5000:1，意味著讀取速度遠(yuǎn)超過寫入速度，因此選擇合適的儲(chǔ)存設(shè)備相當(dāng)重要。

對(duì)此，美光也進(jìn)行服務(wù)器架構(gòu)優(yōu)化，當(dāng)GPU服務(wù)器和SSD以1:1方式進(jìn)行訓(xùn)練，效能會(huì)做到最好。另外，隨著AI時(shí)代來臨，在AI效能和成本間的平衡也越發(fā)重要，美光推出能最佳化現(xiàn)有系統(tǒng)并延長設(shè)備壽命的DDR4，速度高達(dá)3,200MT/s。在多核心CPU架構(gòu)下，美光DDR5以6,400MT/s速度，使頻寬增至DDR4的2倍、深度學(xué)習(xí)效能為DDR4的5倍、AI性能提升7倍，支持AI、HPC和企業(yè)負(fù)載。

NAND部分，美光目前推出232層NAND，以穩(wěn)定在產(chǎn)品上應(yīng)用為主，并同步發(fā)展HBM3e甚至HBM4。美光表示，CXL也是未來相當(dāng)重要的發(fā)展方向，目前推出的CZ120為存儲(chǔ)器擴(kuò)充模組，可提供更多容量、頻寬和靈活配置，是較為前端的應(yīng)用，目前樣品已經(jīng)分享給合作伙伴。

晶心科提供客制化指令集工具ACE，增加設(shè)計(jì)彈性

晶心科技資深技術(shù)經(jīng)理胡鴻光指出，RISC-V具有模組化優(yōu)勢(shì)；開源架構(gòu)、沒有法律問題；可最少指令集進(jìn)行設(shè)計(jì)，因此能做到非常精簡、有效率的狀態(tài)；具有客制化優(yōu)點(diǎn)，每個(gè)客戶能自己增加指令和自己的功能。RISC-V架構(gòu)可以用于數(shù)據(jù)中心、車用、移動(dòng)設(shè)備等任何AI需求產(chǎn)品。

晶心科成立已經(jīng)有19年，在今年1月的SHD報(bào)告中，該公司在RISC-VIP供應(yīng)商中市占率高達(dá)30%，聯(lián)發(fā)科、聯(lián)詠、瑞薩、群聯(lián)等都有長期合作，另外一個(gè)主要大客戶是Meta。

胡鴻光認(rèn)為Meta之所以選擇RISC-V，優(yōu)勢(shì)在于容易客制化、有極大彈性，而RISC-V新出的矢量指令集在做AI運(yùn)算極具影響力，另外晶心科提供客制化指令集工具Andes Custom Extension（ACE），提供Meta增加私有客制指令介面與暫存器，可達(dá)成其需求。

TrendForce：AI服務(wù)器需求暢旺，出貨量年增近41%

最后針對(duì)AI服務(wù)器市況，TrendForce資深分析師龔明德指出，有幾大重點(diǎn)領(lǐng)域，主要拉貨領(lǐng)域包括北美CSP（云端服務(wù)供應(yīng)商），包括公有云、搜尋引擎、廣告推薦系統(tǒng)等。

今年服務(wù)器僅成長近2%，因?yàn)槭艿紸I預(yù)算排擠，而AI服務(wù)器需求暢旺，出貨量可望達(dá)166萬臺(tái)，年增近41%。龔明德預(yù)期，今年第二季成長較明顯，因?yàn)镹vidia H100前導(dǎo)時(shí)間（leading time）縮短，逐季看好。

龔明德預(yù)期，Nvidia今年高端GPU出貨量將年增超過110%，到下半年產(chǎn)品品將過渡到H200，而B100將進(jìn)入早期量產(chǎn)階段。至于AMD高端AI解決方案會(huì)主要面向CSP，搭載M1300 XAl芯片的Al服務(wù)器預(yù)計(jì)下半年將成主流，而第二供應(yīng)商的身份有望帶來AMD成長。

同時(shí)，CSP內(nèi)部開發(fā)的ASIC也將發(fā)揮關(guān)鍵作用。到了2024年，AWS將在下一代ASIC投入大量資源，Meta和中國大陸CSP亦是如此。CSP今年仍將是AI服務(wù)器主要成長動(dòng)能，尤其北美四大CSP已經(jīng)占六成采購量，中國大陸自主芯片需求也會(huì)強(qiáng)勁。

最后針對(duì)Nvidia Blackwell平臺(tái)，龔明德認(rèn)為這款產(chǎn)品主要面向CSP，并推動(dòng)CoWoS和HBM出貨量在2025年實(shí)現(xiàn)雙高個(gè)位數(shù)成長。