博客專欄

EEPW首頁 > 博客 > 處在黃金風(fēng)口上的HBM是什么?

處在黃金風(fēng)口上的HBM是什么?

發(fā)布人:傳感器技術(shù) 時間:2024-05-29 來源:工程師 發(fā)布文章

HBM儼然成為了當(dāng)前存儲行業(yè)競爭中最為鮮美的一塊蛋糕。近日,臺積電宣布結(jié)合N12FFC+和N5制程技術(shù),生產(chǎn)用于HBM4的基礎(chǔ)裸片,為HBM 4做好擴產(chǎn)準(zhǔn)備,并且CoWoS先進封裝產(chǎn)能多次擴產(chǎn),只為滿足行業(yè)高漲的HBM需求。三大存儲原廠也動態(tài)不斷,此前SK海力士、三星、美光均表示近兩年HBM產(chǎn)能已售罄,近期,三星和SK海力士兩家表示為了滿足需求,他們將超過20%的DRAM產(chǎn)線轉(zhuǎn)換為HBM產(chǎn)線。隨著HBM3E和HBM4的持續(xù)推進,帶動行業(yè)生態(tài)發(fā)生變革,三大存儲原廠與臺積電比以往更加緊密的聯(lián)系在一起。

圖片

01

概述


1.HBM

圖片

圖片來源:AMD


如上圖所示,HBM是由多個DRAM堆疊而成,主要利用TSV(硅通孔)和微凸塊(Micro bump)將裸片相連接,多層DRAM die再與最下層的Base die連接,然后通過凸塊(Bump)與硅中階層(interposer)互聯(lián)。同一平面內(nèi),HBM與GPU、CPU或ASIC共同鋪設(shè)在硅中階層上,再通過CoWoS等2.5D先進封裝工藝相互連接,硅中介層通過CuBump連接至封裝基板上,最后封裝基板再通過錫球與下方PCB基板相連。該產(chǎn)品巧妙的設(shè)計大大縮小了尺寸面積,容量擴大的同時,實現(xiàn)了高帶寬、低延遲、低功耗的效果。


AI時代隨著計算需求的不斷提升,高端GPU、存儲器等需求供不應(yīng)求。當(dāng)前GPU補位CPU功能,并不斷強化自身算力。但是處理器的性能以每年大約55%速度快速提升,而內(nèi)存性能的提升速度則只有每年10%左右。目前傳統(tǒng)顯存GDDR5等也面臨著帶寬低、功耗高等瓶頸,GPUCPU也算不過來了。


GPU顯存一般采用GDDR或者HBM兩種方案,但行業(yè)多數(shù)據(jù)顯示,HBM性能遠超GDDR。此處來看看AMD關(guān)于HBM與DDR(Double Data Rate)內(nèi)存的參數(shù)對比,以業(yè)界最為火爆的GDDR5為例。


圖片圖片

圖片來源:AMD


根據(jù)AMD數(shù)據(jù),從顯存位寬來看,GDDR5為32-bit,HBM為其四倍,達到了1024-bit;從時鐘頻率來看,HBM為500MHz,遠遠小于GDDR5的1750MHz;從顯存帶寬來看,HBM的一個stack大于100GB/s,而GDDR5的一顆芯片為25GB/s。在數(shù)據(jù)傳輸速率上,HBM遠高于GDDR5。而從空間利用角度來看,HBM由于與GPU封裝在一塊,從而大幅度減少了顯卡PCB的空間,而GDDR5芯片面積為HBM芯片三倍,這意味著HBM能夠在更小的空間內(nèi),實現(xiàn)更大的容量。因此,HBM可以在實現(xiàn)高帶寬和高容量的同時節(jié)約芯片面積和功耗,被視為GPU存儲單元理想解決方案。


但是HBM對比GDDR5/DDR5等依舊存在一定劣勢。TrendForce集邦咨詢研究顯示,在相同制程及容量下,HBM顆粒尺寸較DDR5大35%~45%;良率(包含TSV封裝良率),則比起DDR5低約20%~30%;生產(chǎn)周期(包含TSV)較DDR5多1.5-2個月,整體從投片到產(chǎn)出與封裝完成需要兩個季度以上。從長遠發(fā)展角度看,在AI浪潮之下,業(yè)界大廠率先考慮搶奪HBM就變得十分合理了。


據(jù)TrendForce集邦咨詢最新研究,三大原廠開始提高先進制程的投片,繼存儲器合約價翻揚后,公司資金投入開始增加,產(chǎn)能提升將集中在今年下半年,預(yù)期1alpha nm(含)以上投片至年底將占DRAM總投片比重約40%。其中,HBM由于獲利表現(xiàn)佳,加上需求持續(xù)看增,故生產(chǎn)順序最優(yōu)先。但受限于良率僅約50~60%,且晶圓面積相較DRAM產(chǎn)品,放大逾60%,意即所占投片比重高。以各家TSV產(chǎn)能來看,至年底HBM將占先進制程比重35%,其余則用以生產(chǎn)LPDDR5(X)與DDR5產(chǎn)品。


目前HBM已然成為AI服務(wù)器、數(shù)據(jù)中心、汽車駕駛等高性能計算領(lǐng)域的標(biāo)配,未來其適用市場還在不斷拓寬。據(jù)TrendForce集邦咨詢研究顯示,產(chǎn)能方面,2023~2024年HBM占DRAM總產(chǎn)能分別是2%及5%,至2025年占比預(yù)估將超過10%。產(chǎn)值方面,2024年起HBM之于DRAM總產(chǎn)值預(yù)估可逾20%,至2025年占比有機會逾三成。展望2025年,由主要AI解決方案供應(yīng)商的角度來看,HBM規(guī)格需求大幅轉(zhuǎn)向HBM3e,且將會有更多12hi的產(chǎn)品出現(xiàn),帶動單芯片搭載HBM的容量提升。2024年的HBM需求位元年成長率近200%,2025年可望將再翻倍。


2.優(yōu)勢

HBM在帶寬、功耗、封裝體積方面具備明顯優(yōu)勢。按照不同應(yīng)用場景,行業(yè)標(biāo)準(zhǔn)組織JEDEC將DRAM分為三個類型:標(biāo)準(zhǔn)DDR、移動DDR以及圖形DDR,圖形DDR中包括GDDR和HBM。相比于標(biāo)準(zhǔn)的DDR4、DDR5等產(chǎn)品,以GDDR和HBM為代表的圖形DDR具備更高的帶寬,其中HBM在實現(xiàn)更大帶寬的同時也具備更小的功耗和封裝尺寸。

圖片

圖片

GDDR和HBM有效解決了內(nèi)存墻的問題,在中高端GPU中得到廣泛應(yīng)用。過去20年中,處理器的峰值計算能力增加了90,000倍,但是內(nèi)存/硬件互連帶寬卻只是提高了30倍。存儲性能的提升遠遠跟不上處理器性能提升,導(dǎo)致內(nèi)存性能極大限制了處理器性能的發(fā)揮,對指令和數(shù)據(jù)的搬運(寫入和讀出)的時間將是處理器運算所消耗時間的幾十倍乃至幾百倍,而且引發(fā)了高能耗,即出現(xiàn)了“內(nèi)存墻”問題。具備更高帶寬的GDDR和HBM相比傳統(tǒng)DDR有更高的帶寬,因此有效的解決了該問題,GDDR和成為中高端GPU搭載的主流內(nèi)存方案,HBM也在部分高端GPU中得到應(yīng)用。

圖片

3.HBM有望替代GDDR成為主流方案

AI大模型對于數(shù)據(jù)傳輸提出了更高的要求,HBM有望替代GDDR成為主流方案:

GDDR5功耗更高,高功耗未來會限制GPU的性能提升;GDDR5為了實現(xiàn)更高帶寬,需要電路承載更大的電壓,導(dǎo)致電路尺寸偏大。NAND、DRAM和Optics等技術(shù)將受益于片上集成,但在技術(shù)上并不兼容。

圖片

主流數(shù)據(jù)中心GPU均采用HBM技術(shù)。英偉達V100、A100、H100均采用HBM內(nèi)存,同樣,AMDMI100、MI200、MI300也都采用HBM內(nèi)存,目前HBM內(nèi)存在數(shù)據(jù)中心GPU中逐步占據(jù)主導(dǎo)地位。

圖片

4.HBM持續(xù)迭代,帶寬、速率提升

自2013年SK海力士推出第一代HBM以來,在三大原廠的競合下,至今已歷經(jīng)第二代(HBM2)、第三代(HBM2E)、第四代(HBM3)、第五代(HBM3E)產(chǎn)品。


圖片


今年HBM3e將是市場主流,集中在今年下半年出貨。另外據(jù)行業(yè)消息,第六代(HBM4)也正在研發(fā)中,變革較大,一改一代至五代的1024位內(nèi)存接口,集中采用2048位內(nèi)存接口,有望使傳輸速度再次翻倍。今天我們的關(guān)注焦點也將集中在HBM3E及HBM4上。


其一,「HBM3進階到HBM3e」,預(yù)期NVIDIA將于今年下半年開始擴大出貨搭載HBM3e的H200,取代H100成為主流,隨后GB200及B100等亦將采用HBM3e。AMD則規(guī)劃年底前推出MI350新品,期間可能嘗試先推MI32x等過渡型產(chǎn)品,與H200相抗衡,均采HBM3e。


其二,「HBM搭載容量持續(xù)擴增」,為了提升AI服務(wù)器整體運算效能及系統(tǒng)頻寬,將由目前市場主要采用的NVIDIA H100(80GB),至2024年底后將提升往192~288GB容量發(fā)展;AMD亦從原MI300A僅搭載128GB,GPU新品搭載HBM容量亦將達288GB。


其三,「搭載HBM3e的GPU產(chǎn)品線,將從8hi往12hi發(fā)展」,NVIDIA的B100、GB200主要搭載8hi HBM3e,達192GB,2025年則將推出B200,搭載12hi HBM3e,達288GB;AMD將于今年底推出的MI350或2025年推出的MI375系列,預(yù)計均會搭載12hi HBM3e,達288G。


相較于普通存儲芯片,HBM芯片價格相對較高,且有繼續(xù)上升趨勢。TrendForce集邦咨詢表示,HBM3e的TSV良率目前僅約40~60%,仍有待提升,加上并非三大原廠都已經(jīng)通過HBM3e的客戶驗證,故HBM買方也愿意接受漲價,以鎖定質(zhì)量穩(wěn)定的貨源。并且未來HBM每Gb單價可能因DRAM供應(yīng)商的可靠度,以及供應(yīng)能力產(chǎn)生價差,對于供應(yīng)商而言,未來平均銷售單價將會因此出現(xiàn)差異,并進一步影響獲利。


02

制造工藝


1.HBM制造工藝包括TSV、Bumping和堆疊等工藝環(huán)節(jié)

HBM是由多個DRAMdie堆疊而成,利用硅通孔(TSV)和微凸塊(Microbump)將die之間相連接,多層DRAMdie再與最下層的Basedie連接,然后通過凸塊(Bump)與硅中階層(interposer)互聯(lián)。HBM與GPU、CPU或ASIC共同鋪設(shè)在硅中階層上,通過CoWoS等2.5D封裝工藝相互連接,硅中介層通過CuBump連接至封裝基板(Package Substrate)上,最后封裝基板再通過錫球與下方的PCB基板相連。

圖片

2.存儲大廠高度聚焦先進封裝,HBM4或?qū)⒅苯臃胖迷谔幚砥魃?/span>

根據(jù)全球半導(dǎo)體觀察,目前HBM存儲芯片的整體良率在65%左右,HBM良率的高低主要受到其堆疊架構(gòu)復(fù)雜性的影響,這涉及到多層次的內(nèi)存結(jié)構(gòu)和作為各層連接之用的直通TSV技術(shù)。這些復(fù)雜技術(shù)增加了制程缺陷的風(fēng)險,可能導(dǎo)致良率低于設(shè)計較簡單的內(nèi)存產(chǎn)品。因此存儲大廠紛紛加碼HBM先進封裝,提升HBM良率并降低功耗。此外,根據(jù)CFM,SK海力士擬將新一代HBM4堆棧直接放置在處理器上,通過3D堆疊的形式進一步提高I/O數(shù)量。

圖片

圖片

3.SK海力士憑借MR-MUF技術(shù)占據(jù)HBM市場份額,三星考慮將MUF用于3DSRDIMM

SK海力士在HBM2E和HBM3的生產(chǎn)中引入了大規(guī)?;亓鞒尚偷撞刻畛洌∕R-MUF)工藝,提高了HBM超過10萬個微凸塊互連的質(zhì)量,此外,該工藝充分增加了熱虛擬凸塊的數(shù)量,同時由于采用了高導(dǎo)熱率的模制底部填充(MUF)材料,因此散熱性能更加出色。根據(jù)全球半導(dǎo)體觀察,三星認為MUF非常適合3DSRDIMM,而目前3DSRDIMM使用TSV技術(shù)制造,主要應(yīng)用于服務(wù)器上,三星正在考慮在其下一代DRAM中MUF技術(shù)。若三星也導(dǎo)入MUF,相關(guān)制造材料或?qū)⒊掷m(xù)受益。

圖片

03

發(fā)展現(xiàn)狀


1.國際

近日,美光宣布已開始量產(chǎn)其HBM3E高帶寬內(nèi)存解決方案。英偉達H200TensorCoreGPU將采用美光8層堆疊的24GB容量HBM3E內(nèi)存,并于2024年第二季度開始出貨。美光HBM3E引腳速率超過9.2Gb/s,提供超過1.2TB/s的內(nèi)存帶寬。與HBM3相比,HBM3E將數(shù)據(jù)傳輸速率和峰值內(nèi)存帶寬提高了44%,這對于英偉達H200等需要大量帶寬的處理器來說尤其重要。美光利用其1β(1-beta)技術(shù)、先進的硅通孔(TSV)和其他實現(xiàn)差異化封裝解決方案來生產(chǎn)HBM3E產(chǎn)品,有助于公司在數(shù)據(jù)中心級產(chǎn)品上提升技術(shù)競爭實力和市場占有率。

圖片

三星發(fā)布首款36GB HBM3E 12HDRAM,目前為三星容量最大的HBM。三星HBM3E12H支持全天候最高帶寬達1280GB/s,產(chǎn)品容量也達到了36GB。相比三星8層堆疊的HBM38H,HBM3E12H在帶寬和容量上大幅提升超過50%。HBM3E12H采用了先進的熱壓非導(dǎo)電薄膜(TCNCF)技術(shù),使得12層和8層堆疊產(chǎn)品的高度保持一致,以滿足當(dāng)前HBM封裝的要求。相比HBM38H,HBM3E12H搭載于人工智能應(yīng)用后,公司預(yù)計人工智能訓(xùn)練平均速度可提升34%,同時推理服務(wù)用戶數(shù)量也可增加超過11.5倍。

圖片

SK海力士率先量產(chǎn)HBM3E,HBM4或于2026年推出。根據(jù)半導(dǎo)體行業(yè)觀察,SK海力士于1月中旬正式結(jié)束了HBM3E的開發(fā)工作,并順利完成英偉達歷時半年的性能評估,計劃于3月開始大規(guī)模生產(chǎn)HBM3E產(chǎn)品,這批HBM3E將用于英偉達下一代Blackwell系列的AI芯片旗艦產(chǎn)品B100上,而英偉達則計劃于2024年第二季度末或第三季度初推出該系列產(chǎn)品。根據(jù)TrendForce,HBM4預(yù)計規(guī)劃于2026年推出,或采取HBM堆棧在SoC主芯片之上的封裝方式。

圖片

2.國內(nèi)

國內(nèi)存儲廠商入局HBM市場。根據(jù)采招網(wǎng),近日,武漢新芯發(fā)布《高帶寬存儲芯粒先進封裝技術(shù)研發(fā)和產(chǎn)線建設(shè)》招標(biāo)項目,利用三維集成多晶圓堆疊技術(shù),打造更高容量、更大帶寬、更小功耗和更高生產(chǎn)效率的國產(chǎn)高帶寬存儲器(HBM)產(chǎn)品,推進多晶圓堆疊工藝產(chǎn)業(yè)化,新增生產(chǎn)設(shè)備約17臺/套,擬實現(xiàn)月產(chǎn)出能力≥3000片(12英寸)。國內(nèi)存儲廠商在HBM技術(shù)上的加速突破,有望在AI大浪潮的需求下提升競爭實力,相關(guān)產(chǎn)業(yè)鏈也或?qū)⑹芤妗?/span>

04

競爭格局


1.寡頭壟斷,SK海力士占過半份額

HBM市場格局集中,SK海力士占有主導(dǎo)地位。根據(jù)Trendforce數(shù)據(jù),2023年SK海力士市占率預(yù)計為53%,三星市占率38%、美光市占率9%。。

HBM市場競爭白熱化。2023年市場主要HBM代際是HBM2、HBM2e和HBM3,算力卡性能提升刺激HBM產(chǎn)品更迭,2023年下半年伴隨NVIDIAH100與AMDMI300的搭載,HBM3滲透率提升。2024年伊始,SK海力士完成HBM3e開發(fā),并送樣英偉達測試,有望于上半年量產(chǎn)。預(yù)計三星電子和美光科技即將送樣HBM3e,也有望于上半年量產(chǎn),其中美光科技跳過了HBM3,直接研發(fā)HBM3e。三家原廠在HBM領(lǐng)域的競爭日趨白熱化。

圖片

2.更多DRAM廠商正切入HBM賽道,國產(chǎn)HBM有望突破

二線、三線DRAM廠商也正在切入HBM賽道。華邦電于2023年8月介紹了其類HBM高帶寬產(chǎn)品CUBEx,采用1~4層TSVDRAM堆疊,I/O速度500M~2Gbps,總帶寬最高可達1024GB/s,顆粒容量為0.5~4GB,功耗低至不足1pJ/bit。這種比常規(guī)HBM擁有更高帶寬的CUBEx可用于AR、VR、可穿戴等領(lǐng)域。

國產(chǎn)DRAM廠商有望突破HBM。目前一線廠商DRAM制程在1alpha、1beta水平,國產(chǎn)DRAM制程在25~17nm水平,中國臺灣DRAM制程在25~19nm水平,國內(nèi)DRAM制程接近海外。且國內(nèi)擁有先進封裝技術(shù)資源和GPU客戶資源,有強烈的國產(chǎn)化訴求,未來國產(chǎn)DRAM廠商有望突破HBM。

圖片

05

市場測算


1.AI刺激服務(wù)器存儲容量擴充,HBM需求強勁

(1)AI服務(wù)器刺激更多存儲器用量,大容量內(nèi)存條、HBM、eSSD需求旺盛

根據(jù)Trendforce,目前服務(wù)器DRAM(模組形態(tài)為常規(guī)內(nèi)存條RDIMM和LRDIMM)的普遍配置約為500~600GB,而AI服務(wù)器在單條模組上則多采64~128GB,單臺服務(wù)器搭載16~36條,平均容量可達1TB以上。對于企業(yè)級SSD,由于AI服務(wù)器追求的速度更高,其要求優(yōu)先滿足DRAM或HBM需求,在SSD的容量提升上則呈現(xiàn)非必要擴大容量的態(tài)勢,但配置也顯著高于常規(guī)服務(wù)器。

(2)隨著算力卡更新迭代,HBM規(guī)格持續(xù)提升

未來在AI模型逐漸復(fù)雜化的趨勢下,服務(wù)器的數(shù)據(jù)計算和存儲需求將快速增長,并同步帶動服務(wù)器DRAM、企業(yè)級SSD以及HBM的需求成長。相較于一般服務(wù)器而言,AI服務(wù)器多增加GPGPU的使用,以NVIDIAA100/H10080GB配置8張計算,HBM用量約為640GB,超越常規(guī)服務(wù)器的內(nèi)存條容量,H200、B100、MI300等算力卡將搭載更高容量、更高速率HBM。

圖片

2.通用服務(wù)器呈現(xiàn)弱復(fù)蘇態(tài)勢,AI服務(wù)器快速增長

(1)傳統(tǒng)服務(wù)器呈現(xiàn)弱復(fù)蘇態(tài)勢,2024年出貨量同比增長2%

根據(jù)Trendforce,2024年服務(wù)器出貨驅(qū)動力以北美CSP為主,但受限于通貨膨脹高,企業(yè)融資成本居高不下,壓縮資本支出,整體需求尚未恢復(fù)至疫情前成長幅度,預(yù)計2024年全球服務(wù)器整機出貨量約1365.4萬臺,同比增長2.05%。

圖片

(2)受益于北美CSP訂單帶動,AI服務(wù)器ODM對2024年展望樂觀

1)廣達:預(yù)計2024年AI服務(wù)器出貨雙位數(shù)增長,訂單主要來自于Microsoft及AWS等;2)Supermicro:預(yù)計2024年AI服務(wù)器出貨量有機會翻倍成長,訂單主要來自CoreWeave與Tesla,積極拓展Apple、Meta等客戶AI訂單;3)Inventec:除了北美CSP需求,中國客戶如ByteDance需求最強,預(yù)估2024年AI服務(wù)器出貨量年成長可達雙位數(shù),占比約10~15%;4)Foxconn:獲得Oracle、AWS訂單,預(yù)計2024年服務(wù)器ODM出貨量增長5~7%。

圖片

3.2024年HBM市場容量有望接近9億GB

通過測算全球算力卡的HBM需求,結(jié)論是:

(1)從容量看

2023年HBM市場容量為2.8億GB,預(yù)計2024年增長至8.9億GB,2026年增長至14.1億GB,2023~2026年CAGR為71%。增長驅(qū)動因素是:算力卡單卡HBM容量提升、算力卡出貨量提升、新的玩家產(chǎn)品放量。

AI服務(wù)器出貨增速遠高于傳統(tǒng)服務(wù)器、手機、PC+NB等傳統(tǒng)市場,且單機DRAM容量增速更快,因此HBM在全球DRAM市場的占比將逐步提升,2023年容量占比為1%(2023年大宗DRAM市場容量為275億GB),2026年將提升至3%。

圖片

(2)從產(chǎn)值看

2023年HBM市場規(guī)模為40億美元,預(yù)計2024年增長至148億美元,2026年增長至242億美元,2023~2026年CAGR為82%。增長驅(qū)動因素是:算力卡單卡HBM容量提升、算力卡出貨量提升、新的玩家產(chǎn)品放量、技術(shù)迭代帶來單GBHBM單價提升。

圖片

大宗DRAM具備強商品屬性,價格周期性明顯,HBM具備定制品屬性,技術(shù)迭代催動ASP提升,長期看HBM在DRAM市場的占比會持續(xù)提升,2023年HBM銷售額在DRAM市場的占比為8%,2026年將提升至17%。

圖片

4.HBM市場測算明細及關(guān)鍵假設(shè)

關(guān)鍵假設(shè):1)對2025年之后的算力卡增長采用保守假設(shè):2023-2024年算力卡維持緊缺,假設(shè)2025年供需平衡,增長趨緩。2)HBM滲透率假設(shè):2023年HBM市場的主流代際為HBM2、HBM2e和HBM3,預(yù)計2024年主流代際轉(zhuǎn)變?yōu)镠BM3e,由于各家原廠的HBM4方案未定,2025~2026年保守假設(shè)以HBM3e為主。3)HBM價格假設(shè):定價上HBM3e>HBM3 >HBM2e >HBM2,并且隨著產(chǎn)品迭代,老產(chǎn)品價格有自然年降。其中HBM3e有24GB和36GB版本,以24GB版本測算。4)大宗DRAM的容量和銷售額來自Gartner預(yù)測,包含了2024~2025年的漲價周期和2026年周期頂部的假設(shè),數(shù)據(jù)中不含HBM。

圖片

06

相關(guān)公司


1.通富微電

2.中微公司

3.拓荊科技

4.芯源微

5.其他相關(guān)公司

圖片

07

HBM4

HBM4可看做是HBM技術(shù)一個新的分水嶺,一方面是HBM領(lǐng)域先進封裝技術(shù)獲得長足發(fā)展,更為重要的是產(chǎn)業(yè)鏈出現(xiàn)三大方面的改變。其一,主要內(nèi)存制造商正計劃對高帶寬內(nèi)存技術(shù)進行更實質(zhì)性的改變,一改往常的1024位接口,從更寬的2048位內(nèi)存接口開始。其二,行業(yè)生態(tài)改變,三大存儲原廠SK海力士、三星、美光與臺積電展開高度緊密合作。畢竟在此之前,三家原廠的芯片基本基于本公司自己的制程工藝開展芯片生產(chǎn)。其三,HBM芯片的定制化趨勢更為明顯。


幾家大廠HBM4進度幾何?

2024年4月19日,SK海力士宣布,公司就下一代HBM產(chǎn)品生產(chǎn)和加強整合HBM與邏輯層的先進封裝技術(shù),將與臺積電公司密切合作,雙方近期簽署了諒解備忘錄(MOU)。5月2日,SK海力士在韓國舉行的記者招待會上表示,其HBM4量產(chǎn)時間從2026年提至2025年。具體來說,SK海力士計劃在2025年下半年推出采用12層DRAM堆疊的首批HBM4產(chǎn)品,而16層堆疊HBM稍晚于2026年推出。因為當(dāng)前距離量產(chǎn)時間還較早,還沒有相關(guān)產(chǎn)品參數(shù)出來。


SK海力士在HBM方面一直處于領(lǐng)先地位,由其主導(dǎo)并采用的HBM以硅通孔技術(shù)(TSV:Through Silicon Via)、批量回流模制底部填充(MR-MUF:Mass Reflow-Molded Underfill)先進封裝技術(shù)在行業(yè)享有盛名。目前隨著HBM芯片堆疊層數(shù)的增加,MR-MUF技術(shù)容易翹曲、導(dǎo)致晶圓末端彎曲、空洞現(xiàn)象(即保護材料在某些區(qū)域分布不均勻)的問題引起行業(yè)高度關(guān)注。SK海力士方表示,正在推進TSV和MR-MUF的技術(shù)發(fā)展。與HBM開發(fā)初期相比,他們成功地減少了翹曲現(xiàn)象,目前正在開發(fā)克服這一問題的技術(shù)。下一步,抉擇會聚焦在減少空隙。


此外,SK海力士還致力于芯粒(Chiplet)及混合鍵合(Hybrid bonding)等下一代先進封裝技術(shù)的開發(fā),以支持半導(dǎo)體存儲器和邏輯芯片之間的異構(gòu)集成,同時促進新型半導(dǎo)體的發(fā)展。當(dāng)中,Hybrid bonding也是被看作是HBM封裝的又一個新選擇。但根據(jù)之前的計劃不一樣,SK海力士打算在下一代的HBM 4中持續(xù)采用尖端封裝技術(shù)MR-MUF。作為替代方案而出現(xiàn)的混合鍵合技術(shù)預(yù)計由于HBM標(biāo)準(zhǔn)的放寬而緩慢引入。


三星方面則計劃通過針對高溫環(huán)境優(yōu)化的NCF組裝技術(shù)和尖端工藝技術(shù),將16H技術(shù)融入下一代HBM4中。據(jù)三星的規(guī)劃,HBM 4將在2025年生產(chǎn)樣品。另外據(jù)外媒報道,三星在早前的一個會議上表示,正在考慮在HBM 4中使用混合鍵合或NCF。其認為,混合鍵合更具優(yōu)勢,因為它們可以緊湊地添加更多堆疊,而無需使用填充凸塊進行連接的硅通孔(TSV)。使用相同的技術(shù),HBM上的核心芯片DRAM也可以變得更厚。


這里值得關(guān)注的便是三星在HBM封裝上采用的TC-NCF非導(dǎo)電薄膜熱壓縮先進封裝技術(shù)。這是一種與SK海力士MR-MUF略有不同的技術(shù)。在每次堆疊芯片時,都會在各層之間放置一層不導(dǎo)電的粘合膜。該薄膜是一種聚合物材料,用于使芯片彼此絕緣并保護連接點免受撞擊。隨著發(fā)展,三星逐漸減少了NCF材料的厚度,將12層第五代HBM3E的厚度降至7微米(μm)。該公司認為這種方法的優(yōu)點是可以最大限度地減少隨著層數(shù)增加和芯片厚度減小而可能發(fā)生的翹曲,使其更適合構(gòu)建更高的堆棧。


美光是這場HBM戰(zhàn)局中的半路殺出者,畢竟它一入局,便將目光投向了HBM3。如下圖所示,美光曬出了其HBM3E和HBM4產(chǎn)品路線圖。方案路線圖顯示,其HBM4預(yù)計在2026年推出,而到2028年則由HBM4E接棒。


圖片

圖片來源:美光


關(guān)于未來的布局,美光披露了暫名為HBMnext的下一代HBM內(nèi)存,業(yè)界猜測這有可能便是其HBM 4。美光預(yù)計HBMNext將提供36 GB和64 GB容量,這意味著多種配置,例如12-Hi 24 Gb堆棧(36 GB)或16-Hi 32 Gb堆棧(64 GB)。至于性能,美光宣稱每個堆棧的帶寬為1.5 TB/s–2+TB/s,這意味著數(shù)據(jù)傳輸速率超過11.5 GT/s/pin。


2024年4月19日,SK海力士宣布,公司就下一代HBM產(chǎn)品生產(chǎn)和加強整合HBM與邏輯層的先進封裝技術(shù),將與臺積電公司密切合作,雙方近期簽署了諒解備忘錄(MOU)。5月2日,SK海力士在韓國舉行的記者招待會上表示,其HBM4量產(chǎn)時間從2026年提至2025年。具體來說,SK海力士計劃在2025年下半年推出采用12層DRAM堆疊的首批HBM4產(chǎn)品,而16層堆疊HBM稍晚于2026年推出。因為當(dāng)前距離量產(chǎn)時間還較早,還沒有相關(guān)產(chǎn)品參數(shù)出來。


SK海力士在HBM方面一直處于領(lǐng)先地位,由其主導(dǎo)并采用的HBM以硅通孔技術(shù)(TSV:Through Silicon Via)、批量回流模制底部填充(MR-MUF:Mass Reflow-Molded Underfill)先進封裝技術(shù)在行業(yè)享有盛名。目前隨著HBM芯片堆疊層數(shù)的增加,MR-MUF技術(shù)容易翹曲、導(dǎo)致晶圓末端彎曲、空洞現(xiàn)象(即保護材料在某些區(qū)域分布不均勻)的問題引起行業(yè)高度關(guān)注。SK海力士方表示,正在推進TSV和MR-MUF的技術(shù)發(fā)展。與HBM開發(fā)初期相比,他們成功地減少了翹曲現(xiàn)象,目前正在開發(fā)克服這一問題的技術(shù)。下一步,抉擇會聚焦在減少空隙。


此外,SK海力士還致力于芯粒(Chiplet)及混合鍵合(Hybrid bonding)等下一代先進封裝技術(shù)的開發(fā),以支持半導(dǎo)體存儲器和邏輯芯片之間的異構(gòu)集成,同時促進新型半導(dǎo)體的發(fā)展。當(dāng)中,Hybrid bonding也是被看作是HBM封裝的又一個新選擇。但根據(jù)之前的計劃不一樣,SK海力士打算在下一代的HBM 4中持續(xù)采用尖端封裝技術(shù)MR-MUF。作為替代方案而出現(xiàn)的混合鍵合技術(shù)預(yù)計由于HBM標(biāo)準(zhǔn)的放寬而緩慢引入。


三星方面則計劃通過針對高溫環(huán)境優(yōu)化的NCF組裝技術(shù)和尖端工藝技術(shù),將16H技術(shù)融入下一代HBM4中。據(jù)三星的規(guī)劃,HBM 4將在2025年生產(chǎn)樣品。另外據(jù)外媒報道,三星在早前的一個會議上表示,正在考慮在HBM 4中使用混合鍵合或NCF。其認為,混合鍵合更具優(yōu)勢,因為它們可以緊湊地添加更多堆疊,而無需使用填充凸塊進行連接的硅通孔(TSV)。使用相同的技術(shù),HBM上的核心芯片DRAM也可以變得更厚。


這里值得關(guān)注的便是三星在HBM封裝上采用的TC-NCF非導(dǎo)電薄膜熱壓縮先進封裝技術(shù)。這是一種與SK海力士MR-MUF略有不同的技術(shù)。在每次堆疊芯片時,都會在各層之間放置一層不導(dǎo)電的粘合膜。該薄膜是一種聚合物材料,用于使芯片彼此絕緣并保護連接點免受撞擊。隨著發(fā)展,三星逐漸減少了NCF材料的厚度,將12層第五代HBM3E的厚度降至7微米(μm)。該公司認為這種方法的優(yōu)點是可以最大限度地減少隨著層數(shù)增加和芯片厚度減小而可能發(fā)生的翹曲,使其更適合構(gòu)建更高的堆棧。


美光是這場HBM戰(zhàn)局中的半路殺出者,畢竟它一入局,便將目光投向了HBM3。如下圖所示,美光曬出了其HBM3E和HBM4產(chǎn)品路線圖。方案路線圖顯示,其HBM4預(yù)計在2026年推出,而到2028年則由HBM4E接棒。


圖片

圖片來源:美光


關(guān)于未來的布局,美光披露了暫名為HBMnext的下一代HBM內(nèi)存,業(yè)界猜測這有可能便是其HBM 4。美光預(yù)計HBMNext將提供36 GB和64 GB容量,這意味著多種配置,例如12-Hi 24 Gb堆棧(36 GB)或16-Hi 32 Gb堆棧(64 GB)。至于性能,美光宣稱每個堆棧的帶寬為1.5 TB/s–2+TB/s,這意味著數(shù)據(jù)傳輸速率超過11.5 GT/s/pin。


談?wù)凥BM4以后的專業(yè)化、定制化趨勢


在談及HBM4時,臺積電以及SK海力士、三星、美光均提及專業(yè)定制化趨勢。據(jù)悉,目前三大原廠目前與英偉達、AMD、微軟簽訂的HBM供應(yīng)協(xié)議早已開啟了定制條款。


SK海力士認為,市場將更傾向于專業(yè)化(Specialized)和定制化(Customized)產(chǎn)品,以滿足客戶需求。他強調(diào),對于新一代HBM,卓越的性能是基本條件,同時,還須具備滿足不同客戶的特定需求、超越傳統(tǒng)存儲器性能的優(yōu)勢。


三星則表示,業(yè)界越來越認識到,處理器和內(nèi)存公司各自優(yōu)化其產(chǎn)品的孤立努力不足以釋放AGI時代所需的創(chuàng)新。因此,“定制HBM”成為潮流,這也代表了實現(xiàn)處理器和內(nèi)存之間協(xié)同優(yōu)化以加速這一趨勢的第一步。為此,三星利用其在內(nèi)存、代工、系統(tǒng)LSI和先進封裝方面的綜合能力。


在剛剛結(jié)束的美光科技交流會上,美光透露出一條重磅消息,在HBM產(chǎn)能不足的背景下,業(yè)內(nèi)已經(jīng)越來越傾向于定制化的HBM產(chǎn)品,主要是因為下游客戶越發(fā)個性化的需求。為了解決客戶對于性能、功能、尺寸、形態(tài)、功效等方面的差異化需求,市場將更傾向于打造專業(yè)化(Specialized)和定制化(Customized)HBM產(chǎn)品。


此前,行業(yè)針對HBM大規(guī)模擴產(chǎn)的行為產(chǎn)生未來是否會過剩擔(dān)憂。行業(yè)人士表示,專業(yè)化和定制化可以有效解決這類問題。由于定制化的存儲產(chǎn)品與客戶需求高度耦合,未來存儲廠商和客戶會有更深的綁定關(guān)系。這一改變可以增加HBM下游供給的確定性,使得存儲廠商在做產(chǎn)能規(guī)劃的時候更有計劃性。 


*博客內(nèi)容為網(wǎng)友個人發(fā)布,僅代表博主個人觀點,如有侵權(quán)請聯(lián)系工作人員刪除。



關(guān)鍵詞: HBM

相關(guān)推薦

技術(shù)專區(qū)

關(guān)閉