全球首款12層堆疊HBM3E,開始量產(chǎn)了
最近,韓國(guó) SK 海力士宣布,已開始量產(chǎn)全球首款 12 層 HBM3E 產(chǎn)品,容量為 36GB,這是迄今為止現(xiàn)有 HBM 的最大容量。
本文引用地址:http://m.butianyuan.cn/article/202410/463600.htmSK 海力士聲稱,12 層 HBM3E 產(chǎn)品在速度、容量和穩(wěn)定性方面均達(dá)到全球最高標(biāo)準(zhǔn)。該公司計(jì)劃在年內(nèi)向客戶提供量產(chǎn)產(chǎn)品。
受此消息影響,SK 海力士股價(jià)周四在韓股市場(chǎng)上大漲。
SK 海力士率先實(shí)現(xiàn) 12 層 HBM 量產(chǎn)
今年 3 月,SK 海力士向客戶交付 8 層 HBM3E 產(chǎn)品,創(chuàng)下業(yè)界首位。時(shí)隔 6 個(gè)月后,SK 海力士再次業(yè)界首個(gè)實(shí)現(xiàn) 12 層 HBM3E 芯片量產(chǎn),再次證明其技術(shù)優(yōu)勢(shì)。
SK 海力士是自 2013 年推出世界首款 HBM 以來(lái),開發(fā)并供應(yīng)從第一代 (HBM1) 到第五代 (HBM3E) 全部 HBM 系列的唯一企業(yè)。
如今,SK 海力士實(shí)現(xiàn)在業(yè)界率先量產(chǎn) 12 層 HBM3E 后,將滿足人工智能企業(yè)日益增長(zhǎng)的需求,并繼續(xù)保持其在人工智能存儲(chǔ)器市場(chǎng)的領(lǐng)先地位。
SK 海力士總裁 Justin Kim 表示:「SK 海力士再次突破了 AI 內(nèi)存領(lǐng)域的技術(shù)限制,展示了我們?cè)?AI 內(nèi)存領(lǐng)域的行業(yè)領(lǐng)先地位…為了克服人工智能時(shí)代的挑戰(zhàn),我們將穩(wěn)步準(zhǔn)備下一代內(nèi)存產(chǎn)品,繼續(xù)保持全球第一的地位?!?/span>
速度、容量、穩(wěn)定性均達(dá)最高標(biāo)準(zhǔn)
據(jù)該公司介紹,12 層 HBM3E 產(chǎn)品在速度、容量、穩(wěn)定性等人工智能存儲(chǔ)器所必需的所有領(lǐng)域都符合世界最高標(biāo)準(zhǔn)。
SK 海力士將內(nèi)存運(yùn)行速度提高到 9.6 Gbps,這是目前可用的最高內(nèi)存速度。如果大型語(yǔ)言模型 Llama 3 70b 由單個(gè)搭載 4 個(gè) HBM3E 產(chǎn)品的 GPU 驅(qū)動(dòng),每秒可讀取總計(jì) 700 億個(gè)參數(shù) 35 次。
SK 海力士的 12 層產(chǎn)品和此前同等厚度的 8 層產(chǎn)品相比,容量增加了 50%。為了實(shí)現(xiàn)這一目標(biāo),該公司將每個(gè) DRAM 芯片比以前薄 40%,并使用 TSV 技術(shù)垂直堆疊。
該公司還通過應(yīng)用其核心技術(shù) Advanced MR-MUF 工藝,解決了由于將更薄的芯片堆疊得更高而產(chǎn)生的結(jié)構(gòu)問題。這使得新一代產(chǎn)品散熱性能比上一代產(chǎn)品高 10%,并通過增強(qiáng)翹曲控制來(lái)確保產(chǎn)品的穩(wěn)定性和可靠性。
三星進(jìn)展如何?
HBM(高帶寬存儲(chǔ)器)是 GPU 的關(guān)鍵組件,有助于處理復(fù)雜應(yīng)用程序產(chǎn)生的大量數(shù)據(jù),芯片垂直堆疊技術(shù)可以在節(jié)省空間的同時(shí)降低功耗。
目前,HBM 的主要制造商只有三個(gè)——SK 海力士、美光科技和三星電子。其中,三星電子于今年 2 月首次推出了 HBM3E 12H。
三星 HBM3E 12H 支持全天候最高帶寬達(dá) 1280GB/s,產(chǎn)品容量也達(dá)到了 36GB。相比三星 8 層堆疊的 HBM3 8H,HBM3E 12H 在帶寬和容量上大幅提升超過 50%。
「當(dāng)前行業(yè)的人工智能服務(wù)供應(yīng)商越來(lái)越需要更高容量的 HBM,而我們的新產(chǎn)品 HBM3E 12H 正是為了滿足這種需求而設(shè)計(jì)的,」三星電子存儲(chǔ)器產(chǎn)品企劃團(tuán)隊(duì)執(zhí)行副總裁 Yongcheol Bae 表示,「這一新的存儲(chǔ)解決方案是我們研發(fā)多層堆疊 HBM 核心技術(shù)以及在人工智能時(shí)代為高容量 HBM 市場(chǎng)提供技術(shù)領(lǐng)導(dǎo)力而努力的一部分。」
HBM3E 12H 采用了先進(jìn)的熱壓非導(dǎo)電薄膜(TC NCF)技術(shù),使得 12 層和 8 層堆疊產(chǎn)品的高度保持一致,以滿足當(dāng)前 HBM 封裝的要求。因?yàn)樾袠I(yè)正在尋找緩解薄片帶來(lái)的芯片彎曲問題,這項(xiàng)技術(shù)將在更高的堆疊中帶來(lái)更多益處。三星一直在努力降低其非導(dǎo)電薄膜(NCF)材料的厚度,并實(shí)現(xiàn)芯片之間的間隙最小化至 7 微米(μm),同時(shí)消除了層與層之間的空隙。這些努力使其 HBM3E 12H 產(chǎn)品的垂直密度比其 HBM3 8H 產(chǎn)品提高了 20% 以上。
三星先進(jìn)的熱壓非導(dǎo)電薄膜(TC NCF)技術(shù)還通過允許在芯片之間使用不同尺寸的凸塊(bump)改善 HBM 的熱性能。在芯片鍵合(chip bonding)過程中,較小凸塊用于信號(hào)傳輸區(qū)域,而較大凸塊則放置在需要散熱的區(qū)域。這種方法有助于提高產(chǎn)品的良率。
隨著人工智能應(yīng)用的指數(shù)級(jí)增長(zhǎng),HBM3E 12H 有望成為未來(lái)系統(tǒng)的優(yōu)選解決方案,滿足系統(tǒng)對(duì)更大存儲(chǔ)的需求。憑借超高性能和超大容量,HBM3E 12H 將幫助客戶更加靈活地管理資源,同時(shí)降低數(shù)據(jù)中心的總體擁有成本(TCO)。相比 HBM3 8H,HBM3E 12H 搭載于人工智能應(yīng)用后,預(yù)計(jì)人工智能訓(xùn)練平均速度可提升 34%,同時(shí)推理服務(wù)用戶數(shù)量也可增加超過 11.5 倍。
關(guān)于量產(chǎn)進(jìn)度,三星表示已開始向客戶提供 HBM3E 12H 樣品,預(yù)計(jì)于今年下半年開始大規(guī)模量產(chǎn)。
評(píng)論