新聞中心

EEPW首頁 > 網(wǎng)絡與存儲 > 業(yè)界動態(tài) > Rambus通過9.6 Gbps HBM3內(nèi)存控制器IP大幅提升AI性能

Rambus通過9.6 Gbps HBM3內(nèi)存控制器IP大幅提升AI性能

作者: 時間:2023-12-07 來源: 收藏

作為業(yè)界領(lǐng)先的芯片和IP核供應商,致力于使數(shù)據(jù)傳輸更快更安全, Inc.(納斯達克股票代碼:RMBS)今日宣布 HBM3IP現(xiàn)在可提供高達9.6 Gbps的性能,可支持HBM3標準的持續(xù)演進。相比HBM3 Gen1 6.4 Gbps 的數(shù)據(jù)速率, HBM3的數(shù)據(jù)速率提高了50%,總內(nèi)存吞吐量超過1.2 TB/s,適用于推薦系統(tǒng)的訓練、生成式AI以及其他要求苛刻的數(shù)據(jù)中心工作負載。

本文引用地址:http://m.butianyuan.cn/article/202312/453669.htm

無標題.jpg

Rambus HBM3控制器模塊圖

Rambus IP核部門總經(jīng)理 Neeraj Paliwal 表示:“大語言模型要求高性能內(nèi)存技術(shù)的不斷進步,使得HBM3成為AI/ML訓練的首選內(nèi)存。依靠Rambus的創(chuàng)新和卓越的工程技術(shù),我們的HBM3IP可提供業(yè)界領(lǐng)先的9.6 Gbps性能?!?/p>

IDC內(nèi)存半導體副總裁 Soo-Kyoum Kim 表示:“HBM 是更快速且更高效的處理大型 AI 訓練和推理集的關(guān)鍵內(nèi)存技術(shù),比如用于生成式 AI 的訓練和推理。對于像Rambus這樣的 HBM IP供應商來說,持續(xù)提高性能來支持滿足市場苛刻要求的領(lǐng)先 AI 加速器的意義重大。”

HBM采用創(chuàng)新的2.5D/3D架構(gòu),為AI加速器提供具有高內(nèi)存帶寬和低功耗的解決方案。憑借極低的延遲和緊湊的封裝,HBM已成為AI訓練硬件的首選。

Rambus HBM3 內(nèi)存控制器 IP 專為需要高內(nèi)存吞吐量、低延遲和完全可編程性應用而設計。該控制器是一種高度可配置的模塊化解決方案,可根據(jù)每個客戶對尺寸和性能的獨特要求進行定制。對于選擇第三方HBM3 PHY的客戶,Rambus還提供HBM3控制器的集成與驗證服務。

Rambus HBM3內(nèi)存控制器從即日起提供許可證。



關(guān)鍵詞: Rambus 內(nèi)存控制器

評論


相關(guān)推薦

技術(shù)專區(qū)

關(guān)閉