新聞中心

EEPW首頁 > 智能計算 > 設計應用 > 存算一體架構創(chuàng)新助力國產(chǎn)大算力AI芯片騰飛

存算一體架構創(chuàng)新助力國產(chǎn)大算力AI芯片騰飛

—— 億鑄科技高級副總裁徐芳
作者: 時間:2024-10-24 來源:EEPW 收藏

在灣芯展SEMiBAY2024《與高性能計算(HPC)應用論壇》上,億鑄科技高級副總裁徐芳發(fā)表了題為《架構創(chuàng)新助力國產(chǎn)大算力騰飛》的演講。

本文引用地址:http://m.butianyuan.cn/article/202410/463957.htm

徐總在演講中詳細介紹了億鑄科技的發(fā)展歷程、技術優(yōu)勢以及對未來產(chǎn)業(yè)的展望,同時分析了當前國內(nèi)AI大算力芯片面臨的挑戰(zhàn)。

1729737425826777.png

架構:突破傳統(tǒng)計算瓶頸

自2022年以來,美國不斷收緊對華出口高算力芯片的管制措施,這對我國人工智能產(chǎn)業(yè)的發(fā)展構成了外部壓力。同時,產(chǎn)業(yè)內(nèi)部也面臨著工藝、器件和結構三大因素的影響,導致算力供給和市場需求之間出現(xiàn)了結構性供給短缺的問題。在這樣的背景下,中國的人工智能產(chǎn)業(yè)和算力發(fā)展迫切需要尋找新的出路。

但是,在傳統(tǒng)的設計中,存儲和計算是分離的,這導致了數(shù)據(jù)傳輸過程中的能耗和時間消耗,限制了系統(tǒng)的整體性能和算力的提升。但是,隨著摩爾定律面臨終結的困境,大算力芯片單純依靠先進工藝的時代已經(jīng)過去,產(chǎn)業(yè)創(chuàng)新路徑需要開啟第二增長曲線。

徐總表示,在億鑄科技看來,大算力芯片正是這一創(chuàng)新路徑之一。存算一體技術通過將存儲單元和計算單元融合在一起,可以在保持超大算力的同時,實現(xiàn)超高能效比、更高并行度和更大專用算力。

1729737461686240.png

億鑄科技的自主創(chuàng)新之路

徐總強調,大模型的發(fā)展離不開數(shù)據(jù)、算法和算力三大要素。隨著大模型需要處理的數(shù)據(jù)量和參數(shù)的增加,算法變得更加復雜,對算力的需求也隨之增加。徐總還強調,影響AI大算力芯片成本的主要因素包括制造芯片的工藝成本、Wafer成本以及軟件生態(tài)等。

演講中,徐總詳細介紹了億鑄科技在存算一體架構方面的創(chuàng)新歷程。她提到,億鑄科技創(chuàng)始人熊大鵬博士擁有豐富的AI芯片設計經(jīng)驗,公司自成立以來,一直致力于基于新型存儲的存算一體AI大算力芯片的研發(fā)和創(chuàng)新。經(jīng)過多年的努力,這一創(chuàng)新技術有望徹底改變AI算力的格局。

隨著人工智能技術的成熟和應用的落地,大幅降低AI算力成本將是產(chǎn)業(yè)智能化廣泛落地的必備條件之一。未來,AI芯片的最大競爭力將體現(xiàn)在大幅降低大模型算法每token的算力成本上,這也是億鑄科技AI大算力產(chǎn)品的核心競爭力。這也使得億鑄科技的芯片在大模型推理、數(shù)據(jù)中心、云計算等領域具有廣泛的應用前景。

存算一體加速推進AI應用落地

目前,存算一體已成為AI大算力芯片的發(fā)展大趨勢。包括AMD、三星在內(nèi)的國際產(chǎn)業(yè)巨頭都在積極投身存算一體領域,尋找產(chǎn)業(yè)發(fā)展的新動能。經(jīng)過十多年的發(fā)展,存算一體芯片的產(chǎn)業(yè)生態(tài)已初步顯現(xiàn)。

徐總表示,隨著推理成本的大幅下降,AI技術將在更多領域得到應用,從而推動社會的進步和發(fā)展。億鑄科技的基于新型存儲的存算一體AI大芯片通過提高能效比,降低了運行成本,為AI應用的廣泛落地提供了支持。

在市場方面,億鑄科技的AI大算力芯片面向廣泛的市場,包括垂直領域平臺客戶、企業(yè)私有云客戶、數(shù)據(jù)中心、服務器廠商、運營商、互聯(lián)網(wǎng)大廠、大模型獨角獸和整體解決方案商。這些市場的廣泛覆蓋,不僅體現(xiàn)了億鑄科技的市場定位,也為公司的未來發(fā)展提供了廣闊的空間。

未來展望

在演講的最后,徐總對億鑄科技的未來發(fā)展充滿了信心。她表示,億鑄科技將繼續(xù)致力于AI芯片技術的創(chuàng)新和研發(fā),為AI技術的發(fā)展提供強有力的支持。

展望未來,億鑄科技將繼續(xù)堅持自主創(chuàng)新,不斷推動存算一體技術的突破和發(fā)展。在智能化時代,億鑄科技將發(fā)揮更加重要的作用,為全球AI技術的發(fā)展貢獻中國智慧和中國力量。

我們有理由相信,在億鑄科技等企業(yè)的共同努力下,我國的人工智能產(chǎn)業(yè)將迎來更加廣闊的發(fā)展空間,為經(jīng)濟社會的發(fā)展注入新的活力。



關鍵詞: 存算一體 AI芯片

評論


技術專區(qū)

關閉