新聞中心

EEPW首頁(yè) > 智能計(jì)算 > 新品快遞 > 最新MLCommons結(jié)果公布:第五代至強(qiáng)可擴(kuò)展處理器AI成果分享

最新MLCommons結(jié)果公布:第五代至強(qiáng)可擴(kuò)展處理器AI成果分享

—— 第五代至強(qiáng)可擴(kuò)展處理器的最新MLPerf測(cè)試結(jié)果充分展示了英特爾及其生態(tài)合作伙伴在提升生成式AI性能方面的成果。
作者: 時(shí)間:2024-03-31 來(lái)源:EEPW 收藏

近日,公布了針對(duì)AI推理的MLPerf v4.0基準(zhǔn)測(cè)試結(jié)果。其中,內(nèi)置了?高級(jí)矩陣擴(kuò)展(? AMX)的第五代?至強(qiáng)?可擴(kuò)展處理器(以下簡(jiǎn)稱“”)在測(cè)試中表現(xiàn)優(yōu)異,進(jìn)一步彰顯了英特爾致力于通過(guò)豐富且具有競(jìng)爭(zhēng)力的解決方案推動(dòng) “AI無(wú)處不在”的承諾。截至目前,英特爾仍是唯一一家提交MLPerf測(cè)試結(jié)果的CPU廠商。與第四代至強(qiáng)在MLPerf推理v3.1基準(zhǔn)測(cè)試中的結(jié)果相比,的測(cè)試結(jié)果平均提升1.42倍。

本文引用地址:http://m.butianyuan.cn/article/202403/457044.htm

英特爾公司副總裁兼數(shù)據(jù)中心與人工智能事業(yè)部產(chǎn)品管理總經(jīng)理Zane Ball表示:“我們將持續(xù)提升CPU和加速器等廣泛產(chǎn)品組合在行業(yè)基準(zhǔn)測(cè)試中的AI性能。此次全新的結(jié)果顯示,我們提供的AI解決方案能夠滿足客戶不斷變化、多樣化的AI需求。同時(shí),至強(qiáng)處理器也為客戶提供了可快速實(shí)現(xiàn)AI部署,且極具性價(jià)比的選擇。”

英特爾產(chǎn)品迄今為止在多輪MLPerf基準(zhǔn)測(cè)試中均所展示出領(lǐng)先的訓(xùn)練及推理性能,該測(cè)試結(jié)果亦為客戶樹(shù)立了可用于評(píng)估產(chǎn)品AI性能的行業(yè)標(biāo)準(zhǔn)。

關(guān)于的測(cè)試結(jié)果:

與第四代至強(qiáng)在MLPerf推理v3.1性能基準(zhǔn)測(cè)試中的表現(xiàn)相比,經(jīng)由硬件及軟件優(yōu)化的第五代至強(qiáng)性能平均提升1.42倍。其中,針對(duì)具備連續(xù)批處理(continuous batching)等軟件優(yōu)化的GPT-J模型,與v3.1的測(cè)試結(jié)果相比,第五代至強(qiáng)的性能提升約1.8倍;同樣,得益于MergedEmbeddingBag以及基于英特爾AMX的其他優(yōu)化,DLRMv2的測(cè)試結(jié)果顯示出約1.8倍的性能提升和99.9的準(zhǔn)確率。

1711844893663794.jpeg 1711844893622956.jpeg

第五代英特爾?至強(qiáng)?可擴(kuò)展處理器

與此同時(shí),英特爾非常自豪地與包括思科、戴爾、廣達(dá)、Supermicro和緯穎科技在內(nèi)的廣大OEM伙伴們展開(kāi)合作,助力其提交基于自身產(chǎn)品的MLPerf測(cè)試結(jié)果。英特爾不僅于2020年開(kāi)始提交基于第四代至強(qiáng)的測(cè)試結(jié)果,同時(shí)至強(qiáng)可擴(kuò)展處理器亦是參與MLPerf測(cè)試的產(chǎn)品中,眾多加速器的主機(jī)CPU。

此外,第五代至強(qiáng)可在英特爾?開(kāi)發(fā)者云平臺(tái)上進(jìn)行評(píng)估。該環(huán)境中,用戶可以進(jìn)行小型及大規(guī)模AI訓(xùn)練(譬如大語(yǔ)言模型或生成式AI)、運(yùn)行大規(guī)模的推理工作負(fù)載,以及管理AI計(jì)算資源等。



評(píng)論


相關(guān)推薦

技術(shù)專區(qū)

關(guān)閉