新聞中心

EEPW首頁 > 智能計(jì)算 > 業(yè)界動(dòng)態(tài) > 四年,AI性能提升17倍!英特爾至強(qiáng)6在最新MLPerf測試中成績亮眼

四年,AI性能提升17倍!英特爾至強(qiáng)6在最新MLPerf測試中成績亮眼

作者: 時(shí)間:2024-09-02 來源:EEPW 收藏

最新MLPerf基準(zhǔn)測試展示了至強(qiáng)處理器在AI推理和通用AI工作負(fù)載上的優(yōu)勢。

本文引用地址:http://m.butianyuan.cn/article/202409/462540.htm

1725242133509561.png

最新發(fā)布:近日,MLCommons發(fā)布了其行業(yè)標(biāo)準(zhǔn)基準(zhǔn)套件MLPerf推理v4.1的結(jié)果。提交了第五代? 至強(qiáng)? 可擴(kuò)展處理器的六項(xiàng)MLPerf基準(zhǔn)測試結(jié)果,并首次提交了英特爾? 至強(qiáng)? 6處理器性能核(P核)的結(jié)果。與第五代至強(qiáng)處理器相比,英特爾性能核處理器實(shí)現(xiàn)了的幾何平均值約1.9倍的提升。

“最新MLPerf結(jié)果表明,持續(xù)的投入和資源配置對于提高至關(guān)重要。縱觀MLPerf的測試結(jié)果,過去四年,英特爾至強(qiáng)處理器的AI性能提升了高達(dá)17倍之多。步入今年下半年,隨著處理器具備廣泛可應(yīng)用性時(shí),我們期待能與客戶、合作伙伴一道持續(xù)加速其出貨和市場應(yīng)用?!?/p>

-   Pallavi Mahajan,英特爾公司副總裁兼數(shù)據(jù)中心與人工智能軟件總經(jīng)理

重要意義:AI系統(tǒng)在跨多種場景的解決方案的順利部署,都離不開CPU這一關(guān)鍵的硬件。英特爾至強(qiáng)處理器為AI推理提供了出色的解決方案,包括經(jīng)典的機(jī)器學(xué)習(xí)和向量搜索嵌入。

在MLPerf推理v4.1中,英特爾提交了第五代英特爾至強(qiáng)處理器和能效核處理器在ResNet50、RetinaNet、3DUNet、BERT、DLRM v2和GPT-J上的結(jié)果。與第五代英特爾至強(qiáng)相比,至強(qiáng)6在這六個(gè)基準(zhǔn)測試中展現(xiàn)出平均約1.9倍的AI推理性能提升。英特爾仍是唯一向MLPerf提交CPU結(jié)果的服務(wù)器處理器供應(yīng)商。

自四年前首次提交MLPerf結(jié)果以來,英特爾CPU的AI性能表現(xiàn)具備顯著提升。與2021年發(fā)布的第三代英特爾? 至強(qiáng)? 可擴(kuò)展處理器相比,至強(qiáng)6在自然語言處理(BERT)上的性能提升高達(dá)17倍,在計(jì)算機(jī)視覺(ResNet50)工作負(fù)載上的性能提升高達(dá)15倍。英特爾將持續(xù)推進(jìn)AI在CPU路線圖中的進(jìn)展。例如,通過新的數(shù)據(jù)類型和效率提升,繼續(xù)推進(jìn)英特爾? 高級矩陣擴(kuò)展 (AMX) 創(chuàng)新。

支持AI客戶:最新的MLCommons基準(zhǔn)測試突顯了至強(qiáng)處理器正在為OEM廠商提供強(qiáng)大的CPU AI服務(wù)器解決方案。隨著AI計(jì)算需求的增長,且諸多客戶同時(shí)運(yùn)行AI和企業(yè)工作負(fù)載,OEM廠商正在優(yōu)先考慮通過提交MLPerf的方式,彰顯其向客戶提供的、搭載至強(qiáng)處理器的系統(tǒng)具備高性能且針對AI工作負(fù)載而優(yōu)化。

英特爾在本輪MLPerf中支持了思科、戴爾科技、慧與、廣達(dá)和超微五個(gè)OEM合作伙伴分別提交的測試結(jié)果。每個(gè)客戶都提交了使用第五代至強(qiáng)可擴(kuò)展處理器的MLPerf結(jié)果,展示了其系統(tǒng)對各種AI工作負(fù)載和部署的支持。

后續(xù)進(jìn)展:英特爾將在9月的發(fā)布會上帶來更多英特爾至強(qiáng)6性能核處理器的信息。



評論


相關(guān)推薦

技術(shù)專區(qū)

關(guān)閉