博客專欄

EEPW首頁 > 博客 > 史上最擅長AI推理的云端CPU!Q1已出貨超20萬顆

史上最擅長AI推理的云端CPU!Q1已出貨超20萬顆

發(fā)布人:芯東西 時間:2021-04-08 來源:工程師 發(fā)布文章
業(yè)界唯一內(nèi)置AI的數(shù)據(jù)中心CPU來了。

作者 |  心緣
編輯 |  漠影
芯東西4月6日報道,剛剛,英特爾在北京首鋼園推出第三代至強可擴展處理器(代號Ice Lake),最多支持40核,進一步強化AI性能和安全性,在主流數(shù)據(jù)中心工作負(fù)載上性能平均提升46%。英特爾還將該新品的AI性能與AMD競品及NVIDIA A100 GPU做了對比。2021年第一季度,這款芯片已出貨超過20萬顆,主流云服務(wù)提供商均計劃今年提供基于Ice Lake的服務(wù),在超過50家獨立OxM合作伙伴中贏得了超過250個訂單。

同時,英特爾宣布推出傲騰持久內(nèi)存200系列、傲騰固態(tài)盤SSD P5800X、NAND固態(tài)盤SSD D5-P5316,以及英特爾以太網(wǎng)800系列適配器和全新的英特爾Agilex FPGA,并展示了整體解決方案,以及英特爾產(chǎn)品組合自身獨具的優(yōu)勢。



第三代至強可擴展處理器:10nm、最多40核、AI推理性能猛增


自2013年以來,英特爾已在云端部署超過10億個至強處理器核心,有超過800個云服務(wù)提供商部署了基于英特爾至強可擴展處理器的服務(wù)器。從2017年推出第一款英特爾至強可擴展處理器至今,英特爾已向全球客戶交付了超過5000萬顆至強可擴展處理器。

如今,采用英特爾10nm先進制程的第三代至強可擴展處理器Ice Lake終于來了,依然是業(yè)界唯一內(nèi)置人工智能(AI)加速的數(shù)據(jù)中心處理器。新Ice Lake采用了新Sunny Cove核心,可額外增加20%的IPC性能,更加強調(diào)靈活性,主要服務(wù)于單路和雙路服務(wù)器。加上去年發(fā)布的Cooper Lake產(chǎn)品系列,迄今第三代至強產(chǎn)品系列已能滿足從單路到8路的市場需求。

其新旗艦Xeon Platinum 8380擁有40個核心,相較上一代28核Cascade Lake,其IPC性能可提升20%,平均性能可提升46%,AI推理性能可提升74%,平均性能相比已部署5年的老系統(tǒng)可提升2.65倍,這對于想要更新舊基礎(chǔ)設(shè)施的客戶來說是相當(dāng)不錯的收益。

在云計算、5G、物聯(lián)網(wǎng)、HPC、AI等不同應(yīng)用領(lǐng)域,第三代至強可擴展處理器均帶來超過1.5倍的代際提升。

具體來看,第三代至強可擴展處理器在AI和安全性方面的特點尤其凸顯。從AI算力的增強來看,通過采用英特爾深度學(xué)習(xí)加速技術(shù)(DL Boost),其推理性能較上一代提高74%,在20種主流AI工作負(fù)載上的性能最高可達(dá)AMD EPYC 763的1.5倍、NVIDIA A100 GPU的1.3倍。

相比默認(rèn)發(fā)行版,經(jīng)英特爾軟件優(yōu)化后的新一代至強在運行TensorFlow上ResNet50的深度學(xué)習(xí)性能提高了10倍,在Scikit-learn上SVC和kNN預(yù)測的機器學(xué)習(xí)性能提高了100倍。

從安全性來看,這是英特爾第一個主流雙插槽并啟用SGX英特爾軟件防護擴展(SGX)技術(shù)的數(shù)據(jù)中心處理器,能幫助保護敏感的代碼及數(shù)據(jù),能滿足主流工作負(fù)載的需求。除了能做到應(yīng)用程序隔離,該處理器還引入了英特爾全內(nèi)存機密技術(shù)、英特爾平臺固件彈性技術(shù)相結(jié)合,可批量加密全內(nèi)存空間,防止物理攻擊。即使平臺的軟件或硬件組件遭到入侵,依然能保護該區(qū)域內(nèi)的機密信息。此外,英特爾推出了英特爾平臺固件彈性技術(shù),用于固件層的防御甚至恢復(fù),以防止永久性的拒絕服務(wù)攻擊。第三代至強可擴展處理器還內(nèi)置英特爾密碼操作硬件加速,能通過公鑰對稱加密、哈希法等很多重要的加密算法,減少普遍加密對系統(tǒng)性能和響應(yīng)時間的影響,并為客戶的敏感數(shù)據(jù)提供更高級別的保護。

數(shù)據(jù)中心計算機架構(gòu)不僅需要提高吞吐量,同時也需具備最佳的響應(yīng)能力,才能更好地處理數(shù)據(jù)中心普遍存在的不同類型工作負(fù)載。對此,Ice Lake采用了一個可擴展且平衡的架構(gòu),在內(nèi)核架構(gòu)方面進一步優(yōu)化其性能,支持關(guān)鍵的矢量化擴展,并提升了轉(zhuǎn)譯后備緩沖區(qū)(TLB)和預(yù)存數(shù)據(jù)性能,以確保內(nèi)存阻塞時間最少,還增加了總體共享緩存。

內(nèi)存方面,該處理器每插槽最多可支持6TB系統(tǒng)內(nèi)存,內(nèi)存通道數(shù)量由6個增加到8個,進一步改善內(nèi)存帶寬,內(nèi)存速度最高可達(dá)3200。此外,英特爾Ice Lake支持PCIe 4.0,核心之間的網(wǎng)狀互連采用了更新的算法向核心提供IO,槽間互連傳輸速度提高到11.2GT/s,還通過每個IP塊內(nèi)的獨立電源管理代理來實現(xiàn)更好的電源管理。通過六個技術(shù)支柱,英特爾在芯片計算、內(nèi)存、IO、架構(gòu)平衡方面都取得了進步,并已開發(fā)優(yōu)化的底層庫,用于ISV和開放源碼社區(qū)合作,確保在軟件優(yōu)化后第三代至強可擴展處理器的性能最大化釋放。為了進一步降低應(yīng)用門檻,目前超過500個可立即部署的英特爾物聯(lián)網(wǎng)行業(yè)整體解決方案和英特爾精選解決方案已搭載第三代英特爾至強可擴展處理器,幫客戶提高規(guī)模化部署的效率。其中近80%的英特爾精選解決方案將在今年年底完成更新。
計算存儲連接陣容集體上新


如果僅看新處理器的參數(shù),英特爾的優(yōu)勢可能不算明顯,畢竟有其他廠商的核心數(shù)已經(jīng)奔著64核、128核去了。但談及豐富的軟硬件組合,當(dāng)前沒有一家處理器廠商比英特爾的布局更全面。具體來看英特爾產(chǎn)品組合的新成員,其中新一代傲騰持久內(nèi)存200系列的內(nèi)存帶寬增加了32%,每個插槽內(nèi)存容量最高可以達(dá)到6TB。

新一代傲騰固態(tài)盤P5800X被英特爾稱作世界上最快的數(shù)據(jù)中心固態(tài)盤,相比上一代,其平均時延可降低40%,服務(wù)質(zhì)量(QoS)提高50%,耐久性提高67%,而延遲降低到NAND固態(tài)盤的1/13。

新一代NAND固態(tài)盤D5-P5316采用了英特爾最先進的OLC NAND技術(shù),相比硬盤能將數(shù)據(jù)訪問速度提高25倍,能將客戶存儲空間最多減少到原來的1/20;其耐久性是上一代QLC固態(tài)盤系列的5倍。

新一代英特爾以太網(wǎng)適配器800系列把網(wǎng)絡(luò)數(shù)據(jù)吞吐量提高至每個適配器200GB/s,適合高性能vRAN、NFV轉(zhuǎn)發(fā)面、存儲、高性能計算、云和內(nèi)容交付網(wǎng)絡(luò)等帶寬密集型工作負(fù)載,能為虛擬機密度提供最多2倍的資源。

有些數(shù)據(jù)中心對靈活性和敏捷性的要求很高,對此英特爾打造了新一代Agilex FPGA。這款FPGA采用英特爾最先進的10nm SuperFin制程技術(shù),包含從140萬到270萬個邏輯元件,搭配Quartus Prime軟件,據(jù)稱能提供比競爭對手7nm FPGA高30%的邏輯結(jié)構(gòu)性能和高2倍的結(jié)構(gòu)每瓦性能。

據(jù)英特爾公司副總裁兼至強處理器與存儲事業(yè)部總經(jīng)理Lisa Spelmam分享,從平臺到邊緣到云,通過整合更多產(chǎn)品組合,英特爾已經(jīng)建立了一個價值超過10億美元的業(yè)務(wù),并且這一業(yè)務(wù)還在增長。英特爾還分享了與阿里云、騰訊云等云計算巨頭的合作案例,在第三代至強可擴展處理器及其深度學(xué)習(xí)加速技術(shù)的支持下,阿里云視頻轉(zhuǎn)碼性能最高可提升40%,騰訊云支撐的游戲角色創(chuàng)建速度比上一代提升了4.2倍。新一代至強還幫助進一步降低了總擁有成本。當(dāng)英特爾新一代至強與傲騰持久內(nèi)存、固態(tài)盤、以太網(wǎng)、PCle 4.0等平臺組件,及所有軟件優(yōu)化工具等功能結(jié)合時,能幫助客戶大幅提高性能。
面向數(shù)據(jù)中心,英特爾的五大競爭優(yōu)勢


在發(fā)布新品之余,英特爾技術(shù)專家還分享了客戶為何繼續(xù)購買英特爾產(chǎn)品的5個理由。

第一是豐富靈活的產(chǎn)品組合,包括數(shù)據(jù)中心處理器、傲騰持久內(nèi)存、以太網(wǎng)適配器等在內(nèi)的英特爾軟硬件產(chǎn)品組合,可以帶來極高的性能提升。第二是為客戶關(guān)鍵工作負(fù)載提供可預(yù)測的結(jié)果和低時延。通過與競品的參數(shù)對比可見,英特爾新一代至強可擴展處理器的本地插槽延時更短,遠(yuǎn)程插槽延時性能更優(yōu),響應(yīng)速度更快。

第三是持續(xù)優(yōu)化軟件,英特爾有近萬名工程師每天專注于更新軟件堆棧,確??蛻粼谫徺I至強平臺多年后,仍能持續(xù)從英特爾受益。圍繞工作負(fù)載加速指令集,英特爾已經(jīng)構(gòu)建了龐大的軟件生態(tài)系統(tǒng),并根據(jù)客戶需求持續(xù)迭代。

第四是虛擬化計算池具有一致性,易于部署、易于管理,客戶未來能方便地從第三代至強遷移到第五代至強,大幅減少遷移成本。第五是供應(yīng)鏈和物流能力更穩(wěn)定,英特爾是一家集成設(shè)備制造商(IDM),因此在向客戶交付產(chǎn)品時,英特爾能確定什么時候交付、怎樣優(yōu)先排序、如何可以更好滿足客戶的需求,從而如期交付客戶所需的產(chǎn)品。
結(jié)語:或刺激數(shù)據(jù)中心新一輪換機潮


2021年宛如英特爾新的轉(zhuǎn)折之年。從英特爾新任CEO帕特·基辛格宣布IDM 2.0戰(zhàn)略,到今日推出以第三代至強可擴展處理器為中心的一系列數(shù)據(jù)中心新品,英特爾似乎正擺脫去年因7nm延期而陷入的焦灼境地,開始向快速擴張的數(shù)據(jù)中心市場發(fā)起新一輪攻勢。對于英特爾來說,AMD、Arm系處理器的強勢發(fā)展顯然正為其產(chǎn)品帶來新的競爭壓力。但與此同時,英特爾全技術(shù)維度提升的優(yōu)勢仍具有獨特性,至少從現(xiàn)在來看,沒有其他競爭對手能提供像英特爾這樣全面統(tǒng)一的軟硬件及生態(tài)布局。隨著英特爾Ice Lake導(dǎo)入市場,以及更多來自其他品牌的處理器加入競爭,更高性能的芯片新品有望刺激企業(yè)數(shù)據(jù)中心服務(wù)器新一輪的換機潮。


*博客內(nèi)容為網(wǎng)友個人發(fā)布,僅代表博主個人觀點,如有侵權(quán)請聯(lián)系工作人員刪除。



關(guān)鍵詞:

相關(guān)推薦

技術(shù)專區(qū)

關(guān)閉