被稱為數(shù)據(jù)中心“第三顆主力芯片”，DPU憑什么？

文︱王樹(shù)一

圖︱井芯微

2021年10月至今，中科院計(jì)算所面向全行業(yè)先后發(fā)布了《專用數(shù)據(jù)處理器（DPU）技術(shù)白皮書》和《專用數(shù)據(jù)處理器（DPU）性能基準(zhǔn)評(píng)測(cè)方法與實(shí)現(xiàn)》，兩份白皮書較為全面地解釋了，DPU為何被定義為數(shù)據(jù)中心發(fā)展的顛覆性技術(shù)。

在DPU性能基準(zhǔn)評(píng)測(cè)白皮書里，闡述了DPU在網(wǎng)絡(luò)、存儲(chǔ)、計(jì)算和信息安全四個(gè)領(lǐng)域的評(píng)測(cè)和實(shí)現(xiàn)方法，這也是DPU釋放潛能的四大領(lǐng)域，同時(shí)它們恰恰又是數(shù)據(jù)中心的關(guān)鍵環(huán)節(jié)。因此，DPU、CPU、GPU被稱為算力經(jīng)濟(jì)時(shí)代的三駕馬車，DPU成為數(shù)據(jù)中心領(lǐng)域“第三顆主力芯片”。此外，智能駕駛、數(shù)據(jù)通信、網(wǎng)絡(luò)安全等也是DPU的目標(biāo)應(yīng)用領(lǐng)域。根據(jù)賽迪網(wǎng)的估算，從2023年開(kāi)始全球DPU市場(chǎng)規(guī)模將突破百億美元，后續(xù)年增長(zhǎng)率超50%。

圖源：賽迪網(wǎng)

這就是為什么英偉達(dá)CEO黃仁勛在發(fā)布該公司首款DPU產(chǎn)品時(shí)要著重強(qiáng)調(diào)，“這只是一個(gè)開(kāi)始?！蹦壳埃粌H英偉達(dá)等產(chǎn)業(yè)巨頭在緊盯DPU賽道，井芯微電子等初創(chuàng)公司也脫穎而出，展現(xiàn)出非凡的技術(shù)實(shí)力，產(chǎn)品獲得行業(yè)認(rèn)可。

DPU是什么？

要想知道DPU為什么熱，那么首先就要搞清楚，DPU到底是什么？

DPU的英文全稱為Data Processing Unit，直譯過(guò)來(lái)就是數(shù)據(jù)處理單元，也被一些從業(yè)者稱為數(shù)據(jù)中心處理器。DPU以數(shù)據(jù)為中心，核心作用是做數(shù)據(jù)加速處理，幫助系統(tǒng)解決CPU處理效率低，GPU又無(wú)法處理的負(fù)載。

根據(jù)DPU技術(shù)白皮書，DPU處理的數(shù)據(jù)和傳統(tǒng)DSP、基帶處理器等處理器處理的“信號(hào)”，以及GPU處理的圖形圖像類數(shù)據(jù)不同，DPU處理的數(shù)據(jù)是更加靠近底層架構(gòu)、數(shù)字化的各種信息，特別是各種時(shí)序化、結(jié)構(gòu)化的數(shù)據(jù)，比如大型的結(jié)構(gòu)化表格，網(wǎng)絡(luò)流中的數(shù)據(jù)包，海量的文本等等。

DPU架構(gòu)參考設(shè)計(jì)

圖源：DPU技術(shù)白皮書

DPU潛力巨大

不難發(fā)現(xiàn)，DPU是以解決數(shù)據(jù)中心發(fā)展瓶頸為第一出發(fā)點(diǎn)而提出的，是數(shù)據(jù)中心用服務(wù)器走向異構(gòu)計(jì)算的最大受益者。隨著數(shù)據(jù)中心市場(chǎng)的蓬勃發(fā)展，DPU在該領(lǐng)域的潛力巨大。

以中國(guó)市場(chǎng)為例，數(shù)據(jù)中心第一波浪潮于2014年-2015年拉開(kāi)帷幕，主要服務(wù)于當(dāng)時(shí)快速發(fā)展的互聯(lián)網(wǎng)，當(dāng)時(shí)國(guó)內(nèi)出現(xiàn)了很多數(shù)據(jù)交易所。從具體特征來(lái)看，數(shù)據(jù)中心第一波浪潮是以計(jì)算為核心，然而很快以CPU為主要算力平臺(tái)的方式便出現(xiàn)了瓶頸，且CPU在資源管理方面普遍存在20%-30%的算力資源浪費(fèi)，這就帶來(lái)了算力提升的無(wú)力感。

數(shù)據(jù)中心第二波浪潮開(kāi)始于2020年，也就是人們所說(shuō)的“DPU元年”，其中最明顯的變化是數(shù)據(jù)中心不再?gòu)?qiáng)調(diào)計(jì)算中心和算力中心的概念，而是回歸以數(shù)據(jù)為中心的本質(zhì)。在這個(gè)過(guò)程中，云和應(yīng)用算法的種類都愈發(fā)豐富多樣，提升數(shù)據(jù)處理效率當(dāng)然還是主要目標(biāo)，不過(guò)給CPU減負(fù)以增強(qiáng)系統(tǒng)調(diào)度能力也是一個(gè)大方向。

從“以計(jì)算為中心”到“以數(shù)據(jù)為中心”是巨大的觀念轉(zhuǎn)變，DPU得以從眾多協(xié)處理器中脫穎而出。作為數(shù)據(jù)處理的專用引擎，未來(lái)不斷豐富的DPU產(chǎn)品類型將使得CPU回歸自己擅長(zhǎng)的領(lǐng)域——統(tǒng)籌全局和任務(wù)調(diào)度，釋放CPU的算力到上層應(yīng)用，DPU將化身為新的系統(tǒng)網(wǎng)關(guān)、存儲(chǔ)入口、算法加速沙盒以及安全引擎。

從下圖能夠看出，在以數(shù)據(jù)為中心的數(shù)據(jù)中心框架下，DPU可謂是無(wú)處不在。

傳統(tǒng)云計(jì)算基礎(chǔ)設(shè)施與以數(shù)據(jù)為中?的數(shù)據(jù)中?架構(gòu)對(duì)?

圖源：DPU技術(shù)白皮書

當(dāng)然，DPU想要在數(shù)據(jù)中心領(lǐng)域兌現(xiàn)潛能也需要克服一些挑戰(zhàn)。首先，在硬件層面DPU的產(chǎn)品種類需要足夠豐富，如上所述，需要在網(wǎng)絡(luò)、存儲(chǔ)、計(jì)算和信息安全四大維度對(duì)CPU進(jìn)行全面卸載，同時(shí)不同廠商的DPU產(chǎn)品需要遵循通用的標(biāo)準(zhǔn)，并在整體方案上體現(xiàn)總擁有成本優(yōu)勢(shì)；在軟件層面，當(dāng)前CPU和GPU在數(shù)據(jù)中心的應(yīng)用均具有標(biāo)準(zhǔn)的軟件框架，實(shí)現(xiàn)了軟硬件解耦，DPU加入后，這也是一個(gè)長(zhǎng)期且具有挑戰(zhàn)的工作。

上述內(nèi)容已經(jīng)提到，DPU的終端應(yīng)用場(chǎng)景絕不僅僅是在數(shù)據(jù)中心，在智能駕駛、數(shù)據(jù)通信、網(wǎng)絡(luò)安全等領(lǐng)域，DPU也有廣闊的應(yīng)用前景。

比如在通信領(lǐng)域，基于DPU實(shí)現(xiàn)的?絡(luò)功能虛擬化可應(yīng)用于5G 邊緣計(jì)算UPF，提升5G通信在垂直行業(yè)的高速和大帶寬能力；在網(wǎng)絡(luò)安全領(lǐng)域，DPU可助力打造硬件信任根，并能夠以完全卸載的方式實(shí)現(xiàn)隔離?絡(luò)虛擬化，與主機(jī)操作系統(tǒng)相隔離，使用戶免受黑客攻擊；在自動(dòng)駕駛領(lǐng)域，DPU提供的各種虛擬化功能，可以更好地幫助開(kāi)發(fā)者實(shí)現(xiàn)“軟件定義汽車”。

國(guó)產(chǎn)DPU助力中國(guó)“新基建”

DPU已經(jīng)打開(kāi)了一個(gè)大的產(chǎn)業(yè)化趨勢(shì)，我國(guó)“新基建”戰(zhàn)略中的各領(lǐng)域?qū)⒙氏仁芤?，加速?shù)字化轉(zhuǎn)型。同時(shí)，“新基建”和“東數(shù)西算”也將在數(shù)據(jù)和算力層面帶來(lái)強(qiáng)勁需求，再加上國(guó)家在5G和自動(dòng)駕駛等產(chǎn)業(yè)的宏大布局，國(guó)產(chǎn)DPU未來(lái)發(fā)展前景明朗。

緊抓DPU產(chǎn)業(yè)的中國(guó)芯機(jī)遇，井芯微電子技術(shù)（天津）有限公司（以下簡(jiǎn)稱：井芯微）雖然還是一家年輕的初創(chuàng)企業(yè)，但是在DPU技術(shù)研發(fā)和產(chǎn)品商用進(jìn)度方面，已經(jīng)達(dá)到了國(guó)內(nèi)領(lǐng)先水平。

井芯微于2020年在天津?yàn)I海新區(qū)成立，專注在新計(jì)算、新網(wǎng)絡(luò)、新安全等創(chuàng)新賽道，致力于中國(guó)新基建核心芯片研制與技術(shù)成果轉(zhuǎn)化，為金融、能源、交通、電力、電信等重點(diǎn)行業(yè)的目標(biāo)客戶帶來(lái)領(lǐng)先的網(wǎng)絡(luò)互連交換、安全和計(jì)算芯片，而DPU作為網(wǎng)絡(luò)互連領(lǐng)域的新興方向，井芯微自然也進(jìn)行了重點(diǎn)布局。

根據(jù)DPU技術(shù)白皮書，DPU架構(gòu)有三大核心組成部分，分別是控制平面、IO子系統(tǒng)和數(shù)據(jù)平面。在IO子系統(tǒng)方面，井芯微提供RapidIO嵌入式系統(tǒng)互連以及軟件定義互連交換等原創(chuàng)性技術(shù)，已成功研發(fā)出RapidIO交換芯片NRS1800、軟件定義互連交換芯片SDI3210、內(nèi)生安全交換芯片ESW5610、橋接芯片PRB0400等系統(tǒng)IO產(chǎn)品。

在數(shù)據(jù)平面，井芯微已經(jīng)發(fā)布一款集成AI引擎的網(wǎng)絡(luò)處理智能芯片——井芯2820，主要面向云計(jì)算和數(shù)據(jù)中心網(wǎng)絡(luò)應(yīng)用及相關(guān)的任務(wù)卸載，并提供智能化的網(wǎng)絡(luò)監(jiān)控和管理能力。網(wǎng)絡(luò)數(shù)據(jù)包的處理是DPU第一個(gè)發(fā)力場(chǎng)景，以“網(wǎng)絡(luò)+算力”的模式為CPU 卸載，因此DPU也常常被視為 SmartNIC （智能網(wǎng)卡）的升級(jí)版，但我們都知道DPU的潛力絕不止于此。

井芯2820實(shí)現(xiàn)了2-7層的報(bào)文解析和應(yīng)對(duì)云計(jì)算、工業(yè)互聯(lián)網(wǎng)等關(guān)鍵應(yīng)用的加速能力。同時(shí)，該芯片具備可升級(jí)擴(kuò)展能力，能夠應(yīng)對(duì)變化迅速的大數(shù)據(jù)處理、時(shí)延敏感應(yīng)用要求，并具備快速部署能力。同時(shí)，該芯片對(duì)外提供2個(gè)100G和1個(gè)40G接口。

井芯2820支持三大應(yīng)用場(chǎng)景：

標(biāo)準(zhǔn)網(wǎng)卡模式

該模式下，芯片工作在標(biāo)準(zhǔn)的網(wǎng)卡方式，可以配置成2*100GE標(biāo)準(zhǔn)網(wǎng)卡、4*10GE網(wǎng)卡、2*25GE或者2*10GE網(wǎng)卡，支持最大16*PCIE4.0，支持多虛擬機(jī)的SR-IOV數(shù)據(jù)傳輸。軟件通過(guò)標(biāo)準(zhǔn)的linux網(wǎng)卡驅(qū)動(dòng)訪問(wèn)網(wǎng)絡(luò)接口卡。

智能網(wǎng)卡模式

該模式下，CPU和AI引擎參與數(shù)據(jù)處理，芯片工作在智能卸載模式。數(shù)據(jù)報(bào)文經(jīng)過(guò)兩個(gè)路徑發(fā)送，一個(gè)是控制路徑，相關(guān)的協(xié)議報(bào)文，控制報(bào)文轉(zhuǎn)發(fā)至CPU核，用于各種協(xié)議控制面例如RDMA，OVS等的處理；一個(gè)是數(shù)據(jù)路徑，用于處理報(bào)文的封裝/解封裝，數(shù)據(jù)處理加速等。AI引擎實(shí)時(shí)提取和分析輸入數(shù)據(jù)，檢測(cè)和識(shí)別數(shù)據(jù)流量是否有惡意攻擊行為，進(jìn)行上報(bào)和告警。

獨(dú)立主控模式

該模式下，井芯微網(wǎng)絡(luò)處理智能芯片可以獨(dú)立工作，成為一顆具備AI引擎的網(wǎng)絡(luò)主控CPU芯片。PCIE工作在RC模式下，可外接各種外設(shè)，例如24口/48口千兆交換芯片、SRIO交換芯片等。CPU運(yùn)行獨(dú)立的linux操作系統(tǒng)和網(wǎng)絡(luò)協(xié)議棧，實(shí)現(xiàn)交換機(jī)的主控功能。

這顆240G網(wǎng)絡(luò)處理智能芯片的推出，代表了本土企業(yè)在DPU領(lǐng)域的開(kāi)拓邁出了關(guān)鍵一步。后續(xù)，井芯微將持續(xù)關(guān)注軟件定義互連、內(nèi)生安全和類腦計(jì)算三大戰(zhàn)略方向，推動(dòng)DPU等產(chǎn)品的快速迭代，為國(guó)家“新基建”戰(zhàn)略推進(jìn)貢獻(xiàn)創(chuàng)新力量。