揭秘IPU的設(shè)計(jì)理念:站在客戶的角度設(shè)計(jì)處理器

“IPU設(shè)計(jì)者的幕后故事”：英特爾研究員Brad Burres介紹如何通過基礎(chǔ)設(shè)施處理器（IPU）使中央處理器（CPU）擺脫低價(jià)值的繁瑣任務(wù)，使其專注于處理更重要的工作負(fù)載。

如果問Brad Burres在業(yè)余時(shí)間有什么愛好，您可能想不到他的回答如此簡單：除了騎摩托車、徒步旅行和帶領(lǐng)童子軍野外遠(yuǎn)足，他還喜歡DIY。他說：“當(dāng)我們使用射釘槍時(shí)，只要全神貫注，那便不會(huì)遇到什么棘手問題了?！?/p>

有趣的是，作為以太網(wǎng)產(chǎn)品事業(yè)部的英特爾研究員，Brad Burres是打造IPU的幕后關(guān)鍵人物之一。IPU是一款針對特定領(lǐng)域的處理器，旨在為服務(wù)器客戶解決棘手問題。當(dāng)CPU內(nèi)核數(shù)量隨著計(jì)算需求的增加而增加，開銷或基礎(chǔ)設(shè)施處理任務(wù)量也會(huì)隨之增加。人們最不想看到的事情就是讓強(qiáng)大的CPU內(nèi)核陷入處理開銷的泥潭，以致無法有效運(yùn)行應(yīng)用程序。

可以這樣作類比：假如您希望增加團(tuán)隊(duì)人數(shù)，從而更快地完成工作，但這需要成本——需要考慮分配任務(wù)所需的時(shí)間、確保各項(xiàng)工作妥善完成、管理團(tuán)隊(duì)的輪班時(shí)間表等。在數(shù)據(jù)中心內(nèi)，網(wǎng)絡(luò)、存儲(chǔ)和安全等基礎(chǔ)設(shè)施功能都需要處理能力，但不一定必須由CPU處理，而這就是IPU的用武之地。

Brad Burres表示：“多達(dá)30%至40%的處理器周期花費(fèi)在基礎(chǔ)設(shè)施上?！蹦敲?，將其中一些基礎(chǔ)設(shè)施任務(wù)轉(zhuǎn)移到IPU，則可以為更重要的工作負(fù)載釋放CPU周期。

Brad Burres介紹道：“大型基礎(chǔ)設(shè)施供應(yīng)商都有一個(gè)共同的目標(biāo)，那就是‘不在至強(qiáng)?處理器上運(yùn)行任何基礎(chǔ)設(shè)施周期’。如果您是微軟Azure、AWS或谷歌云等公有云提供商，您不會(huì)希望在基礎(chǔ)設(shè)施任務(wù)或網(wǎng)絡(luò)上花費(fèi)絲毫至強(qiáng)計(jì)算周期。”

群策群力解決問題

英特爾與谷歌聯(lián)手開發(fā)了其首款A(yù)SIC IPU。谷歌這家網(wǎng)絡(luò)巨頭有一份具體的需求清單，需要全方位深度合作并進(jìn)行共同開發(fā)的伙伴關(guān)系。基于此，英特爾與谷歌的團(tuán)隊(duì)共同開發(fā)了可編程數(shù)據(jù)包處理功能，以支持由谷歌定義的一系列使用場景。雙方合作的最終成果就是Mount Evans，這款A(yù)SIC芯片負(fù)責(zé)進(jìn)行硬件卸載，也利用ARM N1內(nèi)核來處理那些必須被處理，而又無需英特爾?至強(qiáng)?處理器的強(qiáng)大功能的工作負(fù)載。不過，這并非該款芯片的全部優(yōu)點(diǎn)。為確保Mount Evans能夠盡可能高效地處理基礎(chǔ)設(shè)施任務(wù)，雙方做了大量工作。例如，Mount Evans支持每秒傳輸多達(dá)2億個(gè)數(shù)據(jù)包（這些信息包基于實(shí)際工作負(fù)載，而非基準(zhǔn)工作負(fù)載）。

該款芯片雖然由英特爾與谷歌共同設(shè)計(jì)，但它絕非僅被用來解決谷歌所面臨的問題。Brad Burres說：“Mount Evans并非僅針對谷歌而打造。雖然其優(yōu)化功能針對谷歌在其自身運(yùn)營中發(fā)現(xiàn)的問題而量身定制，但該款芯片足夠靈活，也可以用于其它許多地方。”

其他一些客戶也希望利用首代ASIC IPU來滿足其數(shù)據(jù)中心運(yùn)營的類似需求。

Brad Burres表示：“我們從多個(gè)客戶那里了解到存在類似問題，然后花時(shí)間和從事技術(shù)工作的朋友討論如何解決這些問題，并尋找共性，由此催生出打造IPU的絕佳想法?！彼a(bǔ)充說，面臨類似基礎(chǔ)設(shè)施挑戰(zhàn)的其他公司已經(jīng)提出了自己的解決方案。

進(jìn)化理論：智能網(wǎng)卡、IPU以及未來

雖然IPU進(jìn)入大眾視野才短短一年，但Brad Burres已經(jīng)為此冥思苦想了很多年。英特爾首款I(lǐng)PU的開發(fā)工作始于2016年，當(dāng)時(shí)是為了推出另一款與眾不同的產(chǎn)品，而這款產(chǎn)品最終演變成為一年前面市的產(chǎn)品。但其實(shí)，這款芯片的歷史可以追溯到更早。

Brad Burres在之前擔(dān)任智能網(wǎng)卡首席架構(gòu)師期間，專注于網(wǎng)絡(luò)卸載、存儲(chǔ)卸載和整體數(shù)據(jù)包處理等領(lǐng)域，專門針對頂級云服務(wù)提供商。因此，對于一款最終將被設(shè)計(jì)用于這些領(lǐng)域的特定處理器來說，這些都是熟悉的領(lǐng)域。從智能網(wǎng)卡到IPU的轉(zhuǎn)變是一個(gè)合乎邏輯的演變，而非僅僅是一個(gè)術(shù)語的變化。事實(shí)上，兩者之間的差異更廣泛地詮釋了IPU的未來。

Brad Burres解釋說：“智能網(wǎng)卡是一個(gè)臨時(shí)術(shù)語。普通網(wǎng)卡不具備智能化功能，若非借助FPGA或計(jì)算，它只是一個(gè)固定管道。而智能網(wǎng)卡不僅擁有智能化功能，還具備內(nèi)核和靈活性，但它只局限在網(wǎng)絡(luò)范圍內(nèi)。隨著存儲(chǔ)和遙測等附加功能的增加，我們有更多機(jī)會(huì)進(jìn)行優(yōu)化，‘智能網(wǎng)卡’一詞也不再能準(zhǔn)確地描述這些芯片的功能。”

在需求波動(dòng)的情況下，對于整體業(yè)務(wù)圍繞租賃服務(wù)器容量的公司來說，釋放通用算力十分重要。在此過程中，為滿足某些功能的需求增加而過度配置是一種浪費(fèi)，而引入更強(qiáng)大的至強(qiáng)處理器則不是非常經(jīng)濟(jì)?；诖耍蛻魻幭噘徺IMount Evans IPU庫存，以應(yīng)對上述挑戰(zhàn)。

Brad Burres說：“IPU的市場需求非常旺盛。這不僅僅是芯片出貨的問題，英特爾必須確保其軟件也能夠滿足客戶需求，例如擴(kuò)展到邊緣。它不像至強(qiáng)處理器這樣，當(dāng)我們把至強(qiáng)處理器賣給客戶后，客戶就會(huì)去編寫軟件。而在IPU的出貨中，我們發(fā)揮了很重要的作用，并希望確保漸進(jìn)式的進(jìn)步?！?/p>

5月發(fā)布的IPU更新路線圖列出了未來四年英特爾IPU，包括第二代Mount Morgan的一些細(xì)節(jié)。雖然現(xiàn)在還處于早期階段，但致力于開發(fā)Mount Morgan和后續(xù)第三代IPU的團(tuán)隊(duì)正在與至強(qiáng)產(chǎn)品團(tuán)隊(duì)合作，以協(xié)調(diào)并確保他們沿著各自的路徑并行前進(jìn)，并在必要時(shí)匯合。

“前途不可限量?！碑?dāng)被問到IPU的未來發(fā)展時(shí)，Brad Burres說：“一個(gè)新領(lǐng)域的創(chuàng)新率相當(dāng)高，這也正是它的魅力所在。IPU足夠靈活，可以支持更多使用場景。Mount Evans的使用場景就涵蓋了網(wǎng)絡(luò)和基礎(chǔ)設(shè)施領(lǐng)域，下一步則是存儲(chǔ)領(lǐng)域。隨后，您會(huì)開始看到一些I/O任務(wù)向下轉(zhuǎn)移到IPU。創(chuàng)新空間無處不在——而我們正處于冰山一角?！?/p>

這種想法可能會(huì)讓很多人大吃一驚，但工程師更喜歡“初期而有趣”的階段。因?yàn)樵谶@個(gè)階段，“開銷任務(wù)”（例如排滿會(huì)議的日程表）被壓縮到最低。開發(fā)IPU雖然不像周日下午使用射釘槍那么簡單，但它比很多人想象的要更容易一些。