寧暢AI服務(wù)器首次亮相GTC
12月15日至19日,NVIDA GTC中國(guó)以線上形式舉辦。寧暢信息產(chǎn)業(yè)(北京)有限公司(以下簡(jiǎn)稱(chēng)“寧暢”)受邀,以黃金贊助商身份首次攜X640 G30等多款A(yù)I服務(wù)器產(chǎn)品亮相GTC。
本文引用地址:http://m.butianyuan.cn/article/202012/421260.htm圖說(shuō) GTC中國(guó)線上大會(huì)寧暢展區(qū)
與會(huì)期間,寧暢方面表示伴隨人工智能、云計(jì)算的高速發(fā)展,異構(gòu)計(jì)算模式的AI服務(wù)器已成為IT行業(yè)重要算力支撐,為使GPU等核心部件性能得到充分發(fā)揮,寧暢憑借多年行業(yè)積累,通過(guò)定制模式滿(mǎn)足用戶(hù)對(duì)極致性能、穩(wěn)定性等諸多需求。
多維保障GPU潛能全發(fā)揮
回顧2020年GPU領(lǐng)域,最重要莫過(guò)7nm 制程的NVIDIA A100 Tensor Core GPU發(fā)布,其強(qiáng)大的第三代Tensor Core、第三代NVLink技術(shù),讓大數(shù)據(jù)模型“推理”與“訓(xùn)練”效率顯著提升。但要完全釋放這顆業(yè)內(nèi)頂級(jí)GPU潛力,則考驗(yàn)服務(wù)器廠商技術(shù)與設(shè)計(jì)硬實(shí)力。
寧暢工程師介紹,充分釋放GPU性能第一步需要保證AI服務(wù)器有豐富擴(kuò)展性。以寧暢AI服務(wù)器X640系列為例,在滿(mǎn)配8個(gè)NVIDIA A100 /V100 Tensor Core GPU或16個(gè)NVIDIA T4 Tensor Core GPU后,X640仍有豐富PCI-E接口用于網(wǎng)絡(luò)、存儲(chǔ)和其他IO擴(kuò)展。
豐富擴(kuò)展設(shè)計(jì),保障了定制化方案的靈活。此外,X640可通過(guò)硬件鏈路重新布局以實(shí)現(xiàn)靈活GPU 拓?fù)浣Y(jié)構(gòu),并針對(duì)不同應(yīng)用場(chǎng)景和模型進(jìn)行GPU互聯(lián)優(yōu)化。這將極大便利用戶(hù)“訓(xùn)練”大數(shù)據(jù)模型。
AI服務(wù)器散熱也是用戶(hù)關(guān)注重點(diǎn)。為保障全年24小時(shí)運(yùn)行的AI服務(wù)器穩(wěn)定,寧暢散熱團(tuán)隊(duì)先后開(kāi)發(fā)出“一體閉式循環(huán)液冷散熱器”以及“分體式開(kāi)環(huán)冷板液冷散熱器”方案,讓用戶(hù)不懼長(zhǎng)時(shí)間GPU滿(mǎn)功率運(yùn)行。
圖說(shuō) 寧暢閉式/開(kāi)式液冷散熱方案設(shè)計(jì)圖示
通過(guò)定制化,寧暢液冷散熱方案可滿(mǎn)足GPU產(chǎn)品400-800W范圍的散熱需求,并可根據(jù)客戶(hù)機(jī)房設(shè)備條件,選擇不同模塊化配套制冷機(jī)柜進(jìn)行部署,從而解決客戶(hù)由于液冷適配而進(jìn)行外圍改造的困擾。能效比方面,定制液冷方案,節(jié)省風(fēng)扇能耗超60%,噪音降幅達(dá)50%以上,而成本也可控制在15-20%的提升。
除架構(gòu)、硬件、散熱等定制優(yōu)化外,在運(yùn)維、軟件層面,寧暢可提供BIOS、BMC等諸多監(jiān)管、運(yùn)維接口定制。用戶(hù)只需接上電源、網(wǎng)線,便可將批量的寧暢AI服務(wù)器納入到現(xiàn)有的智能管理平臺(tái),第一時(shí)間讓GPU發(fā)揮效能。
滿(mǎn)足企業(yè)未來(lái)算力需求
除保障已上市GPU產(chǎn)品的性能全面發(fā)揮外,寧暢作為NVIDIA重要合作伙伴,可第一時(shí)間了解NVIDA前沿GPU技術(shù)與產(chǎn)品,依托多年來(lái)行業(yè)經(jīng)驗(yàn)與技術(shù)積累,寧暢可預(yù)研采用新GPU架構(gòu)并符合用戶(hù)標(biāo)準(zhǔn)的定制服務(wù)器產(chǎn)品。
寧暢介紹,考慮成熟服務(wù)器產(chǎn)品的研發(fā)周期,通過(guò)定制預(yù)研模式用戶(hù)不僅可在新品GPU產(chǎn)發(fā)售第一時(shí)間,批量獲得基于此定制的AI服務(wù)器,還可提前與寧暢一起規(guī)劃AI服務(wù)器技術(shù)路線,滿(mǎn)足企業(yè)未來(lái)對(duì)特定AI場(chǎng)景的算力需求。
如今通過(guò)提供定制化服務(wù),寧暢AI服務(wù)器已廣泛應(yīng)用于知名互聯(lián)網(wǎng)、云計(jì)算公司,支撐語(yǔ)義識(shí)別、圖像分析、機(jī)器翻譯、訓(xùn)練推理等AI場(chǎng)景。在2020年10月,AI基準(zhǔn)性能評(píng)測(cè)平臺(tái)MLPerf官網(wǎng)顯示,搭載NVIDIA T4 /A100 GPU的寧暢X640 G30 AI服務(wù)器,在ResNet、BERT、DLRM等基準(zhǔn)測(cè)試中更是取得30項(xiàng)性能第一。
評(píng)論