由Arm驅動的NVIDIA Project DIGITS為數百萬開發(fā)者帶來高性能AI算力

當前，一個令人振奮的趨勢是，人工智能 (AI) 應用和功能正在各種邊緣側設備上快速擴展和普及。隨著 AI 的不斷發(fā)展和進步，對于 AI 研究員、數據科學家、開發(fā)者和學生而言，獲取高性能算力以開發(fā)或運行新的模型（如語言模型、視覺模型或多模態(tài)模型）變得至關重要。鑒于 AI 創(chuàng)新的步伐空前加快，行業(yè)需要確保開發(fā)者在云端及邊緣側均能獲得高性能算力，從而直接獲得更多的新功能。

圖 由Arm驅動的NVIDIA Project DIGITS為數百萬開發(fā)者帶來高性能AI算力

為開發(fā)者實現(xiàn)唾手可得的突破性AI性能

在今年的國際消費類電子產品展覽會 (CES) 上，NVIDIA創(chuàng)始人兼首席執(zhí)行官黃仁勛在主題演講中發(fā)布了個人 AI 超級計算機 NVIDIA Project DIGITS，朝著 “隨處可開發(fā)和部署 AI” 的愿景又邁近了重要一步。基于 Linux 系統(tǒng)的 Project DIGITS 搭載了 Arm CPU 核心，使每位 AI 開發(fā)者都能擁有一套高性能的 AI 桌面系統(tǒng)。

Project DIGITS 采用了全新 NVIDIA GB10 Grace Blackwell 超級芯片，搭載 NVIDIA Grace CPU 、 NVIDIA Blackwell GPU、新一代 CUDA^? core和第五代 Tensor Cores，通過 NVIDIA NVLink^?-C2C 片間互連技術實現(xiàn)連接，并配有 128GB 的統(tǒng)一的高一致性內存。NVIDIA Grace CPU 搭載了先進的高性能 Arm Cortex-X 和 Cortex-A 技術，配置 10 個 Cortex-X925 和 10 個 Cortex-A725 CPU 核心。NVIDIA GB10 超級芯片能以 FP4 計算精度提供高達 1 PFLOPS (1,000 TFLOPs) 的 AI 性能，使開發(fā)者能對 AI 大模型進行原型設計、微調和推理，同時還能與云端或數據中心環(huán)境無縫對接，實現(xiàn)協(xié)同工作。

Arm計算平臺的價值

借助無處不在的 Arm 計算平臺，新的 AI 模型和應用能更高效、更快速地在邊緣側運行。在消費級技術市場，不論是用于 Project DIGITS 的最新 Arm CPU，或是集成在 Arm 終端計算子系統(tǒng) (CSS) 的一部分，Arm CPU 技術已成為市場中高性能邊緣側設備的核心驅動力。這些 CPU 技術經過精心優(yōu)化，可在各種實際用例和工作負載中實現(xiàn)最大性能和最高效率。

Arm 計算平臺還兼具靈活性，可針對不同的 AI 應用場景使用不同的計算引擎。在 NVIDIA Project DIGITS 中，基于 Arm 架構的 NVIDIA Grace CPU 和 NVIDIA Blackwell GPU 互相協(xié)作，使開發(fā)者能夠將這些組件用于各種工作負載。這種異構計算策略對于最大化 AI 性能，同時管理內存利用率和功耗至關重要。

NVIDIA SoC 產品副總裁 Ashish Karandikar 表示：“我們與 Arm 在 GB10 超級芯片的合作上，巧妙地結合了 NVIDIA 的 AI 專業(yè)知識與 Arm 可擴展的計算平臺，實現(xiàn)了出眾的性能和能效，將推動下一代 AI 創(chuàng)新。隨著 Project DIGITS 的推出，每位 AI 開發(fā)者和研究員都將能擁有一臺功能強大的超級計算機。”

釋放軟件創(chuàng)新的潛能

對于開發(fā)者而言，擁有一個完全集成的軟硬件 AI 平臺至關重要。Project DIGITS使用開源 Linux 操作系統(tǒng)，用戶可以訪問資源豐富的 NVIDIA AI 軟件庫，包括 NVIDIA NGC 目錄和 NVIDIA 開發(fā)者門戶網站中提供的軟件開發(fā)套件、編排工具、框架和 AI 模型，以加快生成式 AI 的工作流程。

Arm 和 NVIDIA Grace Hopper 和 Grace Blackwell 在數據中心的合作，為數據中心和邊緣側設備環(huán)境提供一致的平臺架構，使開發(fā)者能夠無縫地使用同一套工具進行 AI 應用開發(fā)。此外，Arm 不斷積極推動開源開發(fā)者社區(qū)的重要工作，旨在開發(fā)出適配的軟件，加速AI 的全面部署。目前，全球已有超過 2,000 萬軟件開發(fā)者在 Arm 計算平臺上構建自己的應用程序，共同推動著一個快速創(chuàng)新、日益壯大的開源社區(qū)。

賦予高性能 AI 算力的理想平臺

Arm 作為當前和未來 AI 領域應用最廣泛的計算平臺，自然而然地成為了 Project DIGITS 中 GB10 超級芯片的理想平臺。Project  DIGITS是一個功能強大的個人計算機桌面平臺，能夠運行高達 200B 參數的 AI 大模型，讓原本的不可能變?yōu)榭赡?。這種對 AI 生態(tài)系統(tǒng)的廣泛影響力，為全球數百萬開發(fā)者帶來了靈活、高性能且高能效的 AI 功能。通過與 NVIDIA 及 Arm 強大的軟件生態(tài)系統(tǒng)緊密的合作，我們翹首以待下一代極具創(chuàng)新的 AI 應用的問世。