初創(chuàng)公司助英特爾在關(guān)鍵人工智能測(cè)試中擊敗AMD和Nvidia

這是 AI 硬件軍備競(jìng)賽的最新轉(zhuǎn)折，Numenta 采用了一種新穎的方法來(lái)提高 CPU 性能,Numenta 已經(jīng)證明，通過(guò)應(yīng)用一種新穎的方法，英特爾至強(qiáng) CPU 在人工智能工作負(fù)載上的性能可以遠(yuǎn)遠(yuǎn)超過(guò)最好的 CPU 和最好的 GPU。

據(jù) Serve the Home 稱，這家初創(chuàng)公司利用基于這一理念的一系列技術(shù)，以 Numenta 智能計(jì)算平臺(tái) (NuPIC) 為品牌，在人工智能推理方面解鎖了傳統(tǒng) CPU 的新性能水平。

真正令人驚訝的是，它的性能明顯優(yōu)于專門(mén)為處理人工智能推理而設(shè)計(jì)的 GPU 和 CPU。 例如，Numenta 采用了 Nvidia 報(bào)告的 A100 GPU 性能數(shù)據(jù)的工作負(fù)載，并在增強(qiáng)型 48 核第四代 Sapphire Rapids CPU 上運(yùn)行。 在所有場(chǎng)景中，基于總吞吐量，它都比 Nvidia 的芯片更快。 事實(shí)上，它比第三代 Intel Xeon 處理器快 64 倍，比 A100 GPU 快 10 倍。

利用神經(jīng)科學(xué)提升人工智能性能

Numenta 以其受神經(jīng)科學(xué)啟發(fā)的人工智能工作負(fù)載方法而聞名，它嚴(yán)重依賴稀疏計(jì)算的理念——這就是大腦在神經(jīng)元之間形成連接的方式。

如今，大多數(shù) CPU 和 GPU 都是為密集計(jì)算而設(shè)計(jì)的，尤其是人工智能，這比大腦工作的上下文方式更加暴力。 盡管稀疏性是提高性能的必由之路，但 CPU 卻無(wú)法以這種方式良好工作。 這就是 Numenta 發(fā)揮作用的地方。

這家初創(chuàng)公司希望通過(guò)將其“秘密武器”應(yīng)用于通用 CPU，而不是專門(mén)為處理以人工智能為中心的工作負(fù)載而構(gòu)建的芯片，從而釋放人工智能模型中稀疏計(jì)算的效率增益。

雖然它可以在 CPU 和 GPU 上運(yùn)行，但 Numenta 采用了 Intel Xeon CPU，并應(yīng)用了其高級(jí)矢量擴(kuò)展 (AVX)-512 和高級(jí)矩陣擴(kuò)展 (AMX)，因?yàn)橛⑻貭柕男酒钱?dāng)時(shí)最可用的。

這些是 x86 架構(gòu)的擴(kuò)展——作為額外的指令集，可以讓 CPU 執(zhí)行更苛刻的功能。

Numenta 使用 Docker 容器提供 NuPIC 服務(wù)，并且可以在公司自己的服務(wù)器上運(yùn)行。 如果它在實(shí)踐中發(fā)揮作用，這將是重新利用數(shù)據(jù)中心中已部署的 CPU 來(lái)處理 AI 工作負(fù)載的最佳解決方案，特別是考慮到 Nvidia 業(yè)界領(lǐng)先的 A100 和 H100 GPU 的等待時(shí)間較長(zhǎng)。