突破AI芯片限制 IMEC攜手格羅方德破馮諾伊曼瓶頸

比利時微電子研究中心（IMEC），日前與半導體代工廠格羅方德（GF)公開展示了全新AI芯片硬件。IMEC模擬內存式運算（AiMC）架構及格羅方德22FDX制程為基礎的前提下，這款全新芯片經(jīng)過優(yōu)化，并于模擬環(huán)境中的內存式運算硬件進行深度神經(jīng)網(wǎng)絡運算。在達到高達2,900TOPS/W的創(chuàng)紀錄高能源效率后，加速器被視為低功率裝置進行邊緣運算推論的關鍵推手。這項新技術在隱私保護、安全性以及延遲性等各種優(yōu)勢，將為智慧喇叭、自駕車諸多邊緣設備的AI應用程序帶來沖擊性的影響。

自數(shù)字計算機年代起，處理器早與內存分道揚鑣。使用大量數(shù)據(jù)的作業(yè)時，需要從內存取回一樣數(shù)量的數(shù)據(jù)元素。此一限制又稱「馮諾伊曼瓶頸」（von Neumann bottleneck），會拖慢實際的指令周期，特別是在神經(jīng)網(wǎng)絡這種大量依賴向量矩陣乘法的運算中。這些運算除了仰賴數(shù)字計算機的精準度外，還需要大量的能源。然而，若以準確度較低的模擬技術執(zhí)行向量矩陣乘法，神經(jīng)網(wǎng)絡一樣可以獲得精確的結果。

為了因應這個挑戰(zhàn)，IMEC透過旗下的產(chǎn)業(yè)聯(lián)合機器學習計劃，與格羅方德等產(chǎn)業(yè)伙伴開發(fā)了一套新架構：在靜態(tài)隨機存取內存單元（SRAM cells）中執(zhí)行模擬運算，藉此消除「馮諾伊曼瓶頸」的限制。以此開發(fā)的模擬推論加速器（AnIA），則以格羅方德的22FDX制程半導體平臺為基礎，具有出色的能源效率。特征測試顯示，其能源效率高達2,900 TOPS/W。微型傳感器及低功率邊緣設備中的圖形識別，一般得仰賴數(shù)據(jù)中心的機器學習，如今可透過此一高效能加速器在地執(zhí)行。

IMEC機器學習計劃主持人Diederik Verkest表示：「AnIA成功的設計定案，代表我們已朝模擬內存式運算的驗證邁進重要一步。此一參考實作（reference implementation）不僅說明了模擬內存式運算的可行性，也代表它們的能源效率要比數(shù)位加速器好上10到100倍。在IMEC的機器學習計劃中，我們會針對模擬內存式運算，調整現(xiàn)有及新興的內存裝置并予以優(yōu)化。這些前景看好的結果鼓舞我們進一步發(fā)展這項技術，目標是讓效率進化至10,000 TOPS/W?！?/span>

格羅方德運算暨有線基礎架構的產(chǎn)品管理副總裁Hiren Majmudar也指出：「格羅方德利用自家的低能源、高性能22FDX制程技術平臺，與IMEC密切合作，并推出全新的AnIA 芯片。這款測試芯片能更進一步地向業(yè)界展示22FDX 制程技術如何大幅降低能源密集型AI及機器學習應用的功率耗損?！?/span>

放眼未來，格羅方德將把可在22FDX平臺上執(zhí)行的AiMC作為亮點，在AI市場上推出一套差異化解決方案。格羅方德的22FDX 采用了22nm FD-SOI 技術，可在極低能源的條件下有出色的表現(xiàn)，且足以在0.5伏特極低能源及每微米1微微安培的極低待機漏電流下運作。搭載全新AiMC 功能的22FDX，目前已進入開發(fā)階段，由格羅方德具備最先進300mm生產(chǎn)線的德國德勒斯頓Fab 1晶圓廠負責。