清華發(fā)布《AI芯片技術(shù)白皮書》：新計算范式，挑戰(zhàn)馮諾依曼、CMOS瓶頸

　　馮·諾依曼的技術(shù)挑戰(zhàn)

　　AI芯片需要滿足高效的數(shù)據(jù)訪問，以及深度學(xué)習(xí)下的新的計算范式，AI芯片在發(fā)展上，也遇到了一些瓶頸問題，特別是馮·諾依曼瓶頸。

　　在傳統(tǒng)“馮·諾依曼架構(gòu)”中，計算模塊和存儲單元互相分離，數(shù)據(jù)從處理單元外的存儲器提取，處理完之后再寫回存儲器。每一項任務(wù)，如果有十個步驟，那么CPU會依次進(jìn)行十次讀取、執(zhí)行，再讀取、再執(zhí)行，這就造成了延時，以及大量功耗花費(fèi)在了數(shù)據(jù)讀取上。

　　大部分針對AI，特別是加速神經(jīng)網(wǎng)絡(luò)處理而提出的硬件架構(gòu)創(chuàng)新都是在和這個問題做斗爭。概括來說，目前的解決思路包括減少訪問存儲器的數(shù)量，降低訪問存儲器的代價。

　　AI芯片中的新興計算技術(shù)

　　新興計算技術(shù)包括近內(nèi)存計算、存內(nèi)計算，以及基于新型存儲器的人工神經(jīng)網(wǎng)絡(luò)和生物神經(jīng)網(wǎng)絡(luò)。

　　對于馮·諾依曼、CMOS工藝和器件瓶頸形成的AI芯片存儲、計算間的問題，神經(jīng)形態(tài)計算是一種新的路徑。近些年，神經(jīng)形態(tài)計算也用來指采用模擬、數(shù)字、數(shù)模混合VLSI以及軟件系統(tǒng)實現(xiàn)的神經(jīng)系統(tǒng)模型。其將數(shù)字處理器當(dāng)作神經(jīng)元，把內(nèi)存作為突觸，內(nèi)存、CPU和通信部件完全集成在一起，采用模擬人腦神經(jīng)元結(jié)構(gòu)來提升計算能力。

　　而針對CMOS工藝瓶頸的解決思路，可以通過開發(fā)提供大量存儲空間的片上存儲器技術(shù)，并探索利用片上存儲器去構(gòu)建未來的智能芯片架構(gòu)。

　　神經(jīng)形態(tài)芯片的最終方向

　　借鑒生物腦的互聯(lián)結(jié)構(gòu)，神經(jīng)形態(tài)芯片可以實現(xiàn)任意神經(jīng)元間的互聯(lián)。即在指定規(guī)模的仿生神經(jīng)網(wǎng)絡(luò)下，任意一個神經(jīng)元都可以把信息傳遞給指定的另一個或多個神經(jīng)元。如此強(qiáng)大的細(xì)粒度互聯(lián)能力是其他神經(jīng)網(wǎng)絡(luò)/深度學(xué)習(xí)芯片目前還無法做到的。

　　神經(jīng)形態(tài)芯片在智能城市、自動駕駛的實時信息處理、人臉深度識別等領(lǐng)域都有出色的應(yīng)用。如IBMTrueNorth芯片可以用于檢測圖像中的行人、車輛等物體，且功耗極低(65mW)。它也可被用于語音、圖像數(shù)據(jù)集識別等任務(wù)，準(zhǔn)確性不遜于CNN加速器芯片。此外，在線學(xué)習(xí)能力也是神經(jīng)形態(tài)芯片的一大亮點。

　　AI芯片的存儲技術(shù)將被顛覆

　　近期，面向數(shù)字神經(jīng)網(wǎng)絡(luò)的加速器(GPU、FPGA和ASIC)迫切需要AI友好型存儲器。

　　中期，基于存內(nèi)計算的神經(jīng)網(wǎng)絡(luò)可以為規(guī)避馮·諾依曼瓶頸問題提供有效的解決方案。

　　后期，基于憶阻器的神經(jīng)形態(tài)計算可以模擬人類的大腦，是AI芯片遠(yuǎn)期解決方案的候選之一。

　　人工智能芯片如果能有統(tǒng)一的終極算法出現(xiàn)，那么我們很可能會看到一個終極芯片出現(xiàn)。AI芯片是整個人工智能技術(shù)發(fā)展的基礎(chǔ)，也將是推動整個半導(dǎo)體領(lǐng)域技術(shù)進(jìn)步的最重要的力量之一。

　　隨著人工智能和物聯(lián)網(wǎng)的持續(xù)快速發(fā)展，越來越多的應(yīng)用需求和應(yīng)用場景將不斷涌現(xiàn)。需求驅(qū)動的AI芯片技術(shù)創(chuàng)新將促進(jìn)創(chuàng)新鏈與產(chǎn)業(yè)鏈更加緊密結(jié)合，推動開放合作、共享共贏的產(chǎn)業(yè)生態(tài)形成。

　　CMOS技術(shù)與新興信息技術(shù)的交叉融合，開源軟件到開源硬件的潮流漸顯，預(yù)示著我們將迎來一個前所未有的協(xié)同創(chuàng)新機(jī)遇期。

　　國內(nèi)國外的AI芯片將成大趨勢

　　今年，國際、國內(nèi)已經(jīng)有多家芯片巨頭公布AI芯片計劃，也有多家AI芯片的研發(fā)公司獲得融資。

　　由寒武紀(jì)科技公司領(lǐng)頭，已經(jīng)完成1億美元A輪融資，并由國投創(chuàng)業(yè)(A輪領(lǐng)投方)，阿里巴巴創(chuàng)投、聯(lián)想創(chuàng)投、國科投資、中科圖靈、元禾原點(天使輪領(lǐng)投方)、涌鏵投資(天使輪投資方)聯(lián)合投資，這輪融資之后，寒武紀(jì)科技已經(jīng)成為全球AI芯片領(lǐng)域第一家獨角獸公司。

　　英特爾、英偉達(dá)和三星，F(xiàn)acebook、微軟、Google、IBM、蘋果、華為等科技公司都在積極布局AI芯片。芯片巨頭英特爾收購Nervana、Altera。其中，收購Nervana一舉被認(rèn)為是要與英偉達(dá)開戰(zhàn)。英偉達(dá)在芯片領(lǐng)域的表現(xiàn)越來越好，為了研發(fā)AI芯片，還聘請了專門研究AI芯片的Clément Farabet。可見專業(yè)的AI芯片將是未來很長時間的大趨勢。