AI性能最高提升480倍！ARM著急了？

昨天,ARM發(fā)布了兩款全新的IP,一款是已經(jīng)非常成功的ARM Cortex-M家族的新成員Cortex-M55,另一款是去年底新發(fā)布的Ethos系列的新產(chǎn)品,也是首款針對(duì)Cortex-M平臺(tái)的微神經(jīng)網(wǎng)絡(luò)處理器(microNPU)——Ethos-U55。如果將這兩個(gè)最新的IP結(jié)合,機(jī)器學(xué)習(xí)(ML)性能最高可以提高480倍。

兩款新產(chǎn)品AI性能的大幅度提升,是ARM在AIoT市場(chǎng)競(jìng)爭(zhēng)的強(qiáng)大武器。但是,也反映出了ARM在這一市場(chǎng)的焦慮。

【 圖片來(lái)源:techviral 】

強(qiáng)攻AIoT市場(chǎng)

從兩款新產(chǎn)品說(shuō)起,新增的Cortex-M55是ARM AI性能最強(qiáng)大的Cortex-M處理器。有多強(qiáng)大?與前幾代的Cortex-M處理器相比,Cortex-M55的ML性能最高可提升15倍,DSP性能也可提升5倍,且具備更佳的能耗比。同時(shí),Cortex-M55也是首款基于ARMv8.1-M架構(gòu)、內(nèi)建ARM Helium向量處理技術(shù)的處理器,大幅提升DSP與ML的性能還更省電。

另外,開(kāi)發(fā)者還可以使用Cortex-M處理器的全新功能,也就是去年十月發(fā)布的ARM Custom Instructions (ARM自定義指令集),延伸處理器的能力,對(duì)特定工作負(fù)載進(jìn)行優(yōu)化。

也就是說(shuō),全新的Cortex-M55不僅AI性能更強(qiáng),能耗比更佳,還有了更強(qiáng)的靈活性。

另外一款新品Ethos-U55的AI性能更加強(qiáng)大,是Cortex-M55的32倍,還有32-256個(gè)可配置的MAC。ARM推出這款專(zhuān)用的微神經(jīng)處理器的目的是借助其高度的可配置性,加速空間受限的嵌入式與物聯(lián)網(wǎng)設(shè)備的ML推理能力。

這還不夠,如果將Cortex-M55與Ethos-U55搭配,結(jié)合后的產(chǎn)品ML性能最高可提升480倍。

當(dāng)然,不要被480倍的巨大提升嚇到,因?yàn)檫@個(gè)性能的提升是在一個(gè)比較低的ML性能的基礎(chǔ)上實(shí)現(xiàn)的提升。用下面的圖來(lái)直觀解釋AI性能提升后適用的場(chǎng)景。

Cortex-M55的AI性能可以應(yīng)用在像異常檢測(cè)和對(duì)象檢測(cè)的應(yīng)用中,Cortex-M55與Ethos-U55搭配則可以應(yīng)用在對(duì)AI性能要求更高的手勢(shì)檢測(cè)、生物識(shí)別、語(yǔ)音識(shí)別的應(yīng)用中,但兩者搭配的AI性能又低于Cortex-A CPU、Mali GPU、Ethos-N NPU才能滿(mǎn)足的對(duì)象分類(lèi)、實(shí)時(shí)識(shí)應(yīng)用的需求。

這樣,我們就能非常清晰的了解Cortex-M55以及Ethos-U55的意義。

Cortex-M是業(yè)界非常成功的微控制器處理器,基于Cortex-M的芯片全球已經(jīng)出貨超過(guò)500億片,廣泛應(yīng)用于各種各樣的嵌入式設(shè)備當(dāng)中。但是Cortex-M只能夠滿(mǎn)足振動(dòng)檢測(cè)、傳感融合、關(guān)鍵字檢測(cè)這些簡(jiǎn)單的AI功能,隨著萬(wàn)物皆AI時(shí)代的到來(lái),需要Cortex-M、Ethos-U55以及兩者的組合的性能去滿(mǎn)足更多AIoT應(yīng)用的需求。

也就是說(shuō),已有的Cortex-M、Cortex-M55、Ethos-U55以及Cortex-M所有產(chǎn)品與Ethos-U55的組合更全面的AI性能,提升了ARM在終端AI上的吸引力,再加上Cortex-M的ARM Custom Instructions的新功能,能夠更好地滿(mǎn)足市場(chǎng)規(guī)模龐大但碎片化的AIoT市場(chǎng)。

ARM在AIoT市場(chǎng)的內(nèi)外焦慮

從Cortex-M 到Ethos-N,ARM本應(yīng)該為其擁有的AI產(chǎn)品感到自信,但市場(chǎng)的競(jìng)爭(zhēng)似乎并不容許ARM為此滿(mǎn)足。實(shí)際上,ARM在2018年2月公布了Project Trillium 的機(jī)器學(xué)習(xí)計(jì)劃,并且預(yù)計(jì)在2019年第一季度發(fā)布首款ML處理器。但ARM直到2019年5月份才發(fā)布首款ML處理器,10月份才公布ML系列產(chǎn)品的名稱(chēng)Ethos。

ARM ML事業(yè)群商業(yè)與營(yíng)銷(xiāo)副總裁Dennis Laudick去年接受雷鋒網(wǎng)專(zhuān)訪時(shí)對(duì)于產(chǎn)品發(fā)布有所延遲這樣解釋,發(fā)布推遲有很多原因,產(chǎn)品開(kāi)發(fā)是主要的問(wèn)題。ML處理器開(kāi)發(fā)的過(guò)程中面臨很多挑戰(zhàn),其中一個(gè)很大的挑戰(zhàn)就是數(shù)據(jù)移動(dòng)處理不好就會(huì)消耗大量的電,另一個(gè)大的挑戰(zhàn)就是如何權(quán)衡效率和靈活性。

在ARM發(fā)布首款ML處理器時(shí),蘋(píng)果、三星、華為集成在其SoC中的NPU已經(jīng)更新了幾代,高通和聯(lián)發(fā)科的神經(jīng)網(wǎng)絡(luò)處理器也日趨成熟。也因此,業(yè)界不少人都認(rèn)為ARM錯(cuò)過(guò)了進(jìn)入手機(jī)NPU市場(chǎng)的好時(shí)機(jī)。這自然也會(huì)讓ARM的AI產(chǎn)品更加看重具有廣闊前景的AIoT市場(chǎng)。

全球第二大市場(chǎng)研究機(jī)構(gòu)MarketsandMarkets去年發(fā)布的預(yù)測(cè)報(bào)告顯示,2019年全球AIoT市場(chǎng)規(guī)模為51億美元,到2024年,這一數(shù)字將增長(zhǎng)至162億美元,復(fù)合年增長(zhǎng)率為26%。

雖然ARM憑借Cortex-M系列處理器在嵌入式設(shè)備市場(chǎng)非常成功,但是到了AIoT時(shí)代,ARM迎來(lái)了一個(gè)強(qiáng)勁的對(duì)手——RISC-V。RISC-V指令集與ARM指令集同屬精簡(jiǎn)指令集,都具有高性能低功耗的特點(diǎn),不過(guò)RISC-V誕生之處就選擇了開(kāi)源,而ARM采用的是授權(quán)模式。

RISC-V的開(kāi)源,可以讓開(kāi)發(fā)者實(shí)現(xiàn)更加靈活的設(shè)計(jì),更容易滿(mǎn)足AIoT市場(chǎng)多樣化的需求,這也是讓ARM感到緊張的關(guān)鍵因素。去年10月,ARM也推出了ARM自定義指令集,以應(yīng)對(duì)RISC-V帶來(lái)的競(jìng)爭(zhēng)。

并且,RISC-V正在日益壯大,面向AIoT市場(chǎng)的產(chǎn)品也正在陸續(xù)推出。GreenWaves Technologies率先推出了基于RISC-V的IoT超低功耗處理器,能效上可以實(shí)現(xiàn)20倍優(yōu)于市場(chǎng)現(xiàn)有100mW以下同類(lèi)產(chǎn)品。2019年12月推出的新一代產(chǎn)品性能提高10倍,功耗降低5倍。

RISC-V重要的IP提供商晶心科技總經(jīng)理林志明去年接受雷鋒網(wǎng)采訪時(shí)也表示,再花半年推動(dòng)量產(chǎn)、上市以及軟硬件的整合,2019年下半年和2020年年初開(kāi)始RISC-V的產(chǎn)品就會(huì)比較多的投入市場(chǎng)。

今年年初,SiFive和CEVA宣布合作,以SiFive的RISC-V CPU,CEVA的DSP內(nèi)核,AI處理器和軟件為中心,實(shí)現(xiàn)針對(duì)批量最終市場(chǎng)的超低功耗領(lǐng)域特定Edge AI處理器的設(shè)計(jì)和創(chuàng)建。

因此,由多種因素導(dǎo)致的ARM ML產(chǎn)品發(fā)布的延遲,以及RISC-V陣營(yíng)的日益強(qiáng)大,ARM在AI以及AIoT時(shí)代難免會(huì)有些焦慮,480倍的AI性能提升是緩解這種焦慮的一個(gè)關(guān)鍵。

生態(tài)優(yōu)勢(shì)能否延續(xù)?

當(dāng)被問(wèn)及去年5月才推出首款出Ethos還有競(jìng)爭(zhēng)力嗎?Dennis稱(chēng),ARM的成功一直以來(lái)都得益于生態(tài)系統(tǒng),對(duì)于NPU來(lái)說(shuō)挑戰(zhàn)并不是能夠做出自己的NPU,而是NPU在市場(chǎng)上是不是真的好用。我們已經(jīng)聽(tīng)到合作伙伴反饋說(shuō),希望在硬件上能夠標(biāo)準(zhǔn)化,他們不想支持15種不同的硬件,所以,他們期待有一個(gè)標(biāo)準(zhǔn)化的軟件平臺(tái)能夠支持。

從構(gòu)建ARM的AI競(jìng)爭(zhēng)力而言,即便產(chǎn)品推出有些推遲,但ARM多年來(lái)構(gòu)建的強(qiáng)大生態(tài)依舊有助于其N(xiāo)PU的成功。并且,ARM也在致力于打造一致的體驗(yàn),Cortex-M 軟件開(kāi)發(fā)工具完整支持最新發(fā)布的Cortex-M55與 Ethos-U55。另外,ARM還與其他開(kāi)發(fā)工具廠商兼容,并且在算法、軟件與 OS 方面也獲得了伙伴的支持。

更好的軟硬件融合以及一致性的開(kāi)發(fā)流程確實(shí)是一個(gè)AI生態(tài)的吸引力所在,也是ARM能夠獲得更多AIoT市場(chǎng)份額的關(guān)鍵。

但對(duì)于AIoT的很多應(yīng)用或許并非如此,GreenWaves Technologies CEO Loic Lietar此前對(duì)雷鋒網(wǎng)(公眾號(hào):雷鋒網(wǎng))表示:“相比手機(jī)、PC以及一些高性能處理器,應(yīng)用于傳感設(shè)備的微控制器對(duì)生態(tài)的依賴(lài)性沒(méi)有那么高。從GreenWaves的角度看,我們基于RISC-V的32位微控制器面向的主要是來(lái)自物聯(lián)網(wǎng)等終端市場(chǎng)的邊緣計(jì)算需求,一個(gè)設(shè)備將長(zhǎng)時(shí)間重復(fù)運(yùn)行幾個(gè)應(yīng)用, 而并不會(huì)像手機(jī)或電腦一樣安裝和卸載不同的應(yīng)用程序,因此對(duì)軟件兼容性的依賴(lài)程度并不是個(gè)問(wèn)題?！?/p>

這意味著,ARM強(qiáng)大的生態(tài)在AI以及AIoT時(shí)代依舊會(huì)繼續(xù)發(fā)揮作用,但對(duì)于AIoT市場(chǎng)而言,這種生態(tài)的吸引力到底有多大,現(xiàn)在還不清楚。

當(dāng)然,毋庸置疑的是,ARM作為一家非常成功的半導(dǎo)體公司,其有強(qiáng)大產(chǎn)品以及豐富的經(jīng)驗(yàn),在AIoT這個(gè)新的市場(chǎng),ARM也有強(qiáng)大的競(jìng)爭(zhēng)力。只是,AIoT市場(chǎng)短期內(nèi)難以產(chǎn)生巨頭,某一種處理器也難以在短期內(nèi)壟斷市場(chǎng),誰(shuí)是最終的贏家沒(méi)有人能準(zhǔn)確預(yù)測(cè)。

文章轉(zhuǎn)載自雷鋒網(wǎng)文章AI性能最高提升480倍!ARM著急了?