邊緣AI在智能攝像頭的機(jī)會

作者/Imagination副總裁Russell James

很多人認(rèn)為是英偉達(dá)做的數(shù)據(jù)訓(xùn)練非常成功。但隨著行業(yè)逐步加深，應(yīng)用逐步增多，發(fā)現(xiàn)僅僅在服務(wù)器端還不夠的，端側(cè)可以做極大延伸。例如，安防從嵌入式視覺系統(tǒng)到視覺導(dǎo)向的自主系統(tǒng)，即過去紅外攝像頭，保安和監(jiān)控人員要看一二十個小時，現(xiàn)在把人眼看的部分，通過算法和數(shù)據(jù)集中到服務(wù)器端，下一步希望減少服務(wù)器的負(fù)擔(dān)，在端側(cè)——攝像頭去做識別。這樣做的好處，首先是可以減少網(wǎng)絡(luò)帶寬，因為網(wǎng)絡(luò)存儲等成本非常高；其次是性能，端處理回傳會延時；第三是隱私性。

在智能攝像頭監(jiān)控方面，可用于大規(guī)模的實時分析，例如用人臉識別來進(jìn)行目標(biāo)跟蹤，發(fā)現(xiàn)大型場館入口處的人的可疑行為等，另外還可對車隊和物體進(jìn)行監(jiān)控識別，以發(fā)現(xiàn)可疑的路徑和物體。

市面上有很多各種方案：1.CPU盡管什么都可以做，但處理神經(jīng)網(wǎng)絡(luò)效率低，2.DSP最大的問題是有非常少的人員可以基于DSP去做編程，沒有標(biāo)準(zhǔn)化和可覆蓋。3.固定功能的硬化，一旦硬化后只能做一件事，遠(yuǎn)遠(yuǎn)不夠產(chǎn)業(yè)化。4.GPU，英偉達(dá)證明了非常適合處理AI（人工智能），GPU有標(biāo)準(zhǔn)化的編程方式，但功耗較大。那么，是否有功耗非常低又非常靈活的方案？為此，Imagination推出了第5種方案：“GPU+NNA（神經(jīng)網(wǎng)絡(luò)加速器）”方案，特點是提供靈活的IP內(nèi)核來達(dá)到高性能，特點是功耗低、帶寬較低的場景。

近日，Imagination推出了兩款PowerVR2NX神經(jīng)網(wǎng)絡(luò)加速器（NNA）內(nèi)核，適合智能監(jiān)控等、移動、工業(yè)等場景。名為AX2185和AX2145的內(nèi)核，設(shè)計目的是在極小芯片面積上以極低功耗實現(xiàn)神經(jīng)網(wǎng)絡(luò)高性能計算。它們是基于Imagination革命性的神經(jīng)網(wǎng)絡(luò)加速器（NNA）架構(gòu)PowerVRSeries2NX設(shè)計的，該架構(gòu)可以使“智能”從云端轉(zhuǎn)移至邊緣設(shè)備，從而實現(xiàn)更高的效率和實時響應(yīng)。

PowerVR Series2NX架構(gòu)是完全重新設(shè)計的，旨在為移動和嵌入式平臺中的高效神經(jīng)網(wǎng)絡(luò)推理提供硬件加速。其靈活的位寬可基于每一層去支持權(quán)重和數(shù)據(jù)，這意味著PowerVR Series2NX可以保持高推理精度，同時降低帶寬/功耗要求。它是唯一支持16位到4位位寬的解決方案，可在較低的帶寬和功耗下實現(xiàn)更高的性能。

嵌入式視覺聯(lián)盟（Embedded Vision Alliance）創(chuàng)始人Jeff Bier評價道：“視覺智能為各種應(yīng)用帶來了令人矚目的功能，但是其計算需求是具有挑戰(zhàn)性的。Imagination的兩款新型PowerVR Series2NX神經(jīng)網(wǎng)絡(luò)加速器內(nèi)核針對性能和內(nèi)存帶寬進(jìn)行了優(yōu)化，為芯片設(shè)計人員提供了受其歡迎的選擇，可以支持他們在嵌入式設(shè)備和移動設(shè)備上部署高要求的、基于深度學(xué)習(xí)的計算機(jī)視覺算法。”