邊緣AI在智能攝像頭的機(jī)會(huì)

作者/Imagination副總裁Russell James

很多人認(rèn)為是英偉達(dá)做的數(shù)據(jù)訓(xùn)練非常成功。但隨著行業(yè)逐步加深，應(yīng)用逐步增多，發(fā)現(xiàn)僅僅在服務(wù)器端還不夠的，端側(cè)可以做極大延伸。例如，安防從嵌入式視覺(jué)系統(tǒng)到視覺(jué)導(dǎo)向的自主系統(tǒng)，即過(guò)去紅外攝像頭，保安和監(jiān)控人員要看一二十個(gè)小時(shí)，現(xiàn)在把人眼看的部分，通過(guò)算法和數(shù)據(jù)集中到服務(wù)器端，下一步希望減少服務(wù)器的負(fù)擔(dān)，在端側(cè)——攝像頭去做識(shí)別。這樣做的好處，首先是可以減少網(wǎng)絡(luò)帶寬，因?yàn)榫W(wǎng)絡(luò)存儲(chǔ)等成本非常高；其次是性能，端處理回傳會(huì)延時(shí)；第三是隱私性。

在智能攝像頭監(jiān)控方面，可用于大規(guī)模的實(shí)時(shí)分析，例如用人臉識(shí)別來(lái)進(jìn)行目標(biāo)跟蹤，發(fā)現(xiàn)大型場(chǎng)館入口處的人的可疑行為等，另外還可對(duì)車隊(duì)和物體進(jìn)行監(jiān)控識(shí)別，以發(fā)現(xiàn)可疑的路徑和物體。

市面上有很多各種方案：1.CPU盡管什么都可以做，但處理神經(jīng)網(wǎng)絡(luò)效率低，2.DSP最大的問(wèn)題是有非常少的人員可以基于DSP去做編程，沒(méi)有標(biāo)準(zhǔn)化和可覆蓋。3.固定功能的硬化，一旦硬化后只能做一件事，遠(yuǎn)遠(yuǎn)不夠產(chǎn)業(yè)化。4.GPU，英偉達(dá)證明了非常適合處理AI（人工智能），GPU有標(biāo)準(zhǔn)化的編程方式，但功耗較大。那么，是否有功耗非常低又非常靈活的方案？為此，Imagination推出了第5種方案：“GPU+NNA（神經(jīng)網(wǎng)絡(luò)加速器）”方案，特點(diǎn)是提供靈活的IP內(nèi)核來(lái)達(dá)到高性能，特點(diǎn)是功耗低、帶寬較低的場(chǎng)景。

近日，Imagination推出了兩款PowerVR2NX神經(jīng)網(wǎng)絡(luò)加速器（NNA）內(nèi)核，適合智能監(jiān)控等、移動(dòng)、工業(yè)等場(chǎng)景。名為AX2185和AX2145的內(nèi)核，設(shè)計(jì)目的是在極小芯片面積上以極低功耗實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)高性能計(jì)算。它們是基于Imagination革命性的神經(jīng)網(wǎng)絡(luò)加速器（NNA）架構(gòu)PowerVRSeries2NX設(shè)計(jì)的，該架構(gòu)可以使“智能”從云端轉(zhuǎn)移至邊緣設(shè)備，從而實(shí)現(xiàn)更高的效率和實(shí)時(shí)響應(yīng)。

PowerVR Series2NX架構(gòu)是完全重新設(shè)計(jì)的，旨在為移動(dòng)和嵌入式平臺(tái)中的高效神經(jīng)網(wǎng)絡(luò)推理提供硬件加速。其靈活的位寬可基于每一層去支持權(quán)重和數(shù)據(jù)，這意味著PowerVR Series2NX可以保持高推理精度，同時(shí)降低帶寬/功耗要求。它是唯一支持16位到4位位寬的解決方案，可在較低的帶寬和功耗下實(shí)現(xiàn)更高的性能。

嵌入式視覺(jué)聯(lián)盟（Embedded Vision Alliance）創(chuàng)始人Jeff Bier評(píng)價(jià)道：“視覺(jué)智能為各種應(yīng)用帶來(lái)了令人矚目的功能，但是其計(jì)算需求是具有挑戰(zhàn)性的。Imagination的兩款新型PowerVR Series2NX神經(jīng)網(wǎng)絡(luò)加速器內(nèi)核針對(duì)性能和內(nèi)存帶寬進(jìn)行了優(yōu)化，為芯片設(shè)計(jì)人員提供了受其歡迎的選擇，可以支持他們?cè)谇度胧皆O(shè)備和移動(dòng)設(shè)備上部署高要求的、基于深度學(xué)習(xí)的計(jì)算機(jī)視覺(jué)算法。”