使用外部AI加速器，讓i.MX處理器機(jī)器學(xué)習(xí)處理更給力！

恩智浦精心打造了i.MX應(yīng)用處理器、i.MX RT跨界微控制器（MCU）產(chǎn)品組合和芯片系列，可滿足廣泛的市場(chǎng)需求。從需要極低功耗的垂直產(chǎn)品，到需要配有多個(gè)CPU、2D-3D GPU、DSP和NPU機(jī)器學(xué)習(xí)加速器的復(fù)雜異構(gòu)計(jì)算平臺(tái)的其他終端產(chǎn)品，我們的產(chǎn)品團(tuán)隊(duì)需要解決多維優(yōu)化問題。最終目標(biāo)是提供各種應(yīng)用和產(chǎn)品所需的所有計(jì)算能力和連接，同時(shí)最大限度地減少未使用的功能，從而滿足設(shè)備的占用空間面積、功耗和成本要求。 

說到機(jī)器學(xué)習(xí)，有一些最終用途，例如自動(dòng)駕駛車輛和自然語言處理，將邊緣設(shè)備的計(jì)算要求推高到每秒數(shù)十萬和數(shù)百萬億次運(yùn)算（TOP）的高極限。隨著業(yè)界日益重視開發(fā)專門面向邊緣的高效的ML模型，并使用量化和修剪等技術(shù)，許多邊緣機(jī)器學(xué)習(xí)應(yīng)用適用于從Giga-Ops到較低的個(gè)位數(shù)TOPs的ML計(jì)算性能。恩智浦解決方案本身便可滿足這大部分AI處理需求。 

按細(xì)分市場(chǎng)劃分的ML應(yīng)用和 TOPs計(jì)算需求 

如今，軟件投資主導(dǎo)著硬件選擇，在考慮產(chǎn)品路線圖和多代產(chǎn)品時(shí)尤為如此。在開發(fā)一系列終端產(chǎn)品時(shí)，選擇相同或類似的應(yīng)用處理器顯然有很大的優(yōu)勢(shì)，這樣開發(fā)工作就可以轉(zhuǎn)化為更高的成熟度和質(zhì)量，還可以重復(fù)使用。不同的細(xì)分市場(chǎng)對(duì)應(yīng)用的某些部分要求的性能不同，但不同版本和各級(jí)產(chǎn)品的基本功能保持不變。

可擴(kuò)展的處理器系列（如i.MX應(yīng)用處理器）使開發(fā)人員能夠在各種高級(jí)功能和性能中靈活選擇，同時(shí)還可提供通用的基本計(jì)算架構(gòu)和功能集供產(chǎn)品組合中的成員使用，還提供通用的軟件使能單元。恩智浦提供GStreamer和NNStreamer框架，通過ML簡(jiǎn)化視覺應(yīng)用的部署。GStreamer被用作創(chuàng)建流媒體應(yīng)用的框架，抽象出硬件層，允許使用任何i.MX SoC而無需改變底層的視覺pipeline軟件。 

即使產(chǎn)品在市場(chǎng)上推出后，應(yīng)用要求和市場(chǎng)需求也會(huì)不斷變化。那么，當(dāng)您需要所選擇的應(yīng)用處理器提供更多功能時(shí)，您會(huì)怎么做？返回選擇流程并尋找更高性能的處理器通常不是首選。在需要時(shí)添加另一個(gè)器件來提供額外的加速是可行的途徑，特別是具有高速高帶寬、低延遲的芯片到芯片連接選項(xiàng)（如PCIe）。恩智浦的生態(tài)體系合作伙伴通過專用的ML加速器芯片助您一臂之力。 

Kinara是恩智浦的一個(gè)生態(tài)體系合作伙伴，開發(fā)面向?qū)Ｓ肕L加速的Ara-1 Edge AI處理器。恩智浦提供基于Gstreamer和NNStreamer的視覺pipeline支持，Kinara開發(fā)了Gstreamer兼容插件集，在這兩者的加持下，可無縫地將Ara-1集成到恩智浦推理pipeline，并且還能夠在功能需求改變時(shí)輕松地將設(shè)計(jì)遷移到不同的i.MX應(yīng)用處理器。 

Kinara和恩智浦如何協(xié)作提升嵌入式平臺(tái)的AI性能，使其超越原生功能？了解詳情，請(qǐng)閱讀白皮書>> 

將恩智浦i.MX應(yīng)用處理器的原生ML處理能力與恩智浦生態(tài)體系合作伙伴（如Kinara）提供的專用ML加速器相結(jié)合，在恩智浦原有可擴(kuò)展性的基礎(chǔ)上進(jìn)一步提高，同時(shí)仍然可以使用相同的軟件。

本文作者

Ali Ors，恩智浦半導(dǎo)體邊緣處理AI機(jī)器學(xué)習(xí)戰(zhàn)略技術(shù)主管。Ali專門負(fù)責(zé)領(lǐng)導(dǎo)跨職能團(tuán)隊(duì)，為機(jī)器學(xué)習(xí)和愿景處理領(lǐng)域提供創(chuàng)新產(chǎn)品和平臺(tái)。他目前在恩智浦負(fù)責(zé)全球AI機(jī)器學(xué)習(xí)戰(zhàn)略和技術(shù)。Ali曾在恩智浦汽車業(yè)務(wù)部負(fù)責(zé)ADAS和自主產(chǎn)品的AI戰(zhàn)略、戰(zhàn)略伙伴關(guān)系和平臺(tái)設(shè)計(jì)。加入恩智浦之前，Ali是CogniVue公司的工程副總裁，負(fù)責(zé)開發(fā)視覺SoC解決方案和認(rèn)知處理器IP內(nèi)核。Ali持有加拿大渥太華卡爾頓大學(xué)的工程學(xué)學(xué)位。