MG24通過MLPerf Tiny基準(zhǔn)測(cè)試套件讓機(jī)器變聰明，還省電！

物聯(lián)網(wǎng)結(jié)合機(jī)器學(xué)習(xí)（ML）在許多應(yīng)用中越來(lái)越受歡迎，從小型物聯(lián)網(wǎng)設(shè)備到大型數(shù)據(jù)中心等。由于各種原因，如實(shí)時(shí)/離線操作、節(jié)省電池，甚至安全和隱私考量，最理想的是在生成數(shù)據(jù)的邊緣運(yùn)行ML算法和數(shù)據(jù)處理。這些低功耗物聯(lián)網(wǎng)設(shè)備可以是嵌入式微控制器、無(wú)線SoC或集成到傳感器設(shè)備中的智能器件。

為了實(shí)現(xiàn)這一目標(biāo)，半導(dǎo)體產(chǎn)品制造商需要小型、低功耗處理器或微控制器，以有效的方式運(yùn)行必要的機(jī)器學(xué)習(xí)（ML）軟件，有時(shí)還支持內(nèi)置在芯片中的硬件加速器。評(píng)估一個(gè)特定設(shè)備的性能并不簡(jiǎn)單，因?yàn)樗贛L應(yīng)用程序中的有效性比原始的數(shù)字運(yùn)算更重要。

MLCommons?(一個(gè)開放的工程聯(lián)盟)開發(fā)了三個(gè)基準(zhǔn)測(cè)試套件來(lái)比較來(lái)自不同供應(yīng)商的ML產(chǎn)品。MLCommons專注于協(xié)作工程工作，通過基準(zhǔn)測(cè)試、指標(biāo)、公共數(shù)據(jù)集和最佳實(shí)踐使機(jī)器學(xué)習(xí)行業(yè)受益。

這些基準(zhǔn)測(cè)試套件稱為MLPerf?，在將訓(xùn)練好的ML模型應(yīng)用于新數(shù)據(jù)時(shí)，測(cè)量ML系統(tǒng)在推理時(shí)的性能。基準(zhǔn)測(cè)試還可選擇測(cè)量完成推理任務(wù)所使用的能量。由于基準(zhǔn)是開源的，并經(jīng)過同行評(píng)審，因此它們提供了一個(gè)客觀、公正的性能和能源效率測(cè)試。

在MLCommons提供的三個(gè)基準(zhǔn)測(cè)試中，Silicon Labs（亦稱“芯科科技”）已經(jīng)提交了MLPerf Tiny套件的解決方案。MLPerf Tiny是針對(duì)最小的低功耗設(shè)備，通常用于深度嵌入式應(yīng)用，如物聯(lián)網(wǎng)或智能傳感。

Silicon Labs系統(tǒng)基準(zhǔn)測(cè)試

Silicon Labs提交了EFR32MG24多協(xié)議無(wú)線SoC進(jìn)行基準(zhǔn)測(cè)試。該SoC包括一個(gè)Arm Cortex?-M33核心(78 MHz, 1.5 MB Flash / 256 kB RAM)和一個(gè)Silicon Labs硬件加速器子系統(tǒng)。它支持多種2.4GHz射頻協(xié)議，包括低功耗藍(lán)牙(Bluetooth Low Energy)、藍(lán)牙m(xù)esh、Matter、OpenThread和Zigbee。它是網(wǎng)狀物聯(lián)網(wǎng)無(wú)線應(yīng)用的理想選擇，如智能家居、照明和樓宇自動(dòng)化。這個(gè)緊湊的開發(fā)平臺(tái)為智能和機(jī)器學(xué)習(xí)開發(fā)提供了簡(jiǎn)單、省時(shí)的路徑。

SoC正在運(yùn)行TensorFlowLite for Microcontrollers軟件，該軟件使ML推斷模型能夠在微控制器和其他具有小內(nèi)存的低功耗設(shè)備上運(yùn)行。它使用了Silicon Labs Gecko軟件開發(fā)工具包（SDK）中的CMSIS-NN庫(kù)中的優(yōu)化神經(jīng)網(wǎng)絡(luò)內(nèi)核。

測(cè)試結(jié)果

MLPerf?Tiny v1.0基準(zhǔn)測(cè)試結(jié)果突出了Silicon Labs EFR32MG24平臺(tái)片上加速器的效率。推理計(jì)算從主CPU上卸載，允許它執(zhí)行其他任務(wù)，甚至將其置于睡眠模式，以進(jìn)一步節(jié)省電力。

這對(duì)于滿足ML增強(qiáng)的低功耗無(wú)線物聯(lián)網(wǎng)解決方案日益增長(zhǎng)的需求至關(guān)重要，允許設(shè)備在一個(gè)硬幣電池上運(yùn)作長(zhǎng)達(dá)十年。這些最新結(jié)果表明，與之前Tiny v0.7結(jié)果中的其他基準(zhǔn)ML模型相比，速度提高了1.5到2倍，能耗降低了40-80%。

隨著機(jī)器學(xué)習(xí)在嵌入式物聯(lián)網(wǎng)應(yīng)用中得到越來(lái)越廣泛的應(yīng)用，這種以低功耗運(yùn)行推理的能力是必不可少的，這將使產(chǎn)品設(shè)計(jì)師能夠在新的用例和不同的設(shè)備中應(yīng)用機(jī)器學(xué)習(xí)。