邊緣AI未必越大越好

為平衡性能、功耗和成本而選擇適當(dāng)?shù)挠布?，可以使機(jī)器學(xué)習(xí)能夠在資源受限的平臺上運(yùn)行。

核心要點(diǎn)
通過適配合適的硬件、集成開發(fā)環(huán)境（IDEs）、開發(fā)工具和套件、框架、數(shù)據(jù)集及開源模型，工程師可以更輕松地開發(fā)出支持機(jī)器學(xué)習(xí)（ML）和人工智能（AI）的邊緣處理產(chǎn)品。

邊緣上的機(jī)器學(xué)習(xí)
機(jī)器學(xué)習(xí)和人工智能（AI）起初主要依賴于高性能計(jì)算平臺，近年則逐步轉(zhuǎn)向云端處理。然而，如今越來越多的應(yīng)用將計(jì)算部署在靠近數(shù)據(jù)源的位置進(jìn)行。這種適合物聯(lián)網(wǎng)（IoT）設(shè)備的邊緣處理方式無需將大量數(shù)據(jù)傳輸?shù)皆贫?，從而減少了延遲并提升了安全性。

邊緣處理中的ML/AI可使物聯(lián)網(wǎng)設(shè)備在源頭就進(jìn)行推理。這意味著設(shè)備可以從經(jīng)驗(yàn)中學(xué)習(xí)并改善其行為，例如通過算法分析數(shù)據(jù)以發(fā)現(xiàn)模式并做出決策。目前常用的機(jī)器學(xué)習(xí)方法包括監(jiān)督學(xué)習(xí)、無監(jiān)督學(xué)習(xí)和強(qiáng)化學(xué)習(xí)。

• 監(jiān)督學(xué)習(xí)：機(jī)器使用標(biāo)記數(shù)據(jù)進(jìn)行訓(xùn)練。例如，智能監(jiān)控?cái)z像頭可以使用帶有行走、跑步等動作的照片和視頻進(jìn)行訓(xùn)練。

• 無監(jiān)督學(xué)習(xí)：利用無標(biāo)記數(shù)據(jù)（如K均值聚類、主成分分析）來識別模式，適用于異常檢測。

• 強(qiáng)化學(xué)習(xí)：通過“試錯”過程進(jìn)行學(xué)習(xí)，通過獎勵或懲罰反饋來調(diào)整算法。

嵌入式系統(tǒng)與機(jī)器學(xué)習(xí)
ML/AI起初需要大量計(jì)算資源，如今則可以在嵌入式系統(tǒng)（如物聯(lián)網(wǎng)設(shè)備）中實(shí)現(xiàn)。圖像檢測和分類可以在FPGA或微處理器單元（MPU）上實(shí)現(xiàn)，而簡單的應(yīng)用，如振動監(jiān)測，則可以在8位微控制器（MCU）上完成。

如今，嵌入式系統(tǒng)工程師可以利用硬件、軟件和工具，快速設(shè)計(jì)ML/AI產(chǎn)品。例如，Microchip的MPLAB X IDE集成了ML模型開發(fā)插件，使得模型可直接部署到目標(biāo)硬件。自動機(jī)器學(xué)習(xí)（AutoML）則可自動化模型開發(fā)和訓(xùn)練中的許多繁瑣任務(wù)。

小尺寸設(shè)計(jì)的機(jī)器學(xué)習(xí)
小型機(jī)器學(xué)習(xí)（tinyML）允許在資源受限的微控制器上運(yùn)行模型。這類MCU通常在1至400 MHz頻率下運(yùn)行，配備2至512 kB的RAM，功耗僅為150 μW到23.5 mW，非常適合電池供電或能量采集的應(yīng)用。

實(shí)現(xiàn)tinyML的關(guān)鍵
數(shù)據(jù)捕獲和準(zhǔn)備在tinyML中至關(guān)重要，需要優(yōu)化數(shù)據(jù)集以避免數(shù)據(jù)過多導(dǎo)致內(nèi)存不足，同時(shí)保持足夠的數(shù)據(jù)量以確保預(yù)測的準(zhǔn)確性。模型壓縮技術(shù)（如“權(quán)重剪枝”和量化）可減少模型體積，從而更有效地在MCU上運(yùn)行。

這些技術(shù)為開發(fā)ML/AI邊緣產(chǎn)品提供了極大便利。盡管如此，切勿過度設(shè)計(jì)，否則會導(dǎo)致功耗和成本的上升。