邊緣計(jì)算從概念到現(xiàn)實(shí)

一年前，當(dāng)我們提出有關(guān)邊緣計(jì)算的展望時(shí)，該領(lǐng)域才剛剛開(kāi)始萌芽。去年，我們針對(duì)開(kāi)源技術(shù)的迅速發(fā)展以及在邊緣部署機(jī)器學(xué)習(xí)（ML）所需的不同編程范例開(kāi)展了演講。

除了數(shù)據(jù)科學(xué)家，很少有公司在其產(chǎn)品中積極深入地整合機(jī)器學(xué)習(xí)技術(shù)，因此，邊緣計(jì)算的優(yōu)勢(shì)只得到了定性認(rèn)可。

我們?cè)谶@里提到的邊緣計(jì)算，其優(yōu)勢(shì)包括節(jié)能和減少延遲。因?yàn)閷?duì)數(shù)據(jù)進(jìn)行云處理，云存儲(chǔ)的成本高昂，且許多情況下帶寬也受限，從而限制了將數(shù)據(jù)傳輸?shù)皆贫死萌斯ぶ悄荛_(kāi)展決策。

此外，在邊緣節(jié)點(diǎn)利用人工智能做出快速?zèng)Q策，邊緣計(jì)算還可以帶來(lái)更好的用戶(hù)體驗(yàn)。用戶(hù)向云端發(fā)送和在云端存儲(chǔ)的數(shù)據(jù)通常會(huì)因?yàn)閷?duì)隱私和安全問(wèn)題的擔(dān)憂(yōu)而存在限制。

如今，在看到邊緣計(jì)算在實(shí)際系統(tǒng)上的部署并了解具體應(yīng)用要求后，我們可以切身定量地感受到這些好處。

對(duì)每一單位電能“斤斤計(jì)較”

體會(huì)邊緣計(jì)算的好處，能耗和性能是最常用的評(píng)估指標(biāo)。與將數(shù)據(jù)傳輸?shù)皆贫说某杀鞠啾龋喙ぷ髂軌蚴褂眉扔械哪芰吭诒镜氐倪吘壒?jié)點(diǎn)完成。

我們以MobileNet為例（有關(guān)MobileNet的更多內(nèi)容在稍后做詳細(xì)介紹），這是一種用于對(duì)象分類(lèi)的熱門(mén)神經(jīng)網(wǎng)絡(luò)（為了避免長(zhǎng)達(dá)數(shù)頁(yè)的分析，這里進(jìn)行了高度簡(jiǎn)化）。

拿MobileNet的一個(gè)版本舉例，譬如MobileNet_v1_1.0_224，需要大約5.59億次乘積累加（MAC）計(jì)算和50,176像素（224x224）的輸入圖像尺寸。保守一點(diǎn)，假設(shè)GPU上的10次MAC要耗費(fèi)100皮焦耳，則559次MMAC將耗費(fèi)大約0.001焦耳。與之對(duì)比的是，通過(guò)LPTE將圖像上傳到云端需要花費(fèi)約0.02焦耳（假設(shè)每個(gè)像素8位且圖像未壓縮）。換句話(huà)說(shuō)，與處理圖像相比，傳輸所需的能量增加了一個(gè)能量級(jí)，而在云端，神經(jīng)網(wǎng)絡(luò)模型上的推理仍必須執(zhí)行（在更加昂貴的設(shè)備上執(zhí)行）。

對(duì)社會(huì)的好處

對(duì)于許多客戶(hù)而言，機(jī)器學(xué)習(xí)是新領(lǐng)域。經(jīng)常有人問(wèn)我們“機(jī)器學(xué)習(xí)適用于我的應(yīng)用嗎”？當(dāng)然，我們的回答是“看情況而定”。有一些基本的前提條件，如物理接口（例如，攝像頭、麥克風(fēng)、傳感器）、收集數(shù)據(jù)和為數(shù)據(jù)加標(biāo)簽的能力（用于模型訓(xùn)練）以及確定機(jī)器學(xué)習(xí)是否真的能為該應(yīng)用帶來(lái)價(jià)值（即刺激產(chǎn)品銷(xiāo)量，帶來(lái)金錢(qián)價(jià)值）。在這些前提條件均滿(mǎn)足的情況下，我們認(rèn)為或多或少的機(jī)器學(xué)習(xí)能夠被應(yīng)用于非常廣泛且多樣的領(lǐng)域種，其中最有趣的是有益于社會(huì)或能夠提升用戶(hù)體驗(yàn)的應(yīng)用。

特別是隨著人們對(duì)氣候的關(guān)注加深，機(jī)器學(xué)習(xí)有價(jià)值的應(yīng)用領(lǐng)域之一，是在農(nóng)業(yè)中使用機(jī)器學(xué)習(xí)來(lái)監(jiān)控和節(jié)約用水量、開(kāi)展農(nóng)藥的針對(duì)性噴灑、將無(wú)人機(jī)應(yīng)用于作物分析中，這些應(yīng)用都是為了提高生產(chǎn)力，最大限度減少全球食品生產(chǎn)帶來(lái)的影響。機(jī)器學(xué)習(xí)還可用于提高應(yīng)用的工業(yè)生產(chǎn)力，如通過(guò)目視檢查對(duì)食品質(zhì)量進(jìn)行分類(lèi)、預(yù)測(cè)性維護(hù)與異常檢查以及加強(qiáng)設(shè)備操作員的安全。

另一個(gè)非常熱門(mén)的應(yīng)用領(lǐng)域是使用機(jī)器學(xué)習(xí)來(lái)確保安全訪問(wèn)，這對(duì)于家用門(mén)禁系統(tǒng)、商用安全系統(tǒng)，如對(duì)安全區(qū)域的訪問(wèn)以及攔截或允許用戶(hù)接觸重型機(jī)械操作這一系列應(yīng)用都具有非常重要的意義。在這些情況下為了加強(qiáng)安全訪問(wèn)，門(mén)鎖或用戶(hù)識(shí)別型的產(chǎn)品會(huì)同時(shí)驗(yàn)證兩個(gè)參數(shù)來(lái)判斷是否允許訪問(wèn)，即同時(shí)應(yīng)用人臉和語(yǔ)音識(shí)別或其他生物識(shí)別方法。通過(guò)使用活體檢測(cè)，可進(jìn)一步增強(qiáng)人臉識(shí)別，以防止欺騙攻擊。

公共安全已成為當(dāng)代備受關(guān)注的一個(gè)問(wèn)題，而機(jī)器學(xué)習(xí)將成為其很好的解決方案。例如，基于機(jī)器學(xué)習(xí)可以開(kāi)發(fā)這樣的應(yīng)用程序，讓機(jī)場(chǎng)、地鐵站臺(tái)或其他公共場(chǎng)所的安保攝像頭來(lái)確定古怪的行為模式或檢測(cè)是否有人遺落包裹或行李。如果出現(xiàn)以上情況，則系統(tǒng)可以做出恰當(dāng)?shù)捻憫?yīng)，例如，將這一情況甚至具體發(fā)生的地點(diǎn)通知有關(guān)部門(mén)。另外，基于攝像頭利用機(jī)器學(xué)習(xí)，還可以計(jì)算城市交通系統(tǒng)中十字路口的車(chē)輛數(shù)、監(jiān)控車(chē)流和調(diào)整紅綠燈時(shí)間——這不僅為駕駛員提供了便利，還能夠幫助提高駕駛效率。

在邊緣設(shè)備中實(shí)施機(jī)器學(xué)習(xí)是算法和處理解決方案領(lǐng)域巨大進(jìn)步的結(jié)果。然而，直到ImageNet大規(guī)模視覺(jué)識(shí)別挑戰(zhàn)賽在2010年拉開(kāi)帷幕，機(jī)器學(xué)習(xí)的時(shí)代才真正開(kāi)始發(fā)展。這一挑戰(zhàn)賽一直以來(lái)的目標(biāo)是預(yù)測(cè)包含1000個(gè)可能的對(duì)象類(lèi)別之一的照片的內(nèi)容。之后，AlexNet誕生，現(xiàn)在看來(lái)AlexNet有點(diǎn)過(guò)時(shí)了，但仍用于評(píng)測(cè)（由于其準(zhǔn)確度較低，現(xiàn)在已通常不用于實(shí)際應(yīng)用）。AlexNet的發(fā)展帶來(lái)了新型的分類(lèi)模型拓?fù)?，如VGG、ResNet和Inception。

正如我在前面提到的，MobileNet是最近出現(xiàn)的新技術(shù)之一，由于其較小的尺寸與合理的準(zhǔn)確度而倍受青睞。此外，通過(guò)使用遷移學(xué)習(xí)來(lái)針對(duì)特定對(duì)象類(lèi)進(jìn)行微調(diào)，可提高這些模型的準(zhǔn)確度。

隨著算法發(fā)展以及支持它們的訓(xùn)練框架和推理引擎的巨大進(jìn)步，處理能力得到提升。雖然機(jī)器學(xué)習(xí)加速器正逐漸成為常態(tài)，嵌入式系統(tǒng)開(kāi)發(fā)人員仍努力在傳統(tǒng)設(shè)備中部署機(jī)器學(xué)習(xí)，從低成本MCU到包含多個(gè)CPU內(nèi)核、GPU與DSP的高度集成應(yīng)用處理器，覆蓋范圍十分廣泛。

現(xiàn)如今我們可以基于一個(gè)2美元的MCU實(shí)現(xiàn)一套人臉識(shí)別解決方案，該解決方案可在略大于200毫秒的時(shí)間內(nèi)執(zhí)行推理，且準(zhǔn)確度高達(dá)95%，這是多么令人驚訝。

如果進(jìn)一步提高處理器性能以及內(nèi)存容量，就能夠增強(qiáng)邊緣設(shè)備處理更復(fù)雜應(yīng)用（如上所述）的能力，想象一下，如果邊緣設(shè)備的機(jī)器學(xué)習(xí)性能增加幾個(gè)數(shù)量級(jí)，您可以做些什么？

推動(dòng)邊緣計(jì)算發(fā)展

我們相信，我們的行業(yè)距離實(shí)現(xiàn)機(jī)器學(xué)習(xí)的所有潛力還有很長(zhǎng)的路要走。就此而言，工業(yè)、消費(fèi)電子、物聯(lián)網(wǎng)和汽車(chē)應(yīng)用的大多數(shù)系統(tǒng)開(kāi)發(fā)人員仍不理解機(jī)器學(xué)習(xí)目前能夠如何增強(qiáng)其產(chǎn)品。但是，機(jī)器學(xué)習(xí)不只是一時(shí)的潮流，我們已經(jīng)證明了其對(duì)社會(huì)和工業(yè)大有裨益。

展望未來(lái)，我們將看到越來(lái)越多的處理器集成機(jī)器學(xué)習(xí)加速。我們還將看到開(kāi)源工具和庫(kù)的大幅增加，以支持機(jī)器學(xué)習(xí)發(fā)展。通過(guò)機(jī)器學(xué)習(xí)技術(shù)在邊緣設(shè)備的積極部署，將會(huì)給數(shù)據(jù)分析和集體知識(shí)分配帶來(lái)巨大的改革，而我們正是這一改革的見(jiàn)證者。

*本文內(nèi)容轉(zhuǎn)載自New Electronics，原文標(biāo)題為“Edge Computing from Concept to Reality”。