AI的下一主戰(zhàn)場(chǎng)：手機(jī)與物聯(lián)網(wǎng)終端

　　手機(jī)與物聯(lián)網(wǎng)終端市場(chǎng)潛力大

　　現(xiàn)在人工智能（AI）剛剛興起，很多公司關(guān)注自動(dòng)駕駛，或到ImageNet ILSVRC比賽上去顯示實(shí)力，或進(jìn)行下棋。同時(shí)應(yīng)該更關(guān)注AI實(shí)際為人們帶來(lái)了什么，例如現(xiàn)在已經(jīng)成熟的手機(jī)，以及正在興起的物聯(lián)網(wǎng)終端市場(chǎng)的機(jī)會(huì)。 “如果有想創(chuàng)業(yè)的企業(yè)家，可以向這些方向想象，這方面的潛力非常大?！泵绹?guó)高通公司產(chǎn)品市場(chǎng)資深經(jīng)理劉學(xué)徽先生對(duì)電子產(chǎn)品世界的記者說(shuō)。

　　近日，劉學(xué)徽經(jīng)理出席了在京舉辦的“人工智能與芯片高峰論壇”，并發(fā)表了“終端設(shè)備上的人工智能”的主旨講演。該論壇由電子產(chǎn)品世界、啟迪之星和洪泰智造工廠聯(lián)合主辦。

　　劉學(xué)徽經(jīng)理指出，中國(guó)每年大約有6億部手機(jī)出貨，如果這6億部手機(jī)中有10%用上了人工智能算法實(shí)現(xiàn)的功能，收益將十分驚人，對(duì)于廠商來(lái)說(shuō)其收入也是相當(dāng)可觀的。另外，目前手機(jī)通過(guò)滑屏、觸屏等方式控制，未來(lái)通過(guò)語(yǔ)音算法和語(yǔ)音識(shí)別，實(shí)現(xiàn)手機(jī)控制的方式將會(huì)慢慢流行起來(lái)。通過(guò)AI技術(shù)，未來(lái)手機(jī)還可以了解用戶(hù)的喜好、自動(dòng)幫助打開(kāi)App，也可以作為一些廣告的推薦入口等。

　　現(xiàn)在大家熱衷談?wù)撛朴?jì)算，但人工智能運(yùn)算并不是所有場(chǎng)合都適合云端處理，有些需要在傳感器端附近立即計(jì)算。例如無(wú)人機(jī)、自動(dòng)駕駛、IP camera（攝像頭）、手機(jī)拍照等。因?yàn)闊o(wú)人機(jī)和自動(dòng)駕駛需要實(shí)時(shí)避障，而IP camera的人臉識(shí)別如果完全在云上計(jì)算，從原始圖像采集，之后壓縮、傳輸、解壓，算完再把結(jié)果告訴端，這非常浪費(fèi)時(shí)間時(shí)間。在手機(jī)中，拍照前要對(duì)手機(jī)預(yù)覽、對(duì)焦，也一定是在終端上運(yùn)算。

　　在廠商近期發(fā)布的最新智能手機(jī)當(dāng)中，有些型號(hào)采用了背景虛化技術(shù)，使拍攝效果達(dá)到了單反效果，這其實(shí)就用到了AI算法開(kāi)發(fā)的功能。實(shí)際上，手機(jī)上還有很多功能可以利用AI技術(shù)，例如拍照的美顏，還有人臉識(shí)別方面，是采用10個(gè)特征點(diǎn)，還是一二百個(gè)特征點(diǎn)、四百個(gè)特征點(diǎn)，對(duì)人臉識(shí)別的效果會(huì)不同?？砂堰@些算法在云上培訓(xùn)好，然后轉(zhuǎn)移置到手機(jī)上運(yùn)行。

　　在VR/AR方面，目前存在的瓶頸之一是用戶(hù)缺乏存在感體驗(yàn)，沒(méi)有定位。如果把AI加入VR終端，戴著頭盔可以看到自己的手和腳。根據(jù)你的攝像頭的移動(dòng)，可以看到周?chē)奈矬w。其方法是頭盔/眼鏡外裝個(gè)攝像頭，假設(shè)識(shí)別周邊有一個(gè)凳子，那么在人的視野里放一個(gè)虛擬凳子，這樣效果更逼真。在直播社交娛樂(lè)場(chǎng)景中，主播跳舞時(shí)的頭飾因?yàn)檠訒r(shí)常常跟不上臉部的移動(dòng)；另外如果人在移動(dòng)，聊天的效果也大打折扣。如果在端上做AI運(yùn)算，效果會(huì)大大提升。

　　驍龍神經(jīng)元處理引擎SDK

　　Qualcomm提供了專(zhuān)為端上運(yùn)行神經(jīng)元網(wǎng)絡(luò)的驍龍神經(jīng)元處理引擎（Snapdragon Neural Processor Engine）簡(jiǎn)稱(chēng)SNPE。 目前在Qualcomm^? 驍龍 600系列部分平臺(tái)和820、835上都得到了支持。通過(guò)這個(gè)引擎，算法可以運(yùn)行在GPU和DSP上，速度和功耗相對(duì)CPU可以得到大幅提升。目前支持的架構(gòu)有Caffe，Caffe 2，Tensorflow，我們提供轉(zhuǎn)化工具和benchmark工具，方便算法廠商的開(kāi)發(fā)調(diào)試。

　　以Qualcomm^? 驍龍^TM 835移動(dòng)平臺(tái)上的測(cè)試為例，得到的結(jié)果是同樣的神經(jīng)元網(wǎng)絡(luò)，在GPU上運(yùn)行比CPU上運(yùn)行平均快4倍，在DSP上運(yùn)行比CPU快16倍；功耗上， 在GPU上運(yùn)行的功耗是CPU上的1/8，在DSP上運(yùn)行的功耗是CPU上的1/25。

　　使用SNPE SDK的基本流程是以TensorFlow、caffe、caffe2做的模型，配置調(diào)用GPU，DSP或CPU的API，然后通過(guò)轉(zhuǎn)換工具轉(zhuǎn)換成在DLC格式，再通過(guò)SDK讓算法在驍龍移動(dòng)平臺(tái)三種內(nèi)核上運(yùn)行，實(shí)現(xiàn)各種各樣的功能，例如人臉識(shí)別、語(yǔ)音識(shí)別、文字識(shí)別等功能。換言之，Qualcomm SNPE SDK中提供了現(xiàn)成算法和函數(shù)，諸如卷積、池化等常用函數(shù)都已將做好，算法開(kāi)發(fā)者直接調(diào)用即可。同時(shí)還支持用戶(hù)定義層（User Defined Layer, UDL）。

　　關(guān)于軟件算法，值得一提的是，過(guò)去是傳統(tǒng)算法，現(xiàn)在基于機(jī)器學(xué)習(xí)的算法，速度更快效果更好，而且功耗更低，開(kāi)發(fā)更為方便。此外隨著算法的進(jìn)步，對(duì)硬件的依賴(lài)度降低，例如要拍照清晰，過(guò)去通常要高像素分辨率，現(xiàn)在可以不用很貴的硬件，依靠算法提升效果。

　　終端與云端相輔相成

　　那么，相比市面上的一些硬件處理器，高通的特色及與他們的關(guān)系是什么？

　　目前AI芯片有兩種形態(tài)，一種是像Qualcomm一樣是做在一個(gè)SoC中，特點(diǎn)是體積更小、功耗更低，運(yùn)算速度快，因?yàn)镃PU、GPU和DSP等計(jì)算內(nèi)核都做在一個(gè)SoC上，會(huì)對(duì)數(shù)據(jù)搬移、延遲和功耗等進(jìn)行優(yōu)化。未來(lái)隨著運(yùn)算要求的提升，也許會(huì)出現(xiàn)專(zhuān)門(mén)運(yùn)算Neural Network（NN，神經(jīng)網(wǎng)絡(luò)）的核。第二種形態(tài)，是一些公司做的所謂的AI芯片，實(shí)際上是在主處理器外做的協(xié)處理器，因此主芯片和外置芯片之間的大量數(shù)據(jù)搬移、交互等將是挑戰(zhàn)。

　　同樣是NN芯片，各家的定位是有差異化的。例如FPGA較為適合在云上或車(chē)載等對(duì)功率和體積不太講究的應(yīng)用場(chǎng)景。一些IP公司也推出了AI架構(gòu)和指令集，但目前還沒(méi)有到定論時(shí)。因?yàn)楦鞣N技術(shù)都是演進(jìn)過(guò)程中，最終要看市場(chǎng)的選擇。

　　Qualcomm與很多云端處理器廠商是相輔相成的關(guān)系。例如云端處理器的GPU非常強(qiáng)大，培訓(xùn)/training做得非常好，但功耗不理想，據(jù)悉某專(zhuān)用神經(jīng)元網(wǎng)絡(luò)芯片功耗高達(dá)30W。云端適合模型的培訓(xùn)，訓(xùn)練后的結(jié)果可轉(zhuǎn)移到端去運(yùn)行。驍龍終端芯片目前不做培訓(xùn)，但十分擅長(zhǎng)運(yùn)行。 “我們的生態(tài)成長(zhǎng)有賴(lài)于云端，云端的模型做得越好，越有利于我們AI技術(shù)的實(shí)現(xiàn)和落地?！眲W(xué)徽經(jīng)理強(qiáng)調(diào)。

　　已與Facebook合作

　　實(shí)際上，Qualcomm^? 驍龍^TM 移動(dòng)平臺(tái)在手機(jī)端也有靚麗的業(yè)績(jī)。例如今年4月18日，F(xiàn)acebook 和高通宣布合作支持 Facebook 開(kāi)源深度學(xué)習(xí)框架 Caffe2 和Qualcomm^? 驍龍^TM 神經(jīng)處理引擎（NPE）框架的優(yōu)化。Facebook將在其所有安卓應(yīng)用中集成SNPE SDK， 運(yùn)行在驍龍移動(dòng)平臺(tái)上時(shí)，比沒(méi)有SNPE的速度提升5倍。

　　隨著中國(guó)手機(jī)與AI的發(fā)展，期待會(huì)有更多的中國(guó)算法公司開(kāi)發(fā)手機(jī)上AI應(yīng)用！