從移動芯片到終端計算：AI找回被放逐的常識

　　不出所料，9 月 2 日的 IFA 2017 展會上華為正式發(fā)布了麒麟 970之后，全球首款移動AI芯片瞬間成為了行業(yè)內(nèi)外熱議的焦點。

　　除了麒麟970在算力、能效領(lǐng)域本身的提高外，此次更多的關(guān)注點集中在這款芯片搭載了全新的NPU(Neural Processing Unit，神經(jīng)處理單元)，從而獲得了人工智能領(lǐng)域的運算與處理能力。

　　在大量的媒體報道與解讀當中，都將麒麟970的移動AI芯片身份稱作影響AI格局，甚至拉升中國整體AI影響力的大事。

　　但排除“中國領(lǐng)先”的民族情緒和相對空泛的戰(zhàn)略思想，搭載NPU的移動芯片究竟能為用戶和市場提供什么樣的價值?

　　這是我們追問移動AI芯片的第一個問題：面對更高的成本，消費者將因何為AI買單?

　　我想，所有回答都應(yīng)該開始于一個樸素的論斷：麒麟970作為首款移動AI芯片，有可能讓AI計算重回終端。

　　產(chǎn)業(yè)的虛幻之舞：云計算并非AI標配

　　這里所謂的“重回”，并不是說AI運行原本就在終端，而是在常識上講，AI在學(xué)習(xí)能力、復(fù)雜任務(wù)處理能力、精準配合能力上的技術(shù)特征，都應(yīng)該是發(fā)生在終端上的。但一直以來我們看到的AI計算，卻基本由云端計算來提供。

　　這里涉及到的一個AI領(lǐng)域的現(xiàn)狀，也是我們進一步解讀麒麟970的基礎(chǔ)。所以我們不妨停留一下，看看人工智能與其背后硬件間的關(guān)系。

　　我們知道，AI在眾多層面上都呈現(xiàn)出了全新的運算關(guān)系：更趨近現(xiàn)實世界的運算目標、更復(fù)雜的算法以及分布式的任務(wù)處理方式，這都讓傳統(tǒng)的CPU難以負荷。一方面機器學(xué)習(xí)等AI任務(wù)需要更大的算力和能效，另一方面?zhèn)鹘y(tǒng)運算處理方式在進行AI任務(wù)的矩陣乘法等運算時指令步驟過多，也有點“驢唇不對馬嘴”的意思——所以AI的工程化和實用化，必須要獨立的硬件支撐。

　　提供高能效、高運算精準度和識別度的AI芯片與運算架構(gòu)，近幾年已經(jīng)成為了行業(yè)巨頭的共識。谷歌的TPU在AlphaGo上一戰(zhàn)成名， 加入 Tensor Core 結(jié)構(gòu)的英偉達 Tesla V100成為其股價上漲的興奮劑，都是AI芯片給行業(yè)帶來的美好回憶。

　　(體型確實不適合民用終端的Tesla V100)

　　但這些專注AI處理的芯片與硬件體系卻有一個共同的特點：計算在云端完成。

　　各家如此默契的將AI芯片與云計算聯(lián)系起來，售賣計算服務(wù)而不是硬件，內(nèi)中當然有很復(fù)雜的原因。首先這一類為了特定應(yīng)用與算法打造的芯片價值不菲，并且這些芯片集成了大量的固件，體積和重量都不小，也很難安裝在終端當中，自然造成了商業(yè)化的可能極具降低。

　　除此之外，硬件與互聯(lián)網(wǎng)巨頭對于自身業(yè)務(wù)的把控也是終端AI計算遲遲不出現(xiàn)的原因之一。無論是谷歌還是英偉達、微軟、高通，都致力于推廣自身的云服務(wù)業(yè)務(wù)和平臺化業(yè)務(wù)。缺少自身的硬件場景支持商業(yè)路徑，芯片巨頭當然更希望用戶群來為自己的核心業(yè)務(wù)付費。

　　加上技術(shù)難度和對商業(yè)成本的控制，AI逐漸在人們認識里成為了一個由云計算完成的任務(wù)。但事實上，這只是技術(shù)把控者出于產(chǎn)業(yè)利益做出的行為。從常識角度來講，云計算對AI價值巨大，但絕非AI的標準配置。

　夢幻海灘和私人城堡：AI回歸終端計算的價值邏輯

       也許無人駕駛是一個理解云計算與端計算AI的最好示例：試想行駛中發(fā)生了以外，無人駕駛汽車必須緊急避險。這時假如AI需要將收集的道路和車輛信息上傳云端，獲得結(jié)果后再進行處置…恐怕黃花菜都涼了，所以必須在車輛的智能體內(nèi)部完成數(shù)據(jù)收集和處理。

　　同樣的道理，在手機中也是一樣——甚至手機作為與生活的全連接場景，對終端運行AI的需求更加多元與基礎(chǔ)化。

　　我們可以從內(nèi)外兩個層面來審視手機終端運算AI任務(wù)帶給用戶的價值。

　　從手機場景與應(yīng)用的鏈接維度看，AI應(yīng)用的價值目前體現(xiàn)在三個領(lǐng)域：視覺領(lǐng)域(圖像、視頻和VR/AR等)、語音領(lǐng)域(語音交互、翻譯等)，以及對用戶的學(xué)習(xí)和理解。

　　可以想見，這三個領(lǐng)域不僅囊括了很多新應(yīng)用價值產(chǎn)生的空間，也對現(xiàn)有主流應(yīng)用構(gòu)成了有效的延展與補充。根據(jù)數(shù)據(jù)顯示，麒麟970當中，以臺積電10nm工藝，集成了一個8核CPU，一個12核的GPU，以及控制攝像頭的雙ISP模塊。此外最主要的就是處理AI任務(wù)的NPU模塊。

　　在提供整合算力的基礎(chǔ)上，其中CPU負責通用計算任務(wù)，GPU負責圖形處理計算，而NPU則提供神經(jīng)網(wǎng)絡(luò)運算能力，解決需要卷積計算等運算方式的AI任務(wù)。換言之，明確的任務(wù)指向架構(gòu)給AI應(yīng)用提供了最大化的能效比配比與獨立運算空間，雖然這樣達成的運算效果較比云計算加持的AI芯片應(yīng)該有較大差距，卻給在終端上完成AI應(yīng)用工程化提供了條件。

　　對于用戶來說，獨立的AI運算單元最有可能帶來三個層面的應(yīng)用感提升：

　　一、從無到有的AI應(yīng)用：云端進行AI計算再傳輸?shù)浇K端，很多時候不是計算效率的問題。而是一來一回的計算過程讓應(yīng)用本身卡頓嚴重，甚至無法達成使用條件?；诮K端的AI計算則可以憑借能效和性能的提升帶動AI應(yīng)用從無到有。

　　根據(jù)發(fā)布數(shù)據(jù)，麒麟970的架構(gòu)在處理同樣的AI任務(wù)時，得到了50倍能效和25倍性能提升。比如圖像識別速度可以達到2000張/分鐘。更快的速度不僅是流暢性能的代表，更多是對AR、動態(tài)捕捉這類泛AI應(yīng)用臨界值的突破。雖然目前我們還無法預(yù)測麒麟970對應(yīng)的具體應(yīng)用案例，但應(yīng)該有不少此前無法達成觸發(fā)條件的應(yīng)用在mate10等搭載機型上誕生。

　　二、現(xiàn)有應(yīng)用的升級與延展：無論是微信這樣的超級應(yīng)用，還是今日頭條這樣的內(nèi)容平臺、美圖這樣的圖片處理軟件，都在打AI的牌。這或許說明通過AI來了解用戶，提供針對服務(wù)和體驗升級已經(jīng)成為現(xiàn)有軟件突破體驗瓶頸的良方。

　　但由于手機環(huán)境的限制，社交、內(nèi)容、圖片處理，甚至游戲等應(yīng)用都難以大量釋放AI功能，因為沒有對應(yīng)的運算環(huán)境，可能造成大量能耗和流量浪費，從而出現(xiàn)過猶不及的局面。而終端運行的針對性AI計算能力，或許可以解決這些問題。語音、機器視覺和機器學(xué)習(xí)的延伸，在可預(yù)見范圍中是很多已有手機功能進化的必經(jīng)之路。

　　三、瞬時與無網(wǎng)體驗加強：以拍照、圖片處理、游戲為主的AI功能，在用戶交互的邏輯上是完全的閉環(huán)。并且非常強調(diào)體驗感與配合度，但假如這些領(lǐng)域的AI處理需要大量依靠云計算的話，那就會造成用戶指令響應(yīng)普遍需要延遲，但假如放棄AI又會造成功能上無法進步，很容易造成應(yīng)用開發(fā)者的進退失據(jù)。

　　終端進行AI計算，最基本的特征是完成了無距離運算，可以在獲得AI體驗的同時避免延遲，也就讓這類應(yīng)用的體驗度跟上了用戶需求。另一方面，終端計算AI也可以避免在斷網(wǎng)或者網(wǎng)絡(luò)信號差的情況下AI功能失靈——試想一旦斷網(wǎng)你的自拍就變丑了，那簡直天理難容!

　　應(yīng)用角度的價值之外，AI計算回歸終端，對內(nèi)也是對用戶數(shù)據(jù)的保護。

　　我們知道，蘋果的眾多官司與糾紛，都來自用戶數(shù)據(jù)大量上傳云端造成的泄露。但siri等智能交互又必須依賴收集用戶數(shù)據(jù)，造成了一個手機產(chǎn)業(yè)的悖論。而破解方式也很簡單，不上傳云端，本地完成處理用戶數(shù)據(jù)就成了。

　　把AI運算放在終端內(nèi)部，可以保證智能體學(xué)習(xí)用戶、了解用戶，并以訓(xùn)練數(shù)據(jù)生成獨特體驗的能力。同時也確保了用戶數(shù)據(jù)與隱私始終存放在終端里，不會造成泄露和被暴力讀取的可能。

　　如今的手機已經(jīng)變成了強內(nèi)容生產(chǎn)工具，用戶可以以AI為助手完成各種各樣的內(nèi)容生產(chǎn)。這些內(nèi)容上傳云端始終不安全，也沒有法律依據(jù)來支撐，所以就近在終端內(nèi)部完成處理近乎是唯一的妥善方案。

　　從更終極的目標看，隨著技術(shù)的升級，AI必然要從云端一步步回歸終端。因為AI的本質(zhì)是對人腦的仿生研發(fā)，追求極致化的神經(jīng)元控制與最短距離反應(yīng)。所以終端AI，或許可以說是人工智能從名到實的關(guān)鍵一步。

　　形象一點來說，AI計算回歸終端就像構(gòu)筑了一片海景別墅。對應(yīng)用來說，接入了無限多風景的想象可能，讓外界非常夢幻。對用戶則構(gòu)筑了更加嚴實的私密城堡，確保用戶的安全與隱私不被侵犯。

　　反之，放任AI計算停留在云端的話，應(yīng)用就像困在城堡里，畫地為牢;而用戶卻像睡在海灘上，大敞遙開——反正都不是什么好的體驗。

　　手機AI的未來在打破線性發(fā)展

　　近三年以來，手機領(lǐng)域的摩爾定律暫停和產(chǎn)業(yè)競爭同質(zhì)化，成為了行業(yè)的主旋律之一。

　　學(xué)界的很多聲音認為，手機更新?lián)Q代速度的暫緩和產(chǎn)品天花板，似乎是因為智能手機被高度定式化了。手機廠商出于用戶洞察和戰(zhàn)略競爭考量，從硬件架構(gòu)到運算體系都嚴密遵循一套體系，導(dǎo)致手機很難發(fā)生定義上的突破，也難有實質(zhì)性的新能力出現(xiàn)。

　　這被稱為智能手機的線性發(fā)展階段，手機上的一切都按照固有領(lǐng)域前進，不能繞道也不能自創(chuàng)新路。而AI技術(shù)的出現(xiàn)則被廣泛視定為智能手機打破線性發(fā)展的變量。但云計算驅(qū)動的手機AI應(yīng)用面臨著幾個問題，比如產(chǎn)業(yè)線索太過冗長、技術(shù)堅壁帶來的應(yīng)用開發(fā)成本、手機環(huán)境縮緊了開發(fā)空間等等。在這個邏輯上講，創(chuàng)造新的手機應(yīng)用體驗，必須以終端計算的支撐能力作為前提條件。

　　舉個例子，此前谷歌用力推廣，卻最終飽受吐槽的AR應(yīng)用Tango。其問題之一在于捕捉環(huán)境的錯誤率過高，相對復(fù)雜一些的畫面場景就容易出錯。而背后的原因在于硬件環(huán)境支撐能力不足，無法在復(fù)雜的算法與流暢的體驗之間達成平衡。

　　在終端完成AR運算，可以獲得更高的運算效率，并且憑借AI處理能力來取得更好的環(huán)境分析、動作分析和物理條件識別。在體驗升級的同時，可交互的玩法想象也突然之間多了不少。實質(zhì)性提升手機功能的體驗是否就蘊藏其間，也是不好說的事。

　　總之，麒麟970作為移動AI芯片的價值在于打破開發(fā)者對固有手機部件的想象界限，從而繞開產(chǎn)業(yè)線性發(fā)展的死循環(huán)。

　　當然了，這個計劃任重道遠，而且需要眾多力量和因素加入進來。

　　進化要素：移動AI芯片的生態(tài)叢林

　　我們看到，麒麟970發(fā)布時宣布未來將進一步開放生態(tài)，引入合作伙伴加入。實際上這可以說是未來控制AI手機生態(tài)的關(guān)鍵一環(huán)。畢竟現(xiàn)在僅僅能部署在高端產(chǎn)品中，且用戶認知模糊的移動AI芯片，最迫切的需求是以手機應(yīng)用性打開市場局面。

　　而這一切的基礎(chǔ)，在于以多元化合作的方式，打造基于終端運算的手機AI生態(tài)。

　　這里要說明的是，所謂終端AI運算絕不可能單純的發(fā)生在終端上。從麒麟970的性能上看，基于高性能計算的任務(wù)和算法依舊必須依靠云端。而二者協(xié)同組成結(jié)構(gòu)化網(wǎng)絡(luò)恐怕是手機AI最好的達成方式。

　　除了與云端協(xié)作，手機AI還必須打造出一套優(yōu)質(zhì)的OS生態(tài)，在接口和兼容度上迎接有創(chuàng)意、敢于打破常規(guī)的AI應(yīng)用。并且要保證應(yīng)用與硬件銜接，這都要求芯片在架構(gòu)上有強大的兼容性和開放秩序。

　　當然，商業(yè)層面的合作也至關(guān)重要，如何促使已經(jīng)形成定勢的開發(fā)者轉(zhuǎn)投華為帶來的終端AI生態(tài)、如何達成國際化的開發(fā)群落，甚至如何與其他手機品牌組成共享機制，都將是制約未來手機AI發(fā)展的關(guān)鍵因素。

　　總之，麒麟970提供的終端AI計算能力并不是已經(jīng)水到渠成。它的核心價值在于打破了不合理的產(chǎn)業(yè)規(guī)則，讓“手機+AI”的命題回歸到了被放逐多時的常識理性當中。而擺在移動AI芯片面前的，有充分的利潤誘惑和產(chǎn)業(yè)變局空間，但同樣有大量的未知因素與不確定性。

　　只能說，一切剛剛是開始。但面向普通用戶的AI回歸終端計算，確實是一條至關(guān)重要道路的開始。