人工智能更接近邊緣:針對(duì)物聯(lián)網(wǎng)的數(shù)據(jù)洪流強(qiáng)化生態(tài)系統(tǒng)
第五波計(jì)算技術(shù)的融合——人工智能(AI)、5G與物聯(lián)網(wǎng)(IoT)——正持續(xù)加速令人驚訝的變化,并驅(qū)動(dòng)全新的數(shù)據(jù)消費(fèi)模型。在僅考慮IoT的情況:盡管還在發(fā)展初期,我們看到它已經(jīng)褪去全球微型傳感器網(wǎng)絡(luò)的原始面貌,進(jìn)一步擴(kuò)展至包含更多高性能設(shè)備,包括從智能影像傳感器到自駕汽車。
本文引用地址:http://m.butianyuan.cn/article/201910/405734.htm隨著IoT持續(xù)成長(zhǎng)并帶動(dòng)全球數(shù)字化轉(zhuǎn)型,通往上游云端的數(shù)據(jù)海嘯,讓長(zhǎng)期以來(lái)針對(duì)下游分配優(yōu)化的網(wǎng)絡(luò)基礎(chǔ)設(shè)施遭受打擊。它也促生了一個(gè)迫切的需求,即在全球互聯(lián)網(wǎng)架構(gòu)內(nèi)實(shí)現(xiàn)更分散的算力分布,而這也導(dǎo)致對(duì)Arm Neoverse計(jì)算解決方案的需求與日俱增。整個(gè)生態(tài)系統(tǒng)已經(jīng)對(duì)這個(gè)挑戰(zhàn)作出響應(yīng),而縱觀Arm過(guò)去一年內(nèi)的進(jìn)展, Neoverse正在將其初始愿景轉(zhuǎn)換成今日之現(xiàn)實(shí)。
AI從云端擴(kuò)散,“宙斯”枕戈待旦
展望未來(lái),Arm將專注于為下一代基礎(chǔ)設(shè)施技術(shù)奠定基礎(chǔ),其中的重中之重是AI的去中心化。
由于大型數(shù)據(jù)集與專屬的算力相當(dāng)集中的緣故,今日大負(fù)荷的AI計(jì)算多數(shù)在云端完成,特別是機(jī)器學(xué)習(xí)(ML)模型的訓(xùn)練。但若把這些模型應(yīng)用到真實(shí)世界中靠近決策點(diǎn)的推論時(shí),以云端為中心的AI模型就會(huì)捉襟見(jiàn)肘。數(shù)據(jù)傳輸數(shù)千英里來(lái)到數(shù)據(jù)中心進(jìn)行模型比較時(shí),可能會(huì)碰到不少延時(shí)的問(wèn)題,因此,沒(méi)有人能保證當(dāng)結(jié)果返回時(shí)仍然對(duì)決策有用。時(shí)間至關(guān)重要,因此把“智能”從云端分配到邊緣,就顯得合情合理。
得益于已經(jīng)面世的各種解決方案——從云端與基礎(chǔ)設(shè)施都在使用都Arm Neoverse平臺(tái)和AI加速技術(shù),到專門(mén)迎合各種端點(diǎn)需求的、具備AI能力的Arm CPU、NPU和GPU——Arm與其合作伙伴在讓AI賦能互聯(lián)網(wǎng)各個(gè)層級(jí)應(yīng)用方面具有先天優(yōu)勢(shì)。但Arm認(rèn)為這還不夠。Arm最近宣布將把bfloat16數(shù)據(jù)格式加入下一個(gè)版本的Armv8-A架構(gòu)中,這將大幅提升基于Arm架構(gòu)的CPU的訓(xùn)練與推理性能。Arm已經(jīng)確認(rèn)將對(duì)bfloat16的支持加入計(jì)劃將于明年推出的Neoverse "Zeus"(宙斯)平臺(tái)。
在邊緣擴(kuò)展計(jì)算
隨著對(duì)決策的要求朝邊緣移動(dòng),AI將扮演雙重角色。除了依據(jù)數(shù)據(jù)本身包含的信息作出及時(shí)決定之外,當(dāng)大量的數(shù)據(jù)需要被導(dǎo)引至正確的位置時(shí),AI需要在從流量管理到封包檢驗(yàn)等方面都發(fā)揮作用。這是一個(gè)訓(xùn)練與推論兼顧的問(wèn)題,而傳統(tǒng)的計(jì)算系統(tǒng)無(wú)法與之相適應(yīng)。過(guò)去,互聯(lián)網(wǎng)邊緣傳統(tǒng)上只是一個(gè)網(wǎng)橋,現(xiàn)在正快速變成智能計(jì)算平臺(tái),并最終將促成我們稱之為AI Edge的浮現(xiàn),并在2025年形成一個(gè)高達(dá)300億美元的計(jì)算芯片潛在市場(chǎng)規(guī)模(TAM)。
在邊緣執(zhí)行AI有幾個(gè)好處:它可顯著減少到云端的回程,降低延遲,并提升可靠性、效率與安全性。有鑒于當(dāng)今來(lái)自全球設(shè)備部署的洞見(jiàn)來(lái)得極快,模型必須需要實(shí)時(shí)進(jìn)化,這點(diǎn)已經(jīng)顯現(xiàn)出至關(guān)重要性。
賦能AI邊緣:推出Project Cassini
利用AI邊緣的應(yīng)用程序的成功部署,關(guān)鍵在于提供能夠覆蓋各種功耗與性能需求的多元解決方案。單一廠商的解決方案,并無(wú)法滿足所有需求。除了變成以AI為中心,AI邊緣必須是云端原生的、虛擬化(VM或containers)的,同時(shí)支持多用戶。最重要的是,它必須是安全無(wú)虞。
目前構(gòu)成基礎(chǔ)架構(gòu)邊緣的解決方案來(lái)自一個(gè)極度多元化的生態(tài)系統(tǒng),而這個(gè)生態(tài)系統(tǒng)也在迅速變革,以滿足這些新產(chǎn)生的需求。為了協(xié)助大家面對(duì)這一AI邊緣的變革,Arm宣布推出Project Cassini:這是一個(gè)專注于在多元與安全的邊緣生態(tài)系統(tǒng)內(nèi),確保云端原生體驗(yàn)的業(yè)界提案。
通過(guò)與Arm生態(tài)合作伙伴的協(xié)同努力,Project Cassini將專注于基礎(chǔ)設(shè)施邊緣,開(kāi)發(fā)平臺(tái)標(biāo)準(zhǔn)與參考系統(tǒng),并以它們?yōu)榛A(chǔ),在目前已延展到基礎(chǔ)設(shè)施邊緣的標(biāo)準(zhǔn)化平臺(tái)安全架構(gòu)(PSA)框架內(nèi),無(wú)縫部署云端原生的軟件堆棧。值得一提的是, Arm與其生態(tài)系統(tǒng)合作伙伴針對(duì)安全性做出了大量努力。兩年前Arm推出PSA,讓企業(yè)得以依據(jù)一套通用的需求設(shè)計(jì)安全功能,以降低打造產(chǎn)品級(jí)IoT安全性相關(guān)的成本、時(shí)間與風(fēng)險(xiǎn)。今天,Project Cassini將PSA延展至基礎(chǔ)設(shè)施邊緣,可謂更上層樓,目標(biāo)是讓所有最基本的安全需求標(biāo)準(zhǔn)化。 持續(xù)演進(jìn)的挑戰(zhàn)
Arm預(yù)計(jì),到2035年全球?qū)⒂幸蝗f(wàn)億個(gè)IoT設(shè)備,這將帶來(lái)全新規(guī)模的基礎(chǔ)設(shè)施與架構(gòu)上的挑戰(zhàn),技術(shù)也需要與時(shí)俱進(jìn)才足以應(yīng)對(duì)。在邊緣計(jì)算方面,這意味著Arm將持續(xù)大量投資硬件、軟件與工具的開(kāi)發(fā),以便為基礎(chǔ)設(shè)施堆棧的每一個(gè)點(diǎn)都賦予智能決策能力。另一方面,這也意味著在處理器層級(jí),以及從云端到邊緣到終端設(shè)備的整個(gè)網(wǎng)絡(luò)內(nèi),都將廣泛使用異構(gòu)計(jì)算。
評(píng)論