一文看懂英特爾2018視覺(jué)解決方案及策略，OpenVINO是關(guān)鍵

五月份時(shí)，英特爾宣布推出OpenVINO工具包，它主要應(yīng)用于將計(jì)算機(jī)圖形和深度學(xué)習(xí)技術(shù)整合到前沿的視覺(jué)應(yīng)用中。OpenVINO全稱為開(kāi)放式視覺(jué)推理和神經(jīng)網(wǎng)絡(luò)優(yōu)化（Open Visual Inference & Neural Network Optimization），其前身是英特爾計(jì)算機(jī)視覺(jué)SDK（Computer Vision SDK），通過(guò)工具包中集成的三個(gè)全新API：深度學(xué)習(xí)部署工具包、通用的深度學(xué)習(xí)推理工具包以及OpenCV和OpenVX的優(yōu)化功能，支持TensorFlowMXNet和Caffe框架。顧名思義，OpenVINO的推出，標(biāo)志著英特爾將計(jì)算機(jī)視覺(jué)與AI完美融合，并且是全開(kāi)放式的融合。

日前，英特爾舉辦以“智能端到端,英特爾變革物聯(lián)網(wǎng)”為主題的視覺(jué)解決方案及策略發(fā)布會(huì),正式宣布推出OpenVINO。發(fā)布會(huì)邀請(qǐng)到英特爾物聯(lián)網(wǎng)事業(yè)部中國(guó)區(qū)總經(jīng)理陳偉博士，英特爾中國(guó)區(qū)物聯(lián)網(wǎng)事業(yè)部首席技術(shù)官兼首席工程師張宇博士，英特爾中國(guó)銷售總經(jīng)理王稚聰以及相關(guān)合作伙伴，就OpenVINO如何幫助結(jié)合人工智能與機(jī)器視覺(jué)的物聯(lián)網(wǎng)應(yīng)用快速落地進(jìn)行了一系列介紹與討論。

英特爾中國(guó)區(qū)物聯(lián)網(wǎng)事業(yè)部首席技術(shù)官兼首席工程師張宇博士表示，英特爾CV SDK只做編解碼加速，通過(guò)引入Movidius SDK，OpenVINO可以做一個(gè)完整的視頻處理系統(tǒng)，從編解碼到深度學(xué)習(xí)或者是計(jì)算機(jī)視覺(jué)處理等，讓開(kāi)發(fā)者只用一個(gè)工具把所有的需求都能滿足所有需求。

此前，英特爾為布局AI花費(fèi)了大量的人力物力，從平臺(tái)，到框架再到庫(kù)和硬件，英特爾實(shí)現(xiàn)了人工智能全棧式解決方案。

此次發(fā)布的OpenVINO，是英特爾針對(duì)視覺(jué)AI領(lǐng)域的一次重要革命。

為什么是視覺(jué)技術(shù)？

在智能端到端的物聯(lián)網(wǎng)領(lǐng)域，英特爾要通過(guò)視覺(jué)發(fā)起這場(chǎng)AI革命。

英特爾副總裁兼物聯(lián)網(wǎng)事業(yè)部中國(guó)區(qū)總經(jīng)理陳偉博士表示，選擇專注于視覺(jué)戰(zhàn)略，首先是視覺(jué)處理市場(chǎng)不斷蓬勃發(fā)展的數(shù)據(jù)擠壓到了存儲(chǔ)和寬帶的要求，因此在邊緣計(jì)算端有極大的需求，英特爾很早以前就看到了這個(gè)態(tài)勢(shì)，因此一直致力于云端和邊緣端兩方向同時(shí)發(fā)展，實(shí)現(xiàn)邊云協(xié)和的分布式架構(gòu)。

第二個(gè)原因則是由于計(jì)算分析能力和存儲(chǔ)能力所限，目前數(shù)據(jù)有大部分被浪費(fèi)掉了，并沒(méi)有進(jìn)行深度挖掘，所以邊緣計(jì)算對(duì)于未來(lái)的數(shù)據(jù)分析至關(guān)重要。

第三，則是深度學(xué)習(xí)市場(chǎng)被充分打開(kāi)，陳偉引用了一組數(shù)據(jù)表示，2016年深度學(xué)習(xí)市場(chǎng)收入為6.55億美元，預(yù)計(jì)到2025年將增長(zhǎng)至350億美元。

陳偉博士，英特爾副總裁兼物聯(lián)網(wǎng)事業(yè)部中國(guó)區(qū)總經(jīng)理

那么我們到底需要什么樣的邊緣計(jì)算呢？陳偉表示，實(shí)時(shí)性、低成本、強(qiáng)大的分析和預(yù)測(cè)能力以及精準(zhǔn)、安全保密的邊緣計(jì)算是業(yè)界所達(dá)成的共識(shí)。

“眼見(jiàn)為實(shí)，視頻的數(shù)據(jù)量是最大的，同時(shí)也是最復(fù)雜的，人一輩子幾十年就是人工智能最好的解說(shuō)，人們通過(guò)觀察來(lái)訓(xùn)練大腦、同理，現(xiàn)在的邊緣計(jì)算機(jī)也可以用視頻區(qū)模仿人的能力。在英特爾物聯(lián)網(wǎng)事業(yè)部，我們把視頻技術(shù)當(dāng)成是一個(gè)橫向的技術(shù)，是英特爾的一個(gè)主要戰(zhàn)略?！标悅フf(shuō)道。

不過(guò)陳偉同時(shí)強(qiáng)調(diào)，邊緣計(jì)算與人工智能的結(jié)合并不是一件容易的事。一個(gè)是數(shù)據(jù)量巨大，一個(gè)是碎片化的市場(chǎng)，只有技術(shù)平臺(tái)化才能解決這一系列問(wèn)題。英特爾幾年間在硬件上持續(xù)努力布局，隨著現(xiàn)在OpenVINO工具套件的發(fā)布，標(biāo)志著英特爾的視覺(jué)處理市場(chǎng)生態(tài)鏈有了最強(qiáng)大的軟件平臺(tái)支撐。

陳偉表示，OpenVINO近幾個(gè)月和中國(guó)市場(chǎng)的合作伙伴進(jìn)行了緊密的合作、開(kāi)發(fā)與優(yōu)化，此次的首發(fā)也只是起點(diǎn)，未來(lái)還將對(duì)不同硬件進(jìn)行優(yōu)化和整合，包括模型和插件的完善、充實(shí)與優(yōu)化等工作。

正如陳偉所說(shuō)，工欲善其事、必先利其器，搭配英特爾廣泛的處理器和OpenVINO開(kāi)發(fā)工具，就是AI視覺(jué)市場(chǎng)的器。

OpenVINO的特點(diǎn)及意義

英特爾中國(guó)區(qū)物聯(lián)網(wǎng)事業(yè)部首席技術(shù)官兼首席工程師張宇博士詳細(xì)介紹了OpenVINO的特點(diǎn)。

英特爾中國(guó)區(qū)物聯(lián)網(wǎng)事業(yè)部首席技術(shù)官兼首席工程師張宇博士

張宇表示，目前在系統(tǒng)端到端的網(wǎng)元中，所能提供的計(jì)算量是不一樣的，它能夠支撐的操作系統(tǒng)也各不相同的，因此有各自不同的芯片架構(gòu)。比如在攝像機(jī)里，一個(gè)攝像機(jī)的功耗大概15瓦，從15瓦里能夠提供給做智能運(yùn)算的能量有2-3瓦，對(duì)于這樣的使用場(chǎng)景，類似于ASIC這樣的架構(gòu)是最適宜的。但到了數(shù)據(jù)中心側(cè)，由于需要一定的靈活度，因此通用處理器更適合?！安煌W(wǎng)元有不同適宜的架構(gòu)，不同芯片有各自不同的開(kāi)發(fā)方法和環(huán)境，這樣對(duì)開(kāi)發(fā)者而言就帶來(lái)一定的困擾，無(wú)形中增加了開(kāi)發(fā)的門(mén)檻?！睆堄钫f(shuō)道。

張宇舉例了幾個(gè)目前人工智能開(kāi)發(fā)時(shí)的共識(shí)問(wèn)題，其表示：“作為開(kāi)發(fā)者，已經(jīng)有了經(jīng)過(guò)訓(xùn)練的網(wǎng)絡(luò)模型，但是由于推理平臺(tái)能力有限，只能把網(wǎng)絡(luò)模型的一部分放到推理平臺(tái)之上，又或者想要提升終端性能但不知道該如何選型，以及目前使用的人工智能框架不被英特爾的產(chǎn)品支持，無(wú)法導(dǎo)入到Movidius或者FPGA平臺(tái)?！?/p>

而OpenVINO正是為解決如上問(wèn)題所推出的，他是一個(gè)高性能計(jì)算機(jī)視覺(jué)和深度學(xué)習(xí)視覺(jué)應(yīng)用開(kāi)發(fā)的工具套件，能夠支持英特爾平臺(tái)的各種加速器，包括CPU、GPU、FPGA以及Movidius的VPU等，支持異構(gòu)計(jì)算，目標(biāo)人群是軟件開(kāi)發(fā)人員以及開(kāi)發(fā)、監(jiān)控、零售、醫(yī)療、辦公自動(dòng)化以及自動(dòng)駕駛等領(lǐng)域的數(shù)據(jù)科學(xué)家。

OpenVINO工具包組成

張宇表示，目前在計(jì)算機(jī)視覺(jué)處理領(lǐng)域，有兩類方法，一類是深度學(xué)習(xí)，一類是傳統(tǒng)計(jì)算機(jī)視覺(jué)，在物體檢測(cè)、目標(biāo)識(shí)別等方面深度學(xué)習(xí)已經(jīng)開(kāi)始嶄露優(yōu)勢(shì)，替代傳統(tǒng)的計(jì)算機(jī)視覺(jué)，然而在其他視覺(jué)領(lǐng)域，包括光流計(jì)算或圖像增強(qiáng)等依然是傳統(tǒng)的計(jì)算機(jī)視覺(jué)處理方法更有優(yōu)勢(shì)。所以，OpenVINO支持這兩種實(shí)現(xiàn)方式。

OpenVINO的深度學(xué)習(xí)部署工具套件，可以幫助開(kāi)發(fā)者把已經(jīng)訓(xùn)練好的網(wǎng)絡(luò)模型部署到目標(biāo)平臺(tái)之上進(jìn)行推理操作。

目前深度學(xué)習(xí)部署工具套件主要包括兩個(gè)網(wǎng)元，一個(gè)網(wǎng)元是模型優(yōu)化器，另外一個(gè)是推理引擎。其工作原理是通過(guò)模型優(yōu)化器把開(kāi)發(fā)者經(jīng)過(guò)深度學(xué)習(xí)框架所開(kāi)發(fā)的網(wǎng)絡(luò)模型，針對(duì)選用的目標(biāo)平臺(tái)進(jìn)行優(yōu)化，優(yōu)化結(jié)果轉(zhuǎn)換成中間表示文件，建成IR文件。IR文件中包含優(yōu)化以后的網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)，以及優(yōu)化之后的模型參數(shù)和模型變量。

模型優(yōu)化器是由Python語(yǔ)言編寫(xiě)的，不僅僅能夠?qū)崿F(xiàn)Caffe、Tensor Flow、MxNet上框架之上的模型導(dǎo)入，還可以根據(jù)模型進(jìn)行優(yōu)化。尤其是在通用處理器上做的訓(xùn)練結(jié)果，如果部署到資源受限的嵌入式推理平臺(tái)之上，必須進(jìn)行相應(yīng)的優(yōu)化。

張宇舉例到，在做訓(xùn)練的時(shí)候，有可能會(huì)存在一個(gè)Dropout層，主要的作用是在訓(xùn)練的過(guò)程中，把一定比例的神經(jīng)元失效，這樣可避免在訓(xùn)練過(guò)程中模型參數(shù)陷入一個(gè)局部的極小值，而達(dá)不到一個(gè)最優(yōu)的效果，但在做推理時(shí)，所有神經(jīng)元都要參與計(jì)算，所以Dropout層是沒(méi)有必要的，因此OpenVINO可以自動(dòng)發(fā)現(xiàn)Dropout層并將其剔除。另外，對(duì)于一些激活函數(shù)的優(yōu)化，包括神經(jīng)網(wǎng)絡(luò)模型中的卷積層，全鄰接層，激活函數(shù)層等，都可以交由模型優(yōu)化其進(jìn)行優(yōu)化。目前模型優(yōu)化器已經(jīng)驗(yàn)證了超過(guò)150個(gè)在Caffe、MxNet和Tensor Flow上所設(shè)計(jì)的模型。

優(yōu)化之后，推理引擎會(huì)讀取IR文件，之后會(huì)根據(jù)選用的目標(biāo)平臺(tái)選擇相應(yīng)的硬件插件將IR文件下載到目標(biāo)平臺(tái)上進(jìn)行執(zhí)行，目前OpenVINO的插件包括CPU插件，GPU插件，F(xiàn)PGA插件以及Myriad VPU插件，在驗(yàn)證完畢之后就可以把推理引擎和中間表述文件一起下載到或集成到最終應(yīng)用里進(jìn)行部署。

推理引擎實(shí)際上是一套C++函數(shù)庫(kù)以及C++的類，從而實(shí)現(xiàn)對(duì)輸入數(shù)據(jù)的處理，并得到最終的結(jié)果。推理引擎是經(jīng)過(guò)統(tǒng)一的API接口，支持所有英特爾處理器架構(gòu)，實(shí)現(xiàn)深度學(xué)習(xí)推理所需要的操作。這些操作包括對(duì)數(shù)據(jù)的讀取，對(duì)輸入輸出數(shù)據(jù)格式的定義以及調(diào)用相應(yīng)的硬件的插件。

OpenVINO優(yōu)化部署過(guò)程

利用OpenVINO之后，可以看出FPS幀數(shù)性能得到顯著提升

在OpenVINO里，還包含一個(gè)傳統(tǒng)的計(jì)算機(jī)視覺(jué)工具庫(kù)，其中包含了經(jīng)過(guò)預(yù)編譯的，而且在英特爾CPU上已經(jīng)經(jīng)過(guò)優(yōu)化的OpenCV 3.3版本。張宇提到了一個(gè)小插曲，作為計(jì)算機(jī)視覺(jué)領(lǐng)域應(yīng)用廣泛的OpenCV，全稱為Intel Open Source Computer Vision Library，于1999年由Gary Bradsky在英特爾位于俄羅斯的研究實(shí)驗(yàn)室開(kāi)發(fā)，它是一套可免費(fèi)獲得的由一些C函數(shù)和C＋＋類所組成的庫(kù)，第一個(gè)版本于2000年問(wèn)世。隨后Vadim Pisarevsky加入了Gary Bradsky，主要負(fù)責(zé)管理英特爾的俄羅斯軟件OpenCV團(tuán)隊(duì)。2005年，OpenCV被用于Stanley車(chē)型，并贏得2005年DARPA大挑戰(zhàn)。后來(lái)，它在Willow Garage的支持下持續(xù)并積極發(fā)展，轉(zhuǎn)為由Gary Bradsky和Vadim Pisarevsky領(lǐng)導(dǎo)該項(xiàng)目。2016年，英特爾收購(gòu)機(jī)器視覺(jué)初創(chuàng)公司Itseez，擴(kuò)充了OpenCV領(lǐng)域的人才。

除了OpenCV，在OpenVINO?還包含了對(duì)OpenVX以及OpenVX在神經(jīng)網(wǎng)絡(luò)擴(kuò)展的支持，同時(shí)在媒體、視頻、圖像處理領(lǐng)域也包含了英特爾媒體軟件開(kāi)發(fā)套件，可以幫助開(kāi)發(fā)者方便的利用英特爾CPU里面的集成顯卡資源來(lái)實(shí)現(xiàn)視頻的編碼、解碼以及轉(zhuǎn)碼的操作。

OpenVINO支持包括Windows 10，Ubuntu以及CentOS在內(nèi)的多種操作系統(tǒng)。

OpenVINO支持開(kāi)發(fā)環(huán)境一覽

張宇強(qiáng)調(diào)道，OpenVINO是分層開(kāi)發(fā)的，不同開(kāi)發(fā)者可根據(jù)自己需求和開(kāi)發(fā)能力選擇不同的API接口進(jìn)行調(diào)用OpenVINO。顧典，英特爾技術(shù)專家表示表示，OpenVINO中包含Open Model Zoo，這不是一個(gè)簡(jiǎn)單的網(wǎng)絡(luò)參考，而是基于網(wǎng)絡(luò)的組合和融合，把具體的客戶的應(yīng)用實(shí)例開(kāi)發(fā)出來(lái)，當(dāng)然這個(gè)開(kāi)發(fā)實(shí)例不是完整完善的應(yīng)用，這只是一個(gè)參考，但客戶完全可以基于Open Model Zoo現(xiàn)成的應(yīng)用樣本進(jìn)一步的做好開(kāi)發(fā)。

對(duì)此，張宇總結(jié)道，對(duì)于新手來(lái)說(shuō)，OpenVINO包含了很多應(yīng)用示例，即便不了解算法和硬件底層實(shí)現(xiàn)，也可以直接調(diào)用相關(guān)參考從而實(shí)現(xiàn)應(yīng)用。而對(duì)于一些特定應(yīng)用場(chǎng)景來(lái)說(shuō)，如果有了一些特定應(yīng)用算法但沒(méi)有開(kāi)發(fā)人工智能網(wǎng)絡(luò)的能力，也可以使用OpenVINO把特定的開(kāi)放網(wǎng)絡(luò)、標(biāo)準(zhǔn)網(wǎng)絡(luò)執(zhí)行在英特爾硬件上從而實(shí)現(xiàn)快速開(kāi)發(fā)。而對(duì)于高級(jí)用戶，可以在Caffe 、Tensor Flow、MxNet等框架下設(shè)計(jì)好自己的網(wǎng)絡(luò)模型，然后用OpenVINO的模型優(yōu)化器和推理引擎轉(zhuǎn)換成硬件可識(shí)別語(yǔ)言，再下載到平臺(tái)上進(jìn)行執(zhí)行。如果是超級(jí)用戶，OpenVINO也支持直接調(diào)用硬件底層的接口實(shí)現(xiàn)對(duì)硬件直接的訪問(wèn)。

OpenVINO適合各類層級(jí)的開(kāi)發(fā)者使用

英特爾技術(shù)專家顧典表示，此次OpenVINO SDK和以往發(fā)布有一個(gè)細(xì)節(jié)不一樣，就是更新非常快，今年下半年OpenVINO預(yù)計(jì)有兩次重大更新，這也是為了迎合人工智能和深度學(xué)習(xí)市場(chǎng)快速發(fā)展的態(tài)勢(shì)。

OpenVINO工具套件優(yōu)勢(shì)總結(jié)，包括提高性能、整合深度學(xué)習(xí)、加速開(kāi)發(fā)和支持創(chuàng)新與定制

在視覺(jué)處理市場(chǎng)，英特爾要專注哪些領(lǐng)域？

英特爾中國(guó)銷售總經(jīng)理王稚聰表示，英特爾計(jì)算機(jī)視覺(jué)解決方案主要面向六大應(yīng)用場(chǎng)景：

交通監(jiān)控。采用英特爾FPGA和Movidius VPU的攝像頭可捕捉數(shù)據(jù)，并自動(dòng)將其發(fā)送至下游十字路口系統(tǒng)，幫助交通部門(mén)優(yōu)化交通和做好規(guī)劃。這些信息可通過(guò)車(chē)載系統(tǒng)或應(yīng)用直接傳達(dá)給司機(jī)，幫助他們規(guī)劃路線。

公共安全。借助使用OpenVINO工具包開(kāi)發(fā)的Myriad VPU和算法，經(jīng)過(guò)訓(xùn)練的深度神經(jīng)網(wǎng)絡(luò)現(xiàn)在可利用推理功能通用面部識(shí)別分析并識(shí)別失蹤兒童。采用了這一技術(shù)的城市執(zhí)法機(jī)構(gòu)可在經(jīng)過(guò)訓(xùn)練的數(shù)據(jù)集匹配到人群中已報(bào)告失蹤兒童的臉部時(shí)，即時(shí)收到相關(guān)通知。

工業(yè)自動(dòng)化。英特爾視覺(jué)解決方案可幫助智能工廠融合OT和IT，重塑工業(yè)業(yè)務(wù)模式和增長(zhǎng)戰(zhàn)略。生產(chǎn)控制將可自動(dòng)、流暢運(yùn)轉(zhuǎn)，縮短上市時(shí)間。

機(jī)器視覺(jué)。借助人工智能增強(qiáng)工業(yè)機(jī)器視覺(jué)，支持更精準(zhǔn)的工廠自動(dòng)化應(yīng)用。解決方案組合攝像頭、電腦和算法，以分析圖像和視頻，在邊緣提供可以用于指導(dǎo)行動(dòng)的重要信息。

響應(yīng)式零售。在邊緣使用英特爾計(jì)算機(jī)視覺(jué)解決方案的零售商，可以快速識(shí)別特定客戶或客戶行為模式，從而提供個(gè)性化的精準(zhǔn)營(yíng)銷服務(wù)。

運(yùn)營(yíng)管理。通過(guò)使用基于英特爾架構(gòu)的計(jì)算機(jī)視覺(jué)解決方案，零售商可簡(jiǎn)化運(yùn)營(yíng)、管理庫(kù)存、優(yōu)化供應(yīng)鏈和增強(qiáng)推銷能力，并幫助他們發(fā)掘數(shù)據(jù)的更高價(jià)值。

英特爾中國(guó)銷售總經(jīng)理王稚聰

合作伙伴是怎么說(shuō)的？

為了證明在視覺(jué)處理市場(chǎng)的決心，英特爾特別邀請(qǐng)眾合作伙伴為其證言，誓將視覺(jué)處理市場(chǎng)的生態(tài)系統(tǒng)打造成另外一個(gè)計(jì)算機(jī)市場(chǎng)的蓬勃發(fā)展的生態(tài)產(chǎn)業(yè)鏈。

對(duì)于合作伙伴來(lái)說(shuō)，是否認(rèn)可英特爾的OpenVINO和AI視覺(jué)市場(chǎng)策略呢？英特爾合作多年的老朋友們是這么說(shuō)的。

云從科技項(xiàng)目總監(jiān)李軍表示，公司2017年開(kāi)始進(jìn)入機(jī)場(chǎng)項(xiàng)目時(shí)，制定了一個(gè)策略就是三個(gè)月之內(nèi)將業(yè)務(wù)全面推廣，在這么一個(gè)緊急的時(shí)間關(guān)口中，并沒(méi)有太多選擇，所以云從科技選擇了英特爾的平臺(tái)。事實(shí)證明這個(gè)選擇對(duì)業(yè)務(wù)的推進(jìn)幫助很大。“英特爾X86架構(gòu)中的并行計(jì)算模塊，以及OpenVINO中的核心模塊幫助我們?cè)谌斯ぶ悄芤约捌渌袠I(yè)的廣泛應(yīng)用打下了基礎(chǔ)，讓我們可以更快速的進(jìn)行開(kāi)發(fā)。目前我們的這款產(chǎn)品能夠在幾十家行業(yè)客戶，以及幾百個(gè)行業(yè)網(wǎng)點(diǎn)中做推廣，也是有賴于英特爾成熟的生態(tài)體系。如果想用一款產(chǎn)品同時(shí)支持幾十家不同客戶需求時(shí)，無(wú)論是算法還是應(yīng)用都變得異常復(fù)雜，只有選擇合適的平臺(tái)才可以得心應(yīng)手。”

浙江大華技術(shù)股份有限公司研發(fā)中心副總裁殷俊說(shuō)道，2011年大華和英特爾聯(lián)合發(fā)布首款NVR，把大量的數(shù)據(jù)存儲(chǔ)在VMS上，實(shí)現(xiàn)了百路接入，一臺(tái)機(jī)器就可以解決一百路以上的存儲(chǔ)。當(dāng)人工智能在安防行業(yè)及其他視覺(jué)處理市場(chǎng)的突飛猛進(jìn)，這個(gè)時(shí)候Movidius出現(xiàn)，大華便采用Movidius做了一款工業(yè)相機(jī)，用于產(chǎn)線缺線檢測(cè)及物品的識(shí)別和分類等應(yīng)用。后來(lái)，Movidius又進(jìn)入安防領(lǐng)域，做了人臉相機(jī)、事件檢測(cè)分析及行為分析等應(yīng)用，進(jìn)一步的則是拿熱成像將紅外傳感器數(shù)據(jù)接入Movidius，實(shí)現(xiàn)了測(cè)溫、森林防火、邊境線檢查、環(huán)保、視頻會(huì)議等豐富多彩的新興業(yè)務(wù)拓展。

2017年，英特爾收購(gòu)了Altera之后，作為Altera多年合作伙伴的大華，繼續(xù)和英特爾保持良好的合作關(guān)系，在FPGA平臺(tái)上開(kāi)發(fā)NVR，實(shí)現(xiàn)人臉識(shí)別等應(yīng)用。而今年，Myriad X的發(fā)布，又讓大華和英特爾產(chǎn)生了新的碰撞。

“我們從NVR、云上、中心側(cè)都采用了英特爾的產(chǎn)品，但是我們始終發(fā)現(xiàn)開(kāi)發(fā)工作量巨大，Movidius開(kāi)發(fā)工具、英特爾開(kāi)發(fā)工具、GPU開(kāi)發(fā)工具以及FPGA的開(kāi)發(fā)工具沒(méi)法統(tǒng)一。我們和英特爾一直在探討一個(gè)問(wèn)題，那就是未來(lái)軟件將是重要環(huán)節(jié)，甚至將超越硬件。因?yàn)樾酒皇墙鉀Q了計(jì)算能力和性能，但軟件決定了它的好用和易用性。OpenVINO工具將幫助我們未來(lái)在產(chǎn)品化和跨平臺(tái)開(kāi)發(fā)上的統(tǒng)一，加快廠商解決方案的部署。通過(guò)我們的實(shí)裝體驗(yàn)，OpenVINO不只是簡(jiǎn)單的編譯工具，更是行業(yè)優(yōu)秀的生態(tài)工具。”殷俊說(shuō)道，“未來(lái)大華的定位是智慧物聯(lián)廠商，因此我們將繼續(xù)重點(diǎn)投入以視頻為核心的業(yè)務(wù)，利用人工智能處理大批量數(shù)據(jù)，賦能行業(yè)，賦能客戶。”

宇視研發(fā)副總裁AI產(chǎn)品線總監(jiān)湯立波表示，作為年輕的宇視科技來(lái)說(shuō)，能夠得到英特爾對(duì)合作伙伴的戰(zhàn)略支持非常重要。宇視科技能夠在短時(shí)間內(nèi)成長(zhǎng)為全球安防行業(yè)的第六名，這和英特爾是分不開(kāi)的。公司成立伊始就與英特爾建立良好的戰(zhàn)略合作伙伴關(guān)系，所有的云端設(shè)備包括大數(shù)據(jù)服務(wù)器、應(yīng)用服務(wù)器、存儲(chǔ)服務(wù)器等，全部采用了英特爾的CPU。而進(jìn)入人工智能時(shí)代之后，憑借英特爾在人工智能時(shí)代的布局，為宇視科技等公司提供了一系列硬件平臺(tái)以及CVSDK和OpenVINO這類工具包，讓公司可以更高效、更快速來(lái)開(kāi)發(fā)人臉識(shí)別、物體識(shí)別、車(chē)輛識(shí)別等方案，將各種算法落地到端到端的產(chǎn)品中去。

目前，宇視科技基于英特爾的硬件平臺(tái)及開(kāi)發(fā)工具，實(shí)現(xiàn)了接入端到邊緣計(jì)算端以及云端的全布局。

“兩三年前，宇視科技剛剛把產(chǎn)品賣(mài)到海外時(shí)，因?yàn)樾酒筒僮飨到y(tǒng)之間時(shí)區(qū)不匹配的問(wèn)題，服務(wù)器產(chǎn)生了大量的問(wèn)題，但英特爾專門(mén)派團(tuán)隊(duì)協(xié)助我們快速解決問(wèn)題。也正是因?yàn)橛⑻貭柦o了我們的幫助，可以讓我們快速成長(zhǎng)起來(lái)?！睖⒉ū硎?。

湯立波認(rèn)為，目前圖像處理是一個(gè)多算法融合的場(chǎng)景，因此需要不同的硬件平臺(tái)，但對(duì)于小公司來(lái)說(shuō)，很難一站式滿足所有的平臺(tái)需求。此外，對(duì)于產(chǎn)業(yè)界來(lái)說(shuō)，需要的是成熟且供貨穩(wěn)定的產(chǎn)品，這需要對(duì)芯片具有豐富產(chǎn)業(yè)經(jīng)驗(yàn)的企業(yè)?！罢麄€(gè)產(chǎn)品開(kāi)發(fā)過(guò)程中，困難的地方不是開(kāi)發(fā)，而是如何解決問(wèn)題，所以只有一個(gè)非常有經(jīng)驗(yàn)的企業(yè)才能夠做出來(lái)一款穩(wěn)定、能夠快速解決問(wèn)題的用于產(chǎn)品化的芯片。”

而對(duì)于OpenVINO的價(jià)值，湯立波表示：“坦誠(chéng)來(lái)說(shuō)，OpenVINO具有一定的學(xué)習(xí)成本，需要先期投入，但從產(chǎn)出來(lái)看，OpenVINO有幾個(gè)非常重要的價(jià)值。首先是節(jié)約了大量的開(kāi)發(fā)成本，避免在不同硬件平臺(tái)上浪費(fèi)大量重復(fù)性開(kāi)發(fā)工作。第二則是切實(shí)加速產(chǎn)品化過(guò)程。圍繞在英特爾周?chē)?，有很多視覺(jué)行業(yè)相關(guān)公司，但并不是所有公司都擅長(zhǎng)工具開(kāi)發(fā)，絕大部分還是以人工智能視覺(jué)處理為核心的算法、應(yīng)用軟件、硬件產(chǎn)品形態(tài)和解決方案等，所以O(shè)penVINO的推出，可以讓生態(tài)圈里的廠商獲得更好的回報(bào)與更多的應(yīng)用落地。比如宇視科技，技術(shù)競(jìng)爭(zhēng)力在基于英特爾芯片的分布式計(jì)算和集群調(diào)度之類，而在商業(yè)競(jìng)爭(zhēng)力上則是善于做精準(zhǔn)打擊。在人工智能領(lǐng)域，我們會(huì)專門(mén)面向某個(gè)場(chǎng)景做精準(zhǔn)打擊，會(huì)基于OpenVINO來(lái)做算法的訓(xùn)練，當(dāng)訓(xùn)練到極致時(shí)、產(chǎn)品性能達(dá)到極致、產(chǎn)品形態(tài)達(dá)到極致時(shí)，競(jìng)爭(zhēng)力自然形成了。”

科達(dá)研究院執(zhí)行院長(zhǎng)曹李軍說(shuō)道，十年前科達(dá)研究院就和英特爾展開(kāi)了合作，2012年采用傳統(tǒng)的機(jī)器視覺(jué)算法，推出了一系列智能產(chǎn)品，到2017年上半年，所有產(chǎn)品都切換到了深度學(xué)習(xí)平臺(tái)上。

目前科達(dá)開(kāi)發(fā)出基于第六代酷睿的智能NVR產(chǎn)品，除了具有現(xiàn)有NVR所有功能之外，還增加了人臉比對(duì)庫(kù)、車(chē)牌庫(kù)，用戶可以根據(jù)需要來(lái)設(shè)定預(yù)警和報(bào)警規(guī)則，包括人臉黑白名單，以圖搜圖，人員檢索，車(chē)牌的黑白功能、屬性檢索等，這些都離不開(kāi)英特爾的CPU加OpenVINO的技術(shù)?！吧疃葘W(xué)習(xí)網(wǎng)絡(luò)模型是以大規(guī)模數(shù)據(jù)經(jīng)過(guò)千萬(wàn)次的迭代而形成的結(jié)果，轉(zhuǎn)換過(guò)程對(duì)于我們來(lái)說(shuō)是黑盒，如果要進(jìn)行模型優(yōu)化確實(shí)需要對(duì)算法進(jìn)行更深入的了解。OpenVINO可以幫我們把整個(gè)推理和計(jì)算過(guò)程可視化，為模型優(yōu)化和多模型的推理提供了很大的幫助。特別是讓我們知其然，也知所以然?！?/p>

中科英泰副總裁劉福利表示，公司從CVSDK起就開(kāi)始使用，目前已經(jīng)開(kāi)發(fā)了三款產(chǎn)品，包括無(wú)人便利店的人臉識(shí)別和商品識(shí)別，智能掃描結(jié)賬功能，消費(fèi)者行為分析等產(chǎn)品?！靶铝闶垭x不開(kāi)三大場(chǎng)景，包括對(duì)人識(shí)別的智慧化，商品的智能化識(shí)別以及通過(guò)對(duì)人、對(duì)物的智能化識(shí)別基礎(chǔ)上，創(chuàng)新出的消費(fèi)場(chǎng)景，而這些都離不開(kāi)創(chuàng)新的技術(shù)支持。英特爾逐漸從芯片公司走向了多元化、智能化、軟件解決方案發(fā)展多元的公司，也讓我們可以在新零售行業(yè)中不斷地創(chuàng)新出更多的智慧化的產(chǎn)品?！?/p>

大疆創(chuàng)新科技資深產(chǎn)品專家William Wu表示，大疆為了滿足行業(yè)應(yīng)用客戶的豐富需求，使用了英特爾CPU開(kāi)發(fā)了一款無(wú)人機(jī)的機(jī)載航空電腦，使用這款機(jī)載航空電腦，就可以結(jié)合大疆的SDK在無(wú)人機(jī)上實(shí)時(shí)在線的進(jìn)行運(yùn)算、處理、采集、分析和控制的任務(wù)?！霸跓o(wú)人機(jī)領(lǐng)域，串行計(jì)算和并行計(jì)算是共存的，我們很難找到一家可以同時(shí)提供這兩者的供應(yīng)商，英特爾平臺(tái)給我們提供了強(qiáng)大的創(chuàng)新計(jì)算能力，使得在無(wú)人機(jī)上在線進(jìn)行行業(yè)定制化自主飛行場(chǎng)景成為了可能。OpenVINO工具則能夠使無(wú)人機(jī)機(jī)載航空電腦上更好的發(fā)揮出CPU核顯的并行計(jì)算能力，這種串行計(jì)算和并行能力共存的機(jī)載計(jì)算平臺(tái)也可以更好的貼近了行業(yè)應(yīng)用客戶?！?/p>

阿里巴巴OS事業(yè)部智能硬件研發(fā)負(fù)責(zé)人馬飛飛表示，AliOS和OpenVINO的碰撞發(fā)生在電子座艙計(jì)劃中，阿里巴巴希望電子座艙不只是娛樂(lè)和信息系統(tǒng)，還需要引入增強(qiáng)現(xiàn)實(shí)技術(shù)，實(shí)時(shí)提供車(chē)道檢測(cè)、前遮、碰撞檢測(cè)以及實(shí)施景物提示等功能。

“我們的核心網(wǎng)絡(luò)前端是一個(gè)Encoder，它會(huì)生成若干的Feature Map，之后傳給Decoder，Decoder分為兩路，一路做車(chē)道檢測(cè)，采用了語(yǔ)義分割的網(wǎng)絡(luò)，第二路是來(lái)做物體檢測(cè)和識(shí)別，比人、車(chē)、物等等。我們?cè)贏pollo Lake平臺(tái)上起初只能達(dá)到每幀270毫秒的處理速度，后來(lái)通過(guò)采用OpenVINO之后，平均幀處理時(shí)間降低到了30毫秒，實(shí)現(xiàn)了流暢的駕駛體驗(yàn)?！瘪R飛飛說(shuō)道。

馬飛飛總結(jié)道：“OpenVINO可以把客戶的軟件和硬件非常好的結(jié)合在一起，用AI的術(shù)語(yǔ)來(lái)講，損失函數(shù)降到了最低值，而套用一句論語(yǔ)的話來(lái)講就是，“質(zhì)勝于文則野，文勝于質(zhì)則史，文質(zhì)彬彬，此君子所為也?！薄?/p>

“欲窮千里目，更上一層樓，我們總希望借助視頻的能力，使得我們自己、使得全人類能夠站得更高、看得更遠(yuǎn)、看得更清，我相信通過(guò)英特爾和合作伙伴攜手努力，通過(guò)OpenVINO軟件工具以及英特爾各種架構(gòu)的硬件能力的具體體現(xiàn)，能夠幫助我們更上一層樓，從而能夠看得更遠(yuǎn)、更清、更準(zhǔn)?！蓖踔陕敃诚淼?。

想要查看更多OpenVINO相關(guān)技術(shù)與資料，請(qǐng)戳>> http://m.butianyuan.cn/openvino