一文看懂英特爾2018視覺解決方案及策略，OpenVINO是關(guān)鍵

五月份時(shí)，英特爾宣布推出OpenVINO工具包，它主要應(yīng)用于將計(jì)算機(jī)圖形和深度學(xué)習(xí)技術(shù)整合到前沿的視覺應(yīng)用中。OpenVINO全稱為開放式視覺推理和神經(jīng)網(wǎng)絡(luò)優(yōu)化（Open Visual Inference & Neural Network Optimization），其前身是英特爾計(jì)算機(jī)視覺SDK（Computer Vision SDK），通過工具包中集成的三個(gè)全新API：深度學(xué)習(xí)部署工具包、通用的深度學(xué)習(xí)推理工具包以及OpenCV和OpenVX的優(yōu)化功能，支持TensorFlowMXNet和Caffe框架。顧名思義，OpenVINO的推出，標(biāo)志著英特爾將計(jì)算機(jī)視覺與AI完美融合，并且是全開放式的融合。

日前，英特爾舉辦以“智能端到端,英特爾變革物聯(lián)網(wǎng)”為主題的視覺解決方案及策略發(fā)布會(huì),正式宣布推出OpenVINO。發(fā)布會(huì)邀請(qǐng)到英特爾物聯(lián)網(wǎng)事業(yè)部中國區(qū)總經(jīng)理陳偉博士，英特爾中國區(qū)物聯(lián)網(wǎng)事業(yè)部首席技術(shù)官兼首席工程師張宇博士，英特爾中國銷售總經(jīng)理王稚聰以及相關(guān)合作伙伴，就OpenVINO如何幫助結(jié)合人工智能與機(jī)器視覺的物聯(lián)網(wǎng)應(yīng)用快速落地進(jìn)行了一系列介紹與討論。

英特爾中國區(qū)物聯(lián)網(wǎng)事業(yè)部首席技術(shù)官兼首席工程師張宇博士表示，英特爾CV SDK只做編解碼加速，通過引入Movidius SDK，OpenVINO可以做一個(gè)完整的視頻處理系統(tǒng)，從編解碼到深度學(xué)習(xí)或者是計(jì)算機(jī)視覺處理等，讓開發(fā)者只用一個(gè)工具把所有的需求都能滿足所有需求。

此前，英特爾為布局AI花費(fèi)了大量的人力物力，從平臺(tái)，到框架再到庫和硬件，英特爾實(shí)現(xiàn)了人工智能全棧式解決方案。

此次發(fā)布的OpenVINO，是英特爾針對(duì)視覺AI領(lǐng)域的一次重要革命。

為什么是視覺技術(shù)？

在智能端到端的物聯(lián)網(wǎng)領(lǐng)域，英特爾要通過視覺發(fā)起這場AI革命。

英特爾副總裁兼物聯(lián)網(wǎng)事業(yè)部中國區(qū)總經(jīng)理陳偉博士表示，選擇專注于視覺戰(zhàn)略，首先是視覺處理市場不斷蓬勃發(fā)展的數(shù)據(jù)擠壓到了存儲(chǔ)和寬帶的要求，因此在邊緣計(jì)算端有極大的需求，英特爾很早以前就看到了這個(gè)態(tài)勢(shì)，因此一直致力于云端和邊緣端兩方向同時(shí)發(fā)展，實(shí)現(xiàn)邊云協(xié)和的分布式架構(gòu)。

第二個(gè)原因則是由于計(jì)算分析能力和存儲(chǔ)能力所限，目前數(shù)據(jù)有大部分被浪費(fèi)掉了，并沒有進(jìn)行深度挖掘，所以邊緣計(jì)算對(duì)于未來的數(shù)據(jù)分析至關(guān)重要。

第三，則是深度學(xué)習(xí)市場被充分打開，陳偉引用了一組數(shù)據(jù)表示，2016年深度學(xué)習(xí)市場收入為6.55億美元，預(yù)計(jì)到2025年將增長至350億美元。

陳偉博士，英特爾副總裁兼物聯(lián)網(wǎng)事業(yè)部中國區(qū)總經(jīng)理

那么我們到底需要什么樣的邊緣計(jì)算呢？陳偉表示，實(shí)時(shí)性、低成本、強(qiáng)大的分析和預(yù)測(cè)能力以及精準(zhǔn)、安全保密的邊緣計(jì)算是業(yè)界所達(dá)成的共識(shí)。

“眼見為實(shí)，視頻的數(shù)據(jù)量是最大的，同時(shí)也是最復(fù)雜的，人一輩子幾十年就是人工智能最好的解說，人們通過觀察來訓(xùn)練大腦、同理，現(xiàn)在的邊緣計(jì)算機(jī)也可以用視頻區(qū)模仿人的能力。在英特爾物聯(lián)網(wǎng)事業(yè)部，我們把視頻技術(shù)當(dāng)成是一個(gè)橫向的技術(shù)，是英特爾的一個(gè)主要戰(zhàn)略?！标悅フf道。

不過陳偉同時(shí)強(qiáng)調(diào)，邊緣計(jì)算與人工智能的結(jié)合并不是一件容易的事。一個(gè)是數(shù)據(jù)量巨大，一個(gè)是碎片化的市場，只有技術(shù)平臺(tái)化才能解決這一系列問題。英特爾幾年間在硬件上持續(xù)努力布局，隨著現(xiàn)在OpenVINO工具套件的發(fā)布，標(biāo)志著英特爾的視覺處理市場生態(tài)鏈有了最強(qiáng)大的軟件平臺(tái)支撐。

陳偉表示，OpenVINO近幾個(gè)月和中國市場的合作伙伴進(jìn)行了緊密的合作、開發(fā)與優(yōu)化，此次的首發(fā)也只是起點(diǎn)，未來還將對(duì)不同硬件進(jìn)行優(yōu)化和整合，包括模型和插件的完善、充實(shí)與優(yōu)化等工作。

正如陳偉所說，工欲善其事、必先利其器，搭配英特爾廣泛的處理器和OpenVINO開發(fā)工具，就是AI視覺市場的器。

OpenVINO的特點(diǎn)及意義

英特爾中國區(qū)物聯(lián)網(wǎng)事業(yè)部首席技術(shù)官兼首席工程師張宇博士詳細(xì)介紹了OpenVINO的特點(diǎn)。

英特爾中國區(qū)物聯(lián)網(wǎng)事業(yè)部首席技術(shù)官兼首席工程師張宇博士

張宇表示，目前在系統(tǒng)端到端的網(wǎng)元中，所能提供的計(jì)算量是不一樣的，它能夠支撐的操作系統(tǒng)也各不相同的，因此有各自不同的芯片架構(gòu)。比如在攝像機(jī)里，一個(gè)攝像機(jī)的功耗大概15瓦，從15瓦里能夠提供給做智能運(yùn)算的能量有2-3瓦，對(duì)于這樣的使用場景，類似于ASIC這樣的架構(gòu)是最適宜的。但到了數(shù)據(jù)中心側(cè)，由于需要一定的靈活度，因此通用處理器更適合?！安煌W(wǎng)元有不同適宜的架構(gòu)，不同芯片有各自不同的開發(fā)方法和環(huán)境，這樣對(duì)開發(fā)者而言就帶來一定的困擾，無形中增加了開發(fā)的門檻?！睆堄钫f道。

張宇舉例了幾個(gè)目前人工智能開發(fā)時(shí)的共識(shí)問題，其表示：“作為開發(fā)者，已經(jīng)有了經(jīng)過訓(xùn)練的網(wǎng)絡(luò)模型，但是由于推理平臺(tái)能力有限，只能把網(wǎng)絡(luò)模型的一部分放到推理平臺(tái)之上，又或者想要提升終端性能但不知道該如何選型，以及目前使用的人工智能框架不被英特爾的產(chǎn)品支持，無法導(dǎo)入到Movidius或者FPGA平臺(tái)?！?/p>

而OpenVINO正是為解決如上問題所推出的，他是一個(gè)高性能計(jì)算機(jī)視覺和深度學(xué)習(xí)視覺應(yīng)用開發(fā)的工具套件，能夠支持英特爾平臺(tái)的各種加速器，包括CPU、GPU、FPGA以及Movidius的VPU等，支持異構(gòu)計(jì)算，目標(biāo)人群是軟件開發(fā)人員以及開發(fā)、監(jiān)控、零售、醫(yī)療、辦公自動(dòng)化以及自動(dòng)駕駛等領(lǐng)域的數(shù)據(jù)科學(xué)家。

OpenVINO工具包組成

張宇表示，目前在計(jì)算機(jī)視覺處理領(lǐng)域，有兩類方法，一類是深度學(xué)習(xí)，一類是傳統(tǒng)計(jì)算機(jī)視覺，在物體檢測(cè)、目標(biāo)識(shí)別等方面深度學(xué)習(xí)已經(jīng)開始嶄露優(yōu)勢(shì)，替代傳統(tǒng)的計(jì)算機(jī)視覺，然而在其他視覺領(lǐng)域，包括光流計(jì)算或圖像增強(qiáng)等依然是傳統(tǒng)的計(jì)算機(jī)視覺處理方法更有優(yōu)勢(shì)。所以，OpenVINO支持這兩種實(shí)現(xiàn)方式。

OpenVINO的深度學(xué)習(xí)部署工具套件，可以幫助開發(fā)者把已經(jīng)訓(xùn)練好的網(wǎng)絡(luò)模型部署到目標(biāo)平臺(tái)之上進(jìn)行推理操作。

目前深度學(xué)習(xí)部署工具套件主要包括兩個(gè)網(wǎng)元，一個(gè)網(wǎng)元是模型優(yōu)化器，另外一個(gè)是推理引擎。其工作原理是通過模型優(yōu)化器把開發(fā)者經(jīng)過深度學(xué)習(xí)框架所開發(fā)的網(wǎng)絡(luò)模型，針對(duì)選用的目標(biāo)平臺(tái)進(jìn)行優(yōu)化，優(yōu)化結(jié)果轉(zhuǎn)換成中間表示文件，建成IR文件。IR文件中包含優(yōu)化以后的網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)，以及優(yōu)化之后的模型參數(shù)和模型變量。

模型優(yōu)化器是由Python語言編寫的，不僅僅能夠?qū)崿F(xiàn)Caffe、Tensor Flow、MxNet上框架之上的模型導(dǎo)入，還可以根據(jù)模型進(jìn)行優(yōu)化。尤其是在通用處理器上做的訓(xùn)練結(jié)果，如果部署到資源受限的嵌入式推理平臺(tái)之上，必須進(jìn)行相應(yīng)的優(yōu)化。

張宇舉例到，在做訓(xùn)練的時(shí)候，有可能會(huì)存在一個(gè)Dropout層，主要的作用是在訓(xùn)練的過程中，把一定比例的神經(jīng)元失效，這樣可避免在訓(xùn)練過程中模型參數(shù)陷入一個(gè)局部的極小值，而達(dá)不到一個(gè)最優(yōu)的效果，但在做推理時(shí)，所有神經(jīng)元都要參與計(jì)算，所以Dropout層是沒有必要的，因此OpenVINO可以自動(dòng)發(fā)現(xiàn)Dropout層并將其剔除。另外，對(duì)于一些激活函數(shù)的優(yōu)化，包括神經(jīng)網(wǎng)絡(luò)模型中的卷積層，全鄰接層，激活函數(shù)層等，都可以交由模型優(yōu)化其進(jìn)行優(yōu)化。目前模型優(yōu)化器已經(jīng)驗(yàn)證了超過150個(gè)在Caffe、MxNet和Tensor Flow上所設(shè)計(jì)的模型。

優(yōu)化之后，推理引擎會(huì)讀取IR文件，之后會(huì)根據(jù)選用的目標(biāo)平臺(tái)選擇相應(yīng)的硬件插件將IR文件下載到目標(biāo)平臺(tái)上進(jìn)行執(zhí)行，目前OpenVINO的插件包括CPU插件，GPU插件，F(xiàn)PGA插件以及Myriad VPU插件，在驗(yàn)證完畢之后就可以把推理引擎和中間表述文件一起下載到或集成到最終應(yīng)用里進(jìn)行部署。

推理引擎實(shí)際上是一套C++函數(shù)庫以及C++的類，從而實(shí)現(xiàn)對(duì)輸入數(shù)據(jù)的處理，并得到最終的結(jié)果。推理引擎是經(jīng)過統(tǒng)一的API接口，支持所有英特爾處理器架構(gòu)，實(shí)現(xiàn)深度學(xué)習(xí)推理所需要的操作。這些操作包括對(duì)數(shù)據(jù)的讀取，對(duì)輸入輸出數(shù)據(jù)格式的定義以及調(diào)用相應(yīng)的硬件的插件。

OpenVINO優(yōu)化部署過程

利用OpenVINO之后，可以看出FPS幀數(shù)性能得到顯著提升

在OpenVINO里，還包含一個(gè)傳統(tǒng)的計(jì)算機(jī)視覺工具庫，其中包含了經(jīng)過預(yù)編譯的，而且在英特爾CPU上已經(jīng)經(jīng)過優(yōu)化的OpenCV 3.3版本。張宇提到了一個(gè)小插曲，作為計(jì)算機(jī)視覺領(lǐng)域應(yīng)用廣泛的OpenCV，全稱為Intel Open Source Computer Vision Library，于1999年由Gary Bradsky在英特爾位于俄羅斯的研究實(shí)驗(yàn)室開發(fā)，它是一套可免費(fèi)獲得的由一些C函數(shù)和C＋＋類所組成的庫，第一個(gè)版本于2000年問世。隨后Vadim Pisarevsky加入了Gary Bradsky，主要負(fù)責(zé)管理英特爾的俄羅斯軟件OpenCV團(tuán)隊(duì)。2005年，OpenCV被用于Stanley車型，并贏得2005年DARPA大挑戰(zhàn)。后來，它在Willow Garage的支持下持續(xù)并積極發(fā)展，轉(zhuǎn)為由Gary Bradsky和Vadim Pisarevsky領(lǐng)導(dǎo)該項(xiàng)目。2016年，英特爾收購機(jī)器視覺初創(chuàng)公司Itseez，擴(kuò)充了OpenCV領(lǐng)域的人才。

除了OpenCV，在OpenVINO?還包含了對(duì)OpenVX以及OpenVX在神經(jīng)網(wǎng)絡(luò)擴(kuò)展的支持，同時(shí)在媒體、視頻、圖像處理領(lǐng)域也包含了英特爾媒體軟件開發(fā)套件，可以幫助開發(fā)者方便的利用英特爾CPU里面的集成顯卡資源來實(shí)現(xiàn)視頻的編碼、解碼以及轉(zhuǎn)碼的操作。

OpenVINO支持包括Windows 10，Ubuntu以及CentOS在內(nèi)的多種操作系統(tǒng)。

OpenVINO支持開發(fā)環(huán)境一覽

張宇強(qiáng)調(diào)道，OpenVINO是分層開發(fā)的，不同開發(fā)者可根據(jù)自己需求和開發(fā)能力選擇不同的API接口進(jìn)行調(diào)用OpenVINO。顧典，英特爾技術(shù)專家表示表示，OpenVINO中包含Open Model Zoo，這不是一個(gè)簡單的網(wǎng)絡(luò)參考，而是基于網(wǎng)絡(luò)的組合和融合，把具體的客戶的應(yīng)用實(shí)例開發(fā)出來，當(dāng)然這個(gè)開發(fā)實(shí)例不是完整完善的應(yīng)用，這只是一個(gè)參考，但客戶完全可以基于Open Model Zoo現(xiàn)成的應(yīng)用樣本進(jìn)一步的做好開發(fā)。

對(duì)此，張宇總結(jié)道，對(duì)于新手來說，OpenVINO包含了很多應(yīng)用示例，即便不了解算法和硬件底層實(shí)現(xiàn)，也可以直接調(diào)用相關(guān)參考從而實(shí)現(xiàn)應(yīng)用。而對(duì)于一些特定應(yīng)用場景來說，如果有了一些特定應(yīng)用算法但沒有開發(fā)人工智能網(wǎng)絡(luò)的能力，也可以使用OpenVINO把特定的開放網(wǎng)絡(luò)、標(biāo)準(zhǔn)網(wǎng)絡(luò)執(zhí)行在英特爾硬件上從而實(shí)現(xiàn)快速開發(fā)。而對(duì)于高級(jí)用戶，可以在Caffe 、Tensor Flow、MxNet等框架下設(shè)計(jì)好自己的網(wǎng)絡(luò)模型，然后用OpenVINO的模型優(yōu)化器和推理引擎轉(zhuǎn)換成硬件可識(shí)別語言，再下載到平臺(tái)上進(jìn)行執(zhí)行。如果是超級(jí)用戶，OpenVINO也支持直接調(diào)用硬件底層的接口實(shí)現(xiàn)對(duì)硬件直接的訪問。

OpenVINO適合各類層級(jí)的開發(fā)者使用

英特爾技術(shù)專家顧典表示，此次OpenVINO SDK和以往發(fā)布有一個(gè)細(xì)節(jié)不一樣，就是更新非?？欤衲晗掳肽闛penVINO預(yù)計(jì)有兩次重大更新，這也是為了迎合人工智能和深度學(xué)習(xí)市場快速發(fā)展的態(tài)勢(shì)。

OpenVINO工具套件優(yōu)勢(shì)總結(jié)，包括提高性能、整合深度學(xué)習(xí)、加速開發(fā)和支持創(chuàng)新與定制

在視覺處理市場，英特爾要專注哪些領(lǐng)域？

英特爾中國銷售總經(jīng)理王稚聰表示，英特爾計(jì)算機(jī)視覺解決方案主要面向六大應(yīng)用場景：

交通監(jiān)控。采用英特爾FPGA和Movidius VPU的攝像頭可捕捉數(shù)據(jù)，并自動(dòng)將其發(fā)送至下游十字路口系統(tǒng)，幫助交通部門優(yōu)化交通和做好規(guī)劃。這些信息可通過車載系統(tǒng)或應(yīng)用直接傳達(dá)給司機(jī)，幫助他們規(guī)劃路線。

公共安全。借助使用OpenVINO工具包開發(fā)的Myriad VPU和算法，經(jīng)過訓(xùn)練的深度神經(jīng)網(wǎng)絡(luò)現(xiàn)在可利用推理功能通用面部識(shí)別分析并識(shí)別失蹤兒童。采用了這一技術(shù)的城市執(zhí)法機(jī)構(gòu)可在經(jīng)過訓(xùn)練的數(shù)據(jù)集匹配到人群中已報(bào)告失蹤兒童的臉部時(shí)，即時(shí)收到相關(guān)通知。

工業(yè)自動(dòng)化。英特爾視覺解決方案可幫助智能工廠融合OT和IT，重塑工業(yè)業(yè)務(wù)模式和增長戰(zhàn)略。生產(chǎn)控制將可自動(dòng)、流暢運(yùn)轉(zhuǎn)，縮短上市時(shí)間。

機(jī)器視覺。借助人工智能增強(qiáng)工業(yè)機(jī)器視覺，支持更精準(zhǔn)的工廠自動(dòng)化應(yīng)用。解決方案組合攝像頭、電腦和算法，以分析圖像和視頻，在邊緣提供可以用于指導(dǎo)行動(dòng)的重要信息。

響應(yīng)式零售。在邊緣使用英特爾計(jì)算機(jī)視覺解決方案的零售商，可以快速識(shí)別特定客戶或客戶行為模式，從而提供個(gè)性化的精準(zhǔn)營銷服務(wù)。

運(yùn)營管理。通過使用基于英特爾架構(gòu)的計(jì)算機(jī)視覺解決方案，零售商可簡化運(yùn)營、管理庫存、優(yōu)化供應(yīng)鏈和增強(qiáng)推銷能力，并幫助他們發(fā)掘數(shù)據(jù)的更高價(jià)值。

英特爾中國銷售總經(jīng)理王稚聰

合作伙伴是怎么說的？

為了證明在視覺處理市場的決心，英特爾特別邀請(qǐng)眾合作伙伴為其證言，誓將視覺處理市場的生態(tài)系統(tǒng)打造成另外一個(gè)計(jì)算機(jī)市場的蓬勃發(fā)展的生態(tài)產(chǎn)業(yè)鏈。

對(duì)于合作伙伴來說，是否認(rèn)可英特爾的OpenVINO和AI視覺市場策略呢？英特爾合作多年的老朋友們是這么說的。

云從科技項(xiàng)目總監(jiān)李軍表示，公司2017年開始進(jìn)入機(jī)場項(xiàng)目時(shí)，制定了一個(gè)策略就是三個(gè)月之內(nèi)將業(yè)務(wù)全面推廣，在這么一個(gè)緊急的時(shí)間關(guān)口中，并沒有太多選擇，所以云從科技選擇了英特爾的平臺(tái)。事實(shí)證明這個(gè)選擇對(duì)業(yè)務(wù)的推進(jìn)幫助很大?！坝⑻貭朮86架構(gòu)中的并行計(jì)算模塊，以及OpenVINO中的核心模塊幫助我們?cè)谌斯ぶ悄芤约捌渌袠I(yè)的廣泛應(yīng)用打下了基礎(chǔ)，讓我們可以更快速的進(jìn)行開發(fā)。目前我們的這款產(chǎn)品能夠在幾十家行業(yè)客戶，以及幾百個(gè)行業(yè)網(wǎng)點(diǎn)中做推廣，也是有賴于英特爾成熟的生態(tài)體系。如果想用一款產(chǎn)品同時(shí)支持幾十家不同客戶需求時(shí)，無論是算法還是應(yīng)用都變得異常復(fù)雜，只有選擇合適的平臺(tái)才可以得心應(yīng)手?！?/p>

浙江大華技術(shù)股份有限公司研發(fā)中心副總裁殷俊說道，2011年大華和英特爾聯(lián)合發(fā)布首款NVR，把大量的數(shù)據(jù)存儲(chǔ)在VMS上，實(shí)現(xiàn)了百路接入，一臺(tái)機(jī)器就可以解決一百路以上的存儲(chǔ)。當(dāng)人工智能在安防行業(yè)及其他視覺處理市場的突飛猛進(jìn)，這個(gè)時(shí)候Movidius出現(xiàn)，大華便采用Movidius做了一款工業(yè)相機(jī)，用于產(chǎn)線缺線檢測(cè)及物品的識(shí)別和分類等應(yīng)用。后來，Movidius又進(jìn)入安防領(lǐng)域，做了人臉相機(jī)、事件檢測(cè)分析及行為分析等應(yīng)用，進(jìn)一步的則是拿熱成像將紅外傳感器數(shù)據(jù)接入Movidius，實(shí)現(xiàn)了測(cè)溫、森林防火、邊境線檢查、環(huán)保、視頻會(huì)議等豐富多彩的新興業(yè)務(wù)拓展。

2017年，英特爾收購了Altera之后，作為Altera多年合作伙伴的大華，繼續(xù)和英特爾保持良好的合作關(guān)系，在FPGA平臺(tái)上開發(fā)NVR，實(shí)現(xiàn)人臉識(shí)別等應(yīng)用。而今年，Myriad X的發(fā)布，又讓大華和英特爾產(chǎn)生了新的碰撞。

“我們從NVR、云上、中心側(cè)都采用了英特爾的產(chǎn)品，但是我們始終發(fā)現(xiàn)開發(fā)工作量巨大，Movidius開發(fā)工具、英特爾開發(fā)工具、GPU開發(fā)工具以及FPGA的開發(fā)工具沒法統(tǒng)一。我們和英特爾一直在探討一個(gè)問題，那就是未來軟件將是重要環(huán)節(jié)，甚至將超越硬件。因?yàn)樾酒皇墙鉀Q了計(jì)算能力和性能，但軟件決定了它的好用和易用性。OpenVINO工具將幫助我們未來在產(chǎn)品化和跨平臺(tái)開發(fā)上的統(tǒng)一，加快廠商解決方案的部署。通過我們的實(shí)裝體驗(yàn)，OpenVINO不只是簡單的編譯工具，更是行業(yè)優(yōu)秀的生態(tài)工具?！币罂≌f道，“未來大華的定位是智慧物聯(lián)廠商，因此我們將繼續(xù)重點(diǎn)投入以視頻為核心的業(yè)務(wù)，利用人工智能處理大批量數(shù)據(jù)，賦能行業(yè)，賦能客戶?！?/p>

宇視研發(fā)副總裁AI產(chǎn)品線總監(jiān)湯立波表示，作為年輕的宇視科技來說，能夠得到英特爾對(duì)合作伙伴的戰(zhàn)略支持非常重要。宇視科技能夠在短時(shí)間內(nèi)成長為全球安防行業(yè)的第六名，這和英特爾是分不開的。公司成立伊始就與英特爾建立良好的戰(zhàn)略合作伙伴關(guān)系，所有的云端設(shè)備包括大數(shù)據(jù)服務(wù)器、應(yīng)用服務(wù)器、存儲(chǔ)服務(wù)器等，全部采用了英特爾的CPU。而進(jìn)入人工智能時(shí)代之后，憑借英特爾在人工智能時(shí)代的布局，為宇視科技等公司提供了一系列硬件平臺(tái)以及CVSDK和OpenVINO這類工具包，讓公司可以更高效、更快速來開發(fā)人臉識(shí)別、物體識(shí)別、車輛識(shí)別等方案，將各種算法落地到端到端的產(chǎn)品中去。

目前，宇視科技基于英特爾的硬件平臺(tái)及開發(fā)工具，實(shí)現(xiàn)了接入端到邊緣計(jì)算端以及云端的全布局。

“兩三年前，宇視科技剛剛把產(chǎn)品賣到海外時(shí)，因?yàn)樾酒筒僮飨到y(tǒng)之間時(shí)區(qū)不匹配的問題，服務(wù)器產(chǎn)生了大量的問題，但英特爾專門派團(tuán)隊(duì)協(xié)助我們快速解決問題。也正是因?yàn)橛⑻貭柦o了我們的幫助，可以讓我們快速成長起來?！睖⒉ū硎?。

湯立波認(rèn)為，目前圖像處理是一個(gè)多算法融合的場景，因此需要不同的硬件平臺(tái)，但對(duì)于小公司來說，很難一站式滿足所有的平臺(tái)需求。此外，對(duì)于產(chǎn)業(yè)界來說，需要的是成熟且供貨穩(wěn)定的產(chǎn)品，這需要對(duì)芯片具有豐富產(chǎn)業(yè)經(jīng)驗(yàn)的企業(yè)?！罢麄€(gè)產(chǎn)品開發(fā)過程中，困難的地方不是開發(fā)，而是如何解決問題，所以只有一個(gè)非常有經(jīng)驗(yàn)的企業(yè)才能夠做出來一款穩(wěn)定、能夠快速解決問題的用于產(chǎn)品化的芯片?！?/p>

而對(duì)于OpenVINO的價(jià)值，湯立波表示：“坦誠來說，OpenVINO具有一定的學(xué)習(xí)成本，需要先期投入，但從產(chǎn)出來看，OpenVINO有幾個(gè)非常重要的價(jià)值。首先是節(jié)約了大量的開發(fā)成本，避免在不同硬件平臺(tái)上浪費(fèi)大量重復(fù)性開發(fā)工作。第二則是切實(shí)加速產(chǎn)品化過程。圍繞在英特爾周圍，有很多視覺行業(yè)相關(guān)公司，但并不是所有公司都擅長工具開發(fā)，絕大部分還是以人工智能視覺處理為核心的算法、應(yīng)用軟件、硬件產(chǎn)品形態(tài)和解決方案等，所以O(shè)penVINO的推出，可以讓生態(tài)圈里的廠商獲得更好的回報(bào)與更多的應(yīng)用落地。比如宇視科技，技術(shù)競爭力在基于英特爾芯片的分布式計(jì)算和集群調(diào)度之類，而在商業(yè)競爭力上則是善于做精準(zhǔn)打擊。在人工智能領(lǐng)域，我們會(huì)專門面向某個(gè)場景做精準(zhǔn)打擊，會(huì)基于OpenVINO來做算法的訓(xùn)練，當(dāng)訓(xùn)練到極致時(shí)、產(chǎn)品性能達(dá)到極致、產(chǎn)品形態(tài)達(dá)到極致時(shí)，競爭力自然形成了?！?/p>

科達(dá)研究院執(zhí)行院長曹李軍說道，十年前科達(dá)研究院就和英特爾展開了合作，2012年采用傳統(tǒng)的機(jī)器視覺算法，推出了一系列智能產(chǎn)品，到2017年上半年，所有產(chǎn)品都切換到了深度學(xué)習(xí)平臺(tái)上。

目前科達(dá)開發(fā)出基于第六代酷睿的智能NVR產(chǎn)品，除了具有現(xiàn)有NVR所有功能之外，還增加了人臉比對(duì)庫、車牌庫，用戶可以根據(jù)需要來設(shè)定預(yù)警和報(bào)警規(guī)則，包括人臉黑白名單，以圖搜圖，人員檢索，車牌的黑白功能、屬性檢索等，這些都離不開英特爾的CPU加OpenVINO的技術(shù)?！吧疃葘W(xué)習(xí)網(wǎng)絡(luò)模型是以大規(guī)模數(shù)據(jù)經(jīng)過千萬次的迭代而形成的結(jié)果，轉(zhuǎn)換過程對(duì)于我們來說是黑盒，如果要進(jìn)行模型優(yōu)化確實(shí)需要對(duì)算法進(jìn)行更深入的了解。OpenVINO可以幫我們把整個(gè)推理和計(jì)算過程可視化，為模型優(yōu)化和多模型的推理提供了很大的幫助。特別是讓我們知其然，也知所以然。”

中科英泰副總裁劉福利表示，公司從CVSDK起就開始使用，目前已經(jīng)開發(fā)了三款產(chǎn)品，包括無人便利店的人臉識(shí)別和商品識(shí)別，智能掃描結(jié)賬功能，消費(fèi)者行為分析等產(chǎn)品。“新零售離不開三大場景，包括對(duì)人識(shí)別的智慧化，商品的智能化識(shí)別以及通過對(duì)人、對(duì)物的智能化識(shí)別基礎(chǔ)上，創(chuàng)新出的消費(fèi)場景，而這些都離不開創(chuàng)新的技術(shù)支持。英特爾逐漸從芯片公司走向了多元化、智能化、軟件解決方案發(fā)展多元的公司，也讓我們可以在新零售行業(yè)中不斷地創(chuàng)新出更多的智慧化的產(chǎn)品?！?/p>

大疆創(chuàng)新科技資深產(chǎn)品專家William Wu表示，大疆為了滿足行業(yè)應(yīng)用客戶的豐富需求，使用了英特爾CPU開發(fā)了一款無人機(jī)的機(jī)載航空電腦，使用這款機(jī)載航空電腦，就可以結(jié)合大疆的SDK在無人機(jī)上實(shí)時(shí)在線的進(jìn)行運(yùn)算、處理、采集、分析和控制的任務(wù)?！霸跓o人機(jī)領(lǐng)域，串行計(jì)算和并行計(jì)算是共存的，我們很難找到一家可以同時(shí)提供這兩者的供應(yīng)商，英特爾平臺(tái)給我們提供了強(qiáng)大的創(chuàng)新計(jì)算能力，使得在無人機(jī)上在線進(jìn)行行業(yè)定制化自主飛行場景成為了可能。OpenVINO工具則能夠使無人機(jī)機(jī)載航空電腦上更好的發(fā)揮出CPU核顯的并行計(jì)算能力，這種串行計(jì)算和并行能力共存的機(jī)載計(jì)算平臺(tái)也可以更好的貼近了行業(yè)應(yīng)用客戶?！?/p>

阿里巴巴OS事業(yè)部智能硬件研發(fā)負(fù)責(zé)人馬飛飛表示，AliOS和OpenVINO的碰撞發(fā)生在電子座艙計(jì)劃中，阿里巴巴希望電子座艙不只是娛樂和信息系統(tǒng)，還需要引入增強(qiáng)現(xiàn)實(shí)技術(shù)，實(shí)時(shí)提供車道檢測(cè)、前遮、碰撞檢測(cè)以及實(shí)施景物提示等功能。

“我們的核心網(wǎng)絡(luò)前端是一個(gè)Encoder，它會(huì)生成若干的Feature Map，之后傳給Decoder，Decoder分為兩路，一路做車道檢測(cè)，采用了語義分割的網(wǎng)絡(luò)，第二路是來做物體檢測(cè)和識(shí)別，比人、車、物等等。我們?cè)贏pollo Lake平臺(tái)上起初只能達(dá)到每幀270毫秒的處理速度，后來通過采用OpenVINO之后，平均幀處理時(shí)間降低到了30毫秒，實(shí)現(xiàn)了流暢的駕駛體驗(yàn)?！瘪R飛飛說道。

馬飛飛總結(jié)道：“OpenVINO可以把客戶的軟件和硬件非常好的結(jié)合在一起，用AI的術(shù)語來講，損失函數(shù)降到了最低值，而套用一句論語的話來講就是，“質(zhì)勝于文則野，文勝于質(zhì)則史，文質(zhì)彬彬，此君子所為也?！薄?/p>

“欲窮千里目，更上一層樓，我們總希望借助視頻的能力，使得我們自己、使得全人類能夠站得更高、看得更遠(yuǎn)、看得更清，我相信通過英特爾和合作伙伴攜手努力，通過OpenVINO軟件工具以及英特爾各種架構(gòu)的硬件能力的具體體現(xiàn)，能夠幫助我們更上一層樓，從而能夠看得更遠(yuǎn)、更清、更準(zhǔn)。”王稚聰暢享道。

想要查看更多OpenVINO相關(guān)技術(shù)與資料，請(qǐng)戳>> http://m.butianyuan.cn/openvino