OpenVINO賦能智慧交通 架構(gòu)加速車牌識(shí)別推理
在智慧交通的整體體系中,車牌識(shí)別無疑是基礎(chǔ)性的應(yīng)用之一。車牌識(shí)別應(yīng)用要求將靜止或運(yùn)動(dòng)中的汽車牌照從復(fù)雜背景中提取并識(shí)別出來,通過車牌提取、圖像預(yù)處理、特征提取、車牌字符識(shí)別等技術(shù),識(shí)別車輛牌號(hào)、顏色等信息。車牌識(shí)別是自動(dòng)化交通控制的基礎(chǔ)應(yīng)用,其識(shí)別成功率以及準(zhǔn)確率會(huì)對(duì)交通運(yùn)行效率、收費(fèi)、違規(guī)行為處罰等帶來較大影響。
本文引用地址:http://m.butianyuan.cn/article/202007/416510.htm為了進(jìn)一步提升車牌識(shí)別平臺(tái)的推理性能,加速面向海外車牌場(chǎng)景的算法訓(xùn)練速度,搭載了第二代英特爾? 至強(qiáng)? 可擴(kuò)展處理器與英特爾? OpenVINOTM 的組合解決方案,并使用了針對(duì)英特爾? 架構(gòu)進(jìn)行優(yōu)化的 Caffe* 應(yīng)用,實(shí)現(xiàn)了數(shù)十倍的性能提升。
挑戰(zhàn):海外市場(chǎng)給車牌識(shí)別帶來嚴(yán)峻考驗(yàn)
要對(duì)每個(gè)國家與地區(qū)的車牌識(shí)別算法進(jìn)行針對(duì)性訓(xùn)練,無疑需要本地化的數(shù)據(jù)作為支撐。如果通過傳統(tǒng)的車牌算法,將需要海量的車牌樣本,同時(shí)需要長達(dá)數(shù)月的交付周期,才能將車牌識(shí)別的準(zhǔn)確率提升到可用的水平。而這一速度,顯然無法滿足快速的市場(chǎng)競爭需求,智芯原動(dòng)希望能夠基于少量的車牌樣本完成快速的產(chǎn)品部署,這要求其對(duì)于算法進(jìn)行不斷創(chuàng)新,同時(shí)也要部署更高效的基礎(chǔ)設(shè)施平臺(tái)與深度學(xué)習(xí)加速工具。
此外,車牌識(shí)別系統(tǒng)本身也對(duì)于深度學(xué)習(xí)性能帶來要求。根據(jù)智芯原動(dòng)的工程師測(cè)算,目前單核處理器做一次車款識(shí)別需要40ms,按照停車高峰期每10秒一輛車計(jì)算,深云識(shí)車服務(wù)總共需要1000個(gè)4核處理器。一旦再提供公安警用服務(wù)的話,壓力更會(huì)成倍增加,因此需要實(shí)現(xiàn)更高效的深度學(xué)習(xí)計(jì)算能力。
面向海外市場(chǎng)的領(lǐng)先算法平臺(tái)
面向海外市場(chǎng)的車牌識(shí)別需求,智芯原動(dòng)推出了海外車牌識(shí)別解決方案,在技術(shù)上,海外車牌算法的實(shí)現(xiàn)是通過車牌提取、字符分割和字符識(shí)別三個(gè)步驟來搭配完成,即從背景復(fù)雜的含有車牌的圖像中提取出車牌圖像,然后對(duì)提取圖像進(jìn)行必要的預(yù)處理、分離出單個(gè)字符,接著提取字符的特征并與標(biāo)準(zhǔn)字符進(jìn)行比對(duì),輸出待識(shí)別車牌的車牌號(hào)碼。智芯原動(dòng)針對(duì)不同的車牌類型會(huì)采用不同的車牌定位和字符分割算法,以確保識(shí)別的準(zhǔn)確率。
方案最大的亮點(diǎn)即基于自研車牌算法框架,能夠在少量(>1K)車牌樣本條件下快速迭代,僅需2-4周的交付周期即可實(shí)現(xiàn)新國家車牌的開發(fā)任務(wù),且綜合準(zhǔn)確率可高達(dá)90%-95%。目前,該方案已經(jīng)在全球二十幾個(gè)國家和地區(qū)實(shí)現(xiàn)了規(guī)?;逃?。此外,方案還具備以下特點(diǎn):
方案特點(diǎn)
支持二十多個(gè)國家與區(qū)域的車牌識(shí)別
適用卡口、出入口、停車位等場(chǎng)景
算法框架采用靈活模型匹配策略和模塊化設(shè)計(jì),在少量樣本下能夠?qū)崿F(xiàn)新國家車牌的開發(fā)和實(shí)現(xiàn)
算法支持跨平臺(tái)設(shè)計(jì),滿足前端相機(jī)、后端服務(wù)器不同方案需求
在該方案中,智芯原動(dòng)使用了基于卷積神經(jīng)網(wǎng)絡(luò)深度學(xué)習(xí)的車款識(shí)別方法,并通過MobileNet*、GoogleNet* 等拓?fù)浣Y(jié)構(gòu)來實(shí)現(xiàn)分類推理優(yōu)化。在智芯原動(dòng)對(duì)車牌識(shí)別算法進(jìn)行優(yōu)化之后,有助于在小樣本的前提下實(shí)現(xiàn)應(yīng)用的快速開發(fā)及部署。
解決方案:基于英特爾? 架構(gòu)加速推理性能
在基礎(chǔ)設(shè)施架構(gòu)方面,智芯原動(dòng)面向不同國家及地區(qū)的實(shí)際應(yīng)用環(huán)境,推出了不同的參考方案,車牌識(shí)別的工作負(fù)載可以靈活的由云數(shù)據(jù)中心,或是邊緣設(shè)備來承載,可以滿足用戶對(duì)于延遲、部署成本、網(wǎng)絡(luò)等方面的不同要求。
在服務(wù)器端,智芯原動(dòng)搭載了第二代英特爾? 至強(qiáng)? 可擴(kuò)展處理器與英特爾? OpenVINOTM 的組合解決方案。第二代英特爾? 至強(qiáng)? 可擴(kuò)展處理器采用矢量神經(jīng)網(wǎng)絡(luò)指令 (VNNI) 的全新英特爾? 深度學(xué)習(xí)加速功能,提高了人工智能推理的表現(xiàn),與上一代產(chǎn)品相比,性能有了顯著提升,第二代英特爾? 至強(qiáng)? 可擴(kuò)展處理器有助于在整個(gè)數(shù)據(jù)中心到邊緣之間實(shí)現(xiàn)充分的 AI 支持。
相較于智芯原動(dòng)之前所使用的第一代英特爾? 至強(qiáng)? 可擴(kuò)展處理器,第二代英特爾? 至強(qiáng)? 可擴(kuò)展處理器進(jìn)一步提升了性能表現(xiàn),特別是其支持的 VNNI 等技術(shù)提高了將推理性能提升到新的層次。在具體的應(yīng)用實(shí)例中,性能的提升將允許用戶部署更少的節(jié)點(diǎn),同時(shí)支撐更多的推理負(fù)載,實(shí)現(xiàn)更低的總體擁有成本 (TCO)。
英特爾? OpenVINO? 工具套件分發(fā)版則支持開發(fā)人員使用行業(yè)標(biāo)準(zhǔn)人工智能框架、標(biāo)準(zhǔn)或自定義層,將深度學(xué)習(xí)推理輕松集成到應(yīng)用中。通過在底層的英特爾? 至強(qiáng)? 可擴(kuò)展處理器上運(yùn)行,英特爾? OpenVINO? 工具套件分發(fā)版可實(shí)現(xiàn)具有競爭力的推理速度和極低的精度損失。同時(shí),借助 AVX-512 和 MKL/MKL-DNN boost 庫的支持,這一解決方案還可實(shí)現(xiàn)卓越的計(jì)算性能。
效果:實(shí)現(xiàn)接近30倍的性能提升
為了驗(yàn)證第二代英特爾? 至強(qiáng)? 可擴(kuò)展處理器與英特爾? OpenVINOTM 在不同拓?fù)浣Y(jié)構(gòu)中的推理性能,智芯原動(dòng)搭建了測(cè)試平臺(tái),測(cè)試平臺(tái)的配置如表1所示:
在視頻圖像分析推理性能的測(cè)試中,測(cè)試人員分別測(cè)試了在MobileNet、MobileNet-V2、GoogleNet、VGG-16等多個(gè)拓?fù)浣Y(jié)構(gòu)中,使用公共版Caffe*、英特爾優(yōu)化版本Caffe,以及OpenVINOTM 的推理性能。測(cè)試數(shù)據(jù)如圖1所示,與英特爾優(yōu)化版本 Caffe 相比,使用OpenVINOTM 在 MobileNet 中實(shí)現(xiàn)了28.4倍的性能提升。
同時(shí),在SSD、RPN 檢測(cè)推理優(yōu)化的測(cè)試中(測(cè)試數(shù)據(jù)如圖2所示),相比帶有 FP32 的英特爾優(yōu)化 Caffe,帶有 SSD-VGG、RPN-VGG 拓?fù)浣Y(jié)構(gòu)且使用 Int8 量化的英特爾優(yōu)化 Caffe 可分別實(shí)現(xiàn) 2.58 倍和 2.09 倍的性能提升。
未來:為車輛識(shí)別應(yīng)用負(fù)載提供靈活、高效的算力支持
除了車牌識(shí)別之外,基于人工智能與深度學(xué)習(xí)技術(shù)的檢測(cè)推理還廣泛應(yīng)用于車輛識(shí)別的其它場(chǎng)景之中,并用于檢測(cè)車輛型號(hào)、顏色、大小、位置等用途。這些應(yīng)用負(fù)載在依賴先進(jìn)算法的同時(shí),也對(duì)于平臺(tái)的算力提出了一定的要求。智芯原動(dòng)的云端車款識(shí)別平臺(tái)可識(shí)別1600種左右車款,車款信息包括:品牌、型號(hào)、年代,識(shí)別準(zhǔn)確率超過99%,該平臺(tái)同時(shí)也可應(yīng)用于警用安防系統(tǒng)、高速公路收費(fèi)等領(lǐng)域的車款識(shí)別。
通過與英特爾進(jìn)行合作,智芯原動(dòng)能夠?yàn)檐囕v識(shí)別深度學(xué)習(xí)應(yīng)用提供更加靈活的基礎(chǔ)設(shè)施平臺(tái),如在數(shù)據(jù)中心通過CPU、GPU、FPGA的組合實(shí)現(xiàn)深度學(xué)習(xí)異構(gòu)計(jì)算,或是在邊緣端部署統(tǒng)一的邊緣計(jì)算服務(wù)器,承載車輛、車牌的識(shí)別負(fù)載,滿足用戶對(duì)于檢測(cè)精度、速度等方面的需求,助力智慧交通的實(shí)現(xiàn)。
想要查看更多OpenVINO相關(guān)技術(shù)與資料,請(qǐng)戳>> http://m.butianyuan.cn/openvino
評(píng)論