連獲“雙獎”,Xilinx AI 團隊實力綻放國際視覺頂會
今年的夏天,對賽靈思中國 AI產(chǎn)品團隊來說是一個不平凡的夏季: 在相繼舉行的一年一度2021 CVPR (IEEE Computer Vision and Pattern Recognition conference,即IEEE國際計算機視覺與模式識別會議),以及2021 ICCV ( IEEE International Conference on Computer Vision,即國際計算機視覺大會)上,我們的團隊每個大會各斬獲兩份榮譽,“雙獎”連連,激動人心。
本文引用地址:http://m.butianyuan.cn/article/202111/429725.htmCVPR 和ICCV 是全球排名前三的計算機視覺學術(shù)頂級會議中的兩個(第三個是ECCV, 即歐洲計算機視覺會議 ),兩大頂會相繼授予的雙重榮譽,無疑是對賽靈思 AI 產(chǎn)品團隊在全球競爭領(lǐng)域技術(shù)實力和創(chuàng)新能力的高度認可和有力證明。
單羿,賽靈思AI 研發(fā)副總裁, 北京區(qū)總經(jīng)理
在人工智能領(lǐng)域, CVPR 位列谷歌 ( Google) 學術(shù)總榜第一名。2021 CVPR接受了賽靈思 AI 研發(fā)團隊題目為《RankDetNet:探索目標檢測中的排序約束(RankDetNet: Delving into Ranking Constraints for Object Detection )》的論文。與此同時,該團隊也在CVPR 自動駕駛研討會組織的 2021 Waymo 開放式數(shù)據(jù)集挑戰(zhàn)賽中榮獲三等獎。論文連續(xù)兩年入選 CVPR和挑戰(zhàn)賽全球季軍的成績,展示了賽靈思 AI 研發(fā)團隊在理論與實踐“雙引擎”發(fā)展的道路上,正闊步前進。
我們的論文采用一種新穎的方法 — 一種用于替代分類來學習候選框的排序和定位的排序優(yōu)化方法。我們的工程師探索了各種排序約束條件,如全局排序、特定類別排序以及 IoU-guided 排序的損失等。傳統(tǒng)的分類損失會忽略候選框之間的聯(lián)系,通過配對排序優(yōu)化的方法可以對候選框之間施加約束,這些約束有利于保留高質(zhì)量的檢測結(jié)果。該方法很容易實現(xiàn),能夠與主流檢測框架兼容,而且不會增加推斷計算。
我們的算法是用三種配對的排序損失替換常規(guī)的分類損失。最重要的是,RankDetNet 在 2D 及 3D 目標檢測基線方法上實現(xiàn)了性能的一致提高。
至于“Waymo 開放式數(shù)據(jù)集實時3D檢測挑戰(zhàn)賽”,參賽者的任務(wù)是通過一幅由3D LIDAR掃描生成的深度圖,來為場景中的目標生成3D檢測結(jié)果框。與此同時需要保證檢測模型在英偉達Tesla V100 GPU上能達到每幀70毫秒的推理速度。
在此次挑戰(zhàn)賽項目上,我們的團隊展示了賽靈思在高級駕駛輔助系統(tǒng) (ADAS) 應(yīng)用上的算法開發(fā)實力。依靠多年來端側(cè)部署的經(jīng)驗,我們使用PointPillars做為主干網(wǎng)絡(luò)加快提取點云特征,同時采用Centerpoint的無錨框檢測頭提升精度。為了保證算法的實時性,引入了結(jié)構(gòu)重新參數(shù)化技術(shù)、Quality Focal Loss等無推斷時成本的方法來優(yōu)化檢測性能;同時還在基于網(wǎng)格特征的基礎(chǔ)上引入了基于原始點云的特征,以改進檢測目標的特征表達。使用這些方法,該團隊最終在68.4毫秒每幀的檢測速度下達到了70.46 mAPH/L2的準確度。這個成績讓該團隊在3D點云檢測挑戰(zhàn)賽中榮獲了第三名的成績。
而在今年隨后舉行的ICCV 上,賽靈思 AI 研發(fā)團隊又有兩篇論文成功入選,再次獲得“雙贏”榮譽。
第一篇論文《通過Bin正則化改進低精度網(wǎng)絡(luò)量化,(Improving Low-Precision Network Quantization via Bin Regularization)》,提出了一種新的權(quán)值正則化算法,旨在改進低比特網(wǎng)絡(luò)的量化精度。該算法并沒有優(yōu)化weights的整體分布,而是分別優(yōu)化每個量化Bin中的數(shù)據(jù),使其盡可能接近目標量化值。這種Bin正則化 方法可以讓weights的每個量化Bin的分布盡可能尖銳,理想情況下接近于Dirac delta分布。主流圖像分類數(shù)據(jù)集 ImageNet上的實驗表明,我們的方法對于不同網(wǎng)絡(luò)結(jié)構(gòu)(ResNet, MobileNetV2, MobileNetV3)、不同bit widths(4/3/2 bits)都獲得了一致的量化精度提升。特別地,我們提出的Bin正則化方法使得 2 bits 的 MobileNetV2 和MobileNetV3-Small 在 ImageNet 上的top-1分別提高了 3.9% 和 4.9%。此外,該方法易于實現(xiàn),而且很容易集成到現(xiàn)有的低比特優(yōu)化算法上,從而進一步提高模型量化準確率。
第二篇論文《無監(jiān)督行人再識別的判別表示學習(Discriminant representation learning for unsupervised pedestrian re-identification)》,重點解決行人識別模型中典型的“兩階段”訓練方法問題。行人再識別是智能監(jiān)控和智慧城市中的重要任務(wù),主要目的是在跨攝像頭中識別同一個行人身份。有監(jiān)督行人再識別通常需要耗時耗力的數(shù)據(jù)標注,很大程度上限制了模型的可擴展性。例如,當把一個在某個場景有監(jiān)督預訓練的模型直接應(yīng)用在一個新場景時,識別效果往往大打折扣。因此,無監(jiān)督域適應(yīng)下的行人再識別應(yīng)運而生,可以應(yīng)對新場景沒有數(shù)據(jù)標簽的問題。
為此,我們提出了三種技術(shù)手段來解決這些問題。首先,我們通過特征學習和聚類精化的迭代優(yōu)化提出了一種聚類對比學習算法(CCL,cluster-wise contrastive learning),以無監(jiān)督的方式學習抗噪表示。其次,我們采用漸進式域適應(yīng)(PDA,progressive domain adaptation) 算法來逐步縮小源數(shù)據(jù)和目標數(shù)據(jù)之間的域差距。第三,我們提出了傅里葉增強(FA,F(xiàn)ourier augmentation),通過在傅里葉空間中施加額外的約束來進一步最大化 re-ID 模型的類可分離性。實驗證明,這種方法在多個主流 benchmark 上刷新無監(jiān)督行人再識別的最好性能。例如,在 Market-to-Duke、Duke-to-Market、Market-to-MSMT和Duke-to-MSMT 四個 benchmark 上分別超越 MMT 方法 8.1%、 9.9%、11.4%和11.1% mAP。
如需查看完整論文或解決方案,請打開以下每篇論文的超鏈接:
● 《RankDetNet:探索目標檢測中的排序約束》,作者:劉吉、李棟、鄭榕樟、田露,單羿。
● 《Waymo 開放式數(shù)據(jù)集挑戰(zhàn)賽實時 3D 檢測跟蹤解決方案》,作者:劉涵、鄭榕樟、彭勁璋 和 田露。
● 《通過容器正則化改進低精度網(wǎng)絡(luò)量化》,作者:韓甜甜、李棟、劉吉、田露、單羿。
● 《無監(jiān)督行人再識別的判別表示學習》作者:Takashi Isobe、李棟、田露、陳威華、單羿、王生進 。
為讓更多的開發(fā)者受益于賽靈思最新人工智能及其它開發(fā)者相關(guān)技術(shù), 建議有興趣的朋友參加Xilinx Adapt 2021年度線上技術(shù)盛會,中國站將于2021年11月16日 - 12月14日舉行,持續(xù)5周。 該盛會云集眾多合作伙伴、客戶及賽靈思高層和技術(shù)專家,致力于通過共同探討和分享最新的技術(shù)方案、用戶案例,產(chǎn)品培訓和應(yīng)用實操,幫助用戶發(fā)掘 “自適應(yīng)計算” 的價值,打造適合自己的應(yīng)用解決方案。會議內(nèi)容涵蓋數(shù)據(jù)中心、有線/無線通信、汽車電子、專業(yè)音視頻、工業(yè)自動化、機器視覺、醫(yī)療、消費電子等不同應(yīng)用領(lǐng)域,其中“開發(fā)者系列:Vitis 與 AI 專場”將于12 月2日和7日分上下半場舉行,如果有讀者需要與賽靈思的AI 專家們線上交流,請掃描二維碼預定會議:
評論