研究顯示：警車、救護(hù)車閃爍車燈會(huì)引發(fā)智能駕駛“數(shù)字癲癇”

11 月 27 日消息，汽車制造商宣稱，他們?nèi)找鎻?fù)雜的自動(dòng)駕駛系統(tǒng)能夠提升駕駛安全性并減輕駕駛員的壓力，因?yàn)檫@些系統(tǒng)能夠識(shí)別即將發(fā)生的碰撞并采取措施避免。然而，最新研究表明，某些系統(tǒng)可能會(huì)在關(guān)鍵時(shí)刻產(chǎn)生適得其反的效果。

以色列內(nèi)蓋夫本-古里安大學(xué)和日本科技公司富士通集團(tuán)的研究人員聯(lián)合發(fā)表了一篇論文，指出某些基于攝像頭的自動(dòng)駕駛系統(tǒng)在遇到應(yīng)急車輛閃爍燈光時(shí)，可能無(wú)法準(zhǔn)確識(shí)別道路上的物體。研究人員將這一現(xiàn)象形象地稱為“數(shù)字癲癇發(fā)作”（Digital Epileptic Seizure），簡(jiǎn)稱“epilepticar”。這些系統(tǒng)雖然經(jīng)過人工智能訓(xùn)練，可以區(qū)分不同的道路物體圖像，但在應(yīng)急車輛燈光閃爍的影響下，其識(shí)別效果會(huì)顯著下降，尤其是在黑暗環(huán)境中更為明顯。

換句話說，應(yīng)急車輛的燈光可能讓自動(dòng)駕駛系統(tǒng)對(duì)前方形似汽車的物體產(chǎn)生疑慮，難以準(zhǔn)確判斷。研究人員在論文中指出，這一漏洞存在重大風(fēng)險(xiǎn)，可能導(dǎo)致開啟自動(dòng)駕駛系統(tǒng)的車輛在應(yīng)急車輛附近發(fā)生碰撞，甚至可能被惡意利用來(lái)制造事故。

盡管這一研究結(jié)果引發(fā)了擔(dān)憂，但研究人員也提出了幾點(diǎn)說明。首先，他們尚未在具體的駕駛系統(tǒng)上驗(yàn)證該理論，例如特斯拉的 Autopilot 系統(tǒng)。而是選擇了五款嵌入市售行車記錄儀的現(xiàn)成自動(dòng)駕駛系統(tǒng)進(jìn)行實(shí)驗(yàn)，這些記錄儀均通過亞馬遜購(gòu)買。雖然這些產(chǎn)品被宣傳為具有一定的碰撞檢測(cè)功能，但在本研究中僅作為攝像頭使用。

研究人員將這些系統(tǒng)捕獲的圖像通過四個(gè)開源對(duì)象檢測(cè)器進(jìn)行處理，這些檢測(cè)器通過圖像訓(xùn)練來(lái)區(qū)分不同的物體。然而，研究人員尚不確定是否有汽車制造商使用了這些對(duì)象檢測(cè)器。這可能是因?yàn)榇蠖鄶?shù)系統(tǒng)已經(jīng)針對(duì)應(yīng)急車輛燈光漏洞進(jìn)行了改進(jìn)。

內(nèi)蓋夫本-古里安大學(xué)的網(wǎng)絡(luò)安全與機(jī)器學(xué)習(xí)研究員本?納西（Ben Nassi）表示，這項(xiàng)研究受到 2018 年至 2021 年間特斯拉 Autopilot 系統(tǒng)與約 16 輛靜止應(yīng)急車輛發(fā)生碰撞事故的啟發(fā)。他指出：“我們一開始就懷疑，這些碰撞可能與應(yīng)急車輛的閃爍燈光有關(guān)。無(wú)論是救護(hù)車、警車還是消防車，它們的形狀和大小各不相同，因此導(dǎo)致問題的并不是車輛本身，而是燈光。”

美國(guó)國(guó)家公路交通安全管理局（NHTSA）對(duì)上述事故進(jìn)行了長(zhǎng)達(dá)三年的調(diào)查，最終促使特斯拉召回了 Autopilot 軟件。該系統(tǒng)旨在無(wú)需駕駛員干預(yù)的情況下完成轉(zhuǎn)向、加速、制動(dòng)和變道等任務(wù)。然而，NHTSA 調(diào)查顯示，Autopilot 未能確保駕駛員在系統(tǒng)啟用時(shí)保持足夠的注意力并控制車輛。

其他汽車制造商的高級(jí)駕駛輔助系統(tǒng)（如通用汽車的 Super Cruise 和福特的 BlueCruise）也能完成部分駕駛?cè)蝿?wù)，但要求駕駛員在駕駛過程中保持專注，并且這些系統(tǒng)僅能在地圖繪制好的特定區(qū)域內(nèi)運(yùn)行，這與 Autopilot 有所不同。

NHTSA 發(fā)言人露西婭?桑切斯（Lucia Sanchez）在一份聲明中表示，應(yīng)急車輛燈光確實(shí)可能對(duì)某些先進(jìn)駕駛輔助系統(tǒng)的性能產(chǎn)生影響?！霸谀承┣闆r下，當(dāng)應(yīng)急車輛出現(xiàn)在車道上時(shí)，我們發(fā)現(xiàn)部分高級(jí)駕駛輔助系統(tǒng)未能對(duì)其閃爍燈光做出適當(dāng)反應(yīng)，”她指出。

特斯拉在 2021 年解散了公關(guān)團(tuán)隊(duì)，因此未對(duì)相關(guān)置評(píng)請(qǐng)求作出回應(yīng)。研究人員在測(cè)試中使用的攝像系統(tǒng)來(lái)自 HP、Pelsee、Azdome、Imagebon 和 Rexing，這些公司同樣未回應(yīng)置評(píng)請(qǐng)求。

研究人員強(qiáng)調(diào)，他們無(wú)法斷言特斯拉的 Autopilot 與應(yīng)急車輛燈光之間的具體關(guān)聯(lián)。納西表示：“我并未聲稱了解特斯拉車輛為何與應(yīng)急車輛發(fā)生碰撞，也不確定這種情況是否仍然是一個(gè)漏洞?！?/p>

研究人員的實(shí)驗(yàn)主要集中在基于圖像的物體檢測(cè)技術(shù)上。然而，許多汽車制造商還使用雷達(dá)和激光雷達(dá)等其他傳感器來(lái)檢測(cè)道路障礙物。特斯拉等少數(shù)技術(shù)開發(fā)者主張，通過復(fù)雜的人工智能訓(xùn)練增強(qiáng)的圖像系統(tǒng)不僅能支持駕駛輔助，還能實(shí)現(xiàn)完全自動(dòng)駕駛。特斯拉首席執(zhí)行官埃隆?馬斯克（Elon Musk）上個(gè)月表示，該公司計(jì)劃明年利用基于視覺的系統(tǒng)實(shí)現(xiàn)自動(dòng)駕駛。

自動(dòng)駕駛系統(tǒng)如何應(yīng)對(duì)應(yīng)急車輛燈光，取決于汽車制造商的設(shè)計(jì)思路。有些制造商選擇調(diào)整技術(shù)，對(duì)不完全確定是障礙物的物體做出反應(yīng)。然而，這種策略可能導(dǎo)致“誤報(bào)”，例如誤將一個(gè)形似兒童的紙箱當(dāng)成真實(shí)障礙物，從而緊急剎車。其他制造商則可能選擇僅對(duì)高度確信是障礙物的物體做出反應(yīng)。這種策略在極端情況下可能導(dǎo)致車輛未能及時(shí)剎車，與另一輛車發(fā)生碰撞，因?yàn)橄到y(tǒng)未能正確識(shí)別該車輛。

為了解決這一問題，本-古里安大學(xué)和富士通集團(tuán)的研究人員開發(fā)了一款名為“Caracetamol”的軟件修復(fù)程序。這一名稱結(jié)合了“car”（汽車）和“Paracetamol”（撲熱息痛）。該程序通過專門訓(xùn)練識(shí)別帶有應(yīng)急燈光的車輛，顯著提升物體檢測(cè)的準(zhǔn)確性。

加州大學(xué)圣地亞哥分校計(jì)算機(jī)科學(xué)與工程助理教授勞倫斯?費(fèi)爾南德斯（Earlence Fernandes）評(píng)價(jià)該研究“合理且有意義”。他指出：“就像人類可能因應(yīng)急燈光的閃爍而短暫‘致盲’，高級(jí)駕駛輔助系統(tǒng)的攝像頭也可能短暫‘失明’?！?/p>

麻省理工學(xué)院 AGE 實(shí)驗(yàn)室研究車輛自動(dòng)化與安全的研究員布萊恩?雷默（Bryan Reimer）認(rèn)為，這項(xiàng)研究揭示了基于人工智能的駕駛系統(tǒng)存在的更廣泛局限性。他強(qiáng)調(diào)，汽車制造商需要開展“可重復(fù)、可靠的驗(yàn)證”來(lái)識(shí)別盲點(diǎn)，如對(duì)應(yīng)急燈光的敏感性。他擔(dān)憂部分汽車制造商“技術(shù)發(fā)展速度已超過其測(cè)試能力”。