無(wú)人駕駛真正絆腳石是黑客 自動(dòng)化造成失業(yè)恐惹眾怒

　　據(jù)MIT Technology Review報(bào)道，在無(wú)人駕駛卡車和出租車上路之前，制造商們需要解決一個(gè)比防撞和導(dǎo)航復(fù)雜得多的問(wèn)題。這些車輛將不得不預(yù)見(jiàn)并抵御惡意攻擊者的侵?jǐn)_，這些人同時(shí)使用傳統(tǒng)網(wǎng)絡(luò)攻擊手段和基于所謂“對(duì)抗性機(jī)器學(xué)習(xí)”的新式攻擊方法。隨著越來(lái)越多的人一致認(rèn)為，無(wú)人駕駛汽車只需要幾年時(shí)間就會(huì)出現(xiàn)在城市里(比如機(jī)器人出租車)和高速公路上，以緩解長(zhǎng)途卡車司機(jī)的無(wú)聊感。然而，這種攻擊風(fēng)險(xiǎn)在很大程度上卻在鋪天蓋地的覆蓋報(bào)道中被忽略。

　　這不禁讓我想起了上世紀(jì)90年代早期推廣電子郵件的大量文章，當(dāng)時(shí)這種新興電子通訊領(lǐng)域還未被垃圾郵件所充斥。那時(shí)，機(jī)器學(xué)習(xí)被看作是解決世界垃圾郵件問(wèn)題的方案之一。事實(shí)上，今天的垃圾郵件問(wèn)題在很大程度上已被解決，但我們花了幾十年的時(shí)間才實(shí)現(xiàn)這個(gè)目標(biāo)。

　　目前還沒(méi)有黑客針對(duì)無(wú)人駕駛汽車發(fā)動(dòng)襲擊的報(bào)道。但具有諷刺意味的是，這的確是一個(gè)問(wèn)題。在20世紀(jì)90年代，互聯(lián)網(wǎng)初創(chuàng)公司開(kāi)發(fā)了首批電子商務(wù)平臺(tái)時(shí)，也沒(méi)有惡意攻擊者。在第一輪電子商務(wù)黑客襲擊發(fā)生之后，比爾·蓋茨(Bill Gates)給微軟寫(xiě)了一份備忘錄，要求公司認(rèn)真對(duì)待安全問(wèn)題。結(jié)果，如今的Windows成為世界上最安全的操作系統(tǒng)之一，微軟每年在網(wǎng)絡(luò)安全上的花費(fèi)超過(guò)10億美元。盡管如此，黑客還是不斷發(fā)現(xiàn)Windows操作系統(tǒng)、網(wǎng)絡(luò)瀏覽器和應(yīng)用程序的漏洞。

　　汽車公司很可能也會(huì)經(jīng)歷類似的過(guò)程。20世紀(jì)80年代設(shè)計(jì)的“CAN總線”(CAN bus)未能考慮安全性問(wèn)題，這個(gè)失敗讓人們普遍感到尷尬，因?yàn)楫?dāng)時(shí)還沒(méi)有驗(yàn)證的概念，現(xiàn)在他們似乎在關(guān)注此事。當(dāng)黑客們證明，道路上的車輛很容易受到幾個(gè)特定安全威脅的影響時(shí)，汽車制造商只能通過(guò)召回并升級(jí)數(shù)百萬(wàn)輛汽車的固件應(yīng)對(duì)。去年7月份，通用汽車公司首席執(zhí)行官瑪麗?巴拉(Mary Barra)表示，保護(hù)汽車免受網(wǎng)絡(luò)襲擊的影響“事關(guān)公共安全”。

　　但迄今為止所做的努力可能正錯(cuò)過(guò)下一個(gè)安全趨勢(shì)。無(wú)人駕駛汽車的開(kāi)發(fā)依賴于復(fù)雜的機(jī)器學(xué)習(xí)算法，但計(jì)算機(jī)視覺(jué)和防撞系統(tǒng)卻沒(méi)有被很好地理解。去年，美國(guó)卡內(nèi)基-梅隆大學(xué)的研究人員證明，使用一副透明的眼鏡，并在鏡框上印上時(shí)髦的圖案，就可以擊敗最先進(jìn)的人臉識(shí)別算法。

　　關(guān)于這個(gè)模式的某些東西以正確方式欺騙了算法，讓其以為自己看到了不存在的東西。首席研究員馬穆德·謝里夫(Mahmood Sharif)在電子郵件中稱：“我們已經(jīng)證明，通過(guò)模仿目標(biāo)人物或簡(jiǎn)單的識(shí)別錯(cuò)誤，攻擊者都可以逃避基于神經(jīng)網(wǎng)絡(luò)開(kāi)發(fā)的最先進(jìn)人臉識(shí)別算法?！?/p>

　　2016年，美國(guó)南卡羅來(lái)納大學(xué)、中國(guó)浙江大學(xué)以及中國(guó)網(wǎng)絡(luò)安全公司奇虎360(Qihoo 360)的研究人員證明，他們可以在特斯拉S上干擾各種傳感器，使其導(dǎo)航系統(tǒng)看不到物體。

　　最近許多關(guān)于無(wú)人駕駛的文章，甚至忽略了可能會(huì)有積極的、有適應(yīng)能力的惡意競(jìng)爭(zhēng)對(duì)手存在，他們可能試圖讓無(wú)人駕駛車輛發(fā)生重大事故。在接受《麻省理工技術(shù)評(píng)論》采訪時(shí)，美國(guó)國(guó)家運(yùn)輸安全委員會(huì)(National Transportation Safety Board)主席克里斯托弗?哈特(Christopher Hart)表示，他“非常樂(lè)觀”地認(rèn)為，無(wú)人駕駛汽車將減少美國(guó)道路上的事故數(shù)量。而在討論安全問(wèn)題時(shí)，哈特把重點(diǎn)放在了讓車輛進(jìn)行道德決策的必要性上。例如，當(dāng)重達(dá)36噸的卡車突然擋住汽車的路時(shí)，會(huì)發(fā)生什么?

　　為什么在明知會(huì)導(dǎo)致死亡的情況，依然有人想要攻擊無(wú)人駕駛汽車?其中一個(gè)原因是，無(wú)人駕駛汽車的廣泛部署將導(dǎo)致大量人員失業(yè)，其中有些人將會(huì)對(duì)此感到憤怒。2016年8月，福特公司首席執(zhí)行官馬克·菲爾茲(Mark Fields)表示，他計(jì)劃在2021年之前在城市中推出全自動(dòng)駕駛出租車。谷歌、日產(chǎn)和其他公司也計(jì)劃最早于2020年前推出類似的無(wú)人駕駛汽車。這些無(wú)人駕駛的出租車或運(yùn)載工具可能很容易被失業(yè)的卡車司機(jī)(或Uber司機(jī))用高功率激光指示器弄得暈頭轉(zhuǎn)向。

　　當(dāng)被問(wèn)及如何應(yīng)對(duì)競(jìng)爭(zhēng)對(duì)手的機(jī)器學(xué)習(xí)威脅計(jì)劃時(shí)，Uber發(fā)言人莎拉?阿伯德(Sarah Abboud)回應(yīng)道:“我們的安全專家團(tuán)隊(duì)不斷探索無(wú)人駕駛車輛的未來(lái)防御技術(shù)，包括數(shù)據(jù)完整性和濫用檢測(cè)。然而，隨著無(wú)人駕駛技術(shù)的發(fā)展，威脅模型也在進(jìn)化，這意味著今天的一些安全問(wèn)題可能與真正無(wú)人駕駛環(huán)境中所處理的問(wèn)題有所不同?！?/p>