阿西莫夫的機(jī)器人三定律和Mobileye的自動駕駛五原則

　　很多科幻小說作家的想象，最終在現(xiàn)實(shí)世界中得到了應(yīng)驗(yàn)。

　　大師級科幻小說作家阿西莫夫有過一個(gè)思考，對于AI驅(qū)動的機(jī)器人，除了應(yīng)該不斷提升機(jī)器本身的智力水平之外，讓其更好用之外，在其和人類打交道的時(shí)候，還需要一個(gè)更宏觀的，在技術(shù)至上的指導(dǎo)原則。他在短篇小說集《我，機(jī)器人》中寫了這樣一組規(guī)則，稱為“機(jī)器人三定律”：

　　1. 機(jī)器人不得傷害人類，或者不得置人類于危難中;

　　2. 機(jī)器人必須服從人類的命令，除非與第一定律沖突;

　　3. 機(jī)器人可以在不與第一、第二定律沖突情況下維護(hù)自身存在。

　　1985年，阿西莫夫又出版了《機(jī)器人與帝國》，在書中他將三大法則擴(kuò)張為四大法則，增加了第零法則：機(jī)器人不得傷害整體人類，或坐視整體人類受到傷害，構(gòu)成更加完整的機(jī)器人四定律。

　　雖然機(jī)器人三定律、四定律在很多有關(guān)于人工智能的電影和文學(xué)作品中屢屢出現(xiàn)，但也一直停留在想象階段，并沒有被實(shí)際應(yīng)用過。一方面的原因，是在很長一段時(shí)間里，機(jī)器的智力水平還沒有高到能和人類社會日常生活的息息相關(guān);另外一個(gè)原因，則是由于阿西莫夫的原則只是簡單的語言符號，并未構(gòu)成嚴(yán)密的邏輯閉環(huán)。

　　但這并不妨礙阿西莫夫的思考成為一種新學(xué)科“機(jī)械倫理學(xué)”的基礎(chǔ)，一門以人類為中心，關(guān)于機(jī)器人的建造和使用的學(xué)科，其核心就是如何安全的應(yīng)用智能機(jī)器。

　　自動駕駛，數(shù)據(jù)是基石，但并不是全部

　　而Mobileye公司，正在試圖在自動駕駛領(lǐng)域，書寫堪比機(jī)器人三定律，甚至更精確的規(guī)則。

　　這個(gè)月的月初，至頂網(wǎng)(賽博故事母平臺)拜訪了Mobileye，一家創(chuàng)立于 1999 年，總部位于以色列的高科技公司。該公司的主要業(yè)務(wù)為輔助駕駛系統(tǒng)和自動駕駛開發(fā)所需要的計(jì)算機(jī)視覺、機(jī)器學(xué)習(xí)、數(shù)據(jù)分析、定位與地圖建模等技術(shù)。2017 年的 3 月，Mobileye被英特爾公司斥資 153 億美元收購，并與后者的自動駕駛事業(yè)部(ADG)合并，形成新的自動駕駛部門，由 Mobileye 聯(lián)合創(chuàng)始人、董事長兼首席技術(shù)官阿姆儂·沙書亞(Amnon Shashua)教授領(lǐng)導(dǎo)。

　　圖注：Mobileye 聯(lián)合創(chuàng)始人、董事長兼首席技術(shù)官阿姆儂·沙書亞教授

　　很長時(shí)間以來，自動駕駛汽車的安全可靠性，一直被認(rèn)為只和數(shù)據(jù)量密切相關(guān)。這是由于這一次由機(jī)器學(xué)習(xí)、深度學(xué)習(xí)帶來人工智能浪潮的本質(zhì)來是使用統(tǒng)計(jì)學(xué)方法對數(shù)據(jù)的利用，讓機(jī)器通過“吃掉”海量的數(shù)據(jù)來總結(jié)模式和規(guī)律。只要數(shù)據(jù)足夠多，也就是路測的里程足夠長，自動駕駛汽車就會更安全。沙書亞在和我們交流中表示，在自動駕駛這件事上，“把任務(wù)完全交給統(tǒng)計(jì)學(xué)是不可行的”，不能只有數(shù)據(jù)訓(xùn)練，還要有一些常識原則，否則會面臨極大的發(fā)展障礙。

　　障礙之一在于經(jīng)濟(jì)性，“要讓人類信任自動駕駛汽車，安全性至少要比人類司機(jī)好100倍。如果用統(tǒng)計(jì)學(xué)方法來實(shí)現(xiàn)，這就意味著1億小時(shí)的路測，假設(shè)路測時(shí)每小時(shí)行駛30公里，路測的距離是30億公里”， 沙書亞做了一個(gè)簡單的計(jì)算來證明經(jīng)濟(jì)上的不可能性，畢竟30億公里，相當(dāng)于繞地球跑了7萬圈還不止。

　　障礙之二來自于黑箱問題，沙書亞認(rèn)為統(tǒng)計(jì)學(xué)之上的AI “既不透明、也不公開”?，F(xiàn)在的深度學(xué)習(xí)是基于數(shù)據(jù)的自動編程，一種方式成功了，我們知道它有效，但是我們不知道它為什么有效，反之，如果它失敗了，我們也不知道它為什么失效，唯一能做的就是不斷調(diào)整參數(shù)，加大數(shù)據(jù)量，試圖讓結(jié)果更盡如人意，但實(shí)際上我們對其“內(nèi)在”一無所知。

　　但對自動駕駛而言，透明是非常重要的。畢竟駕駛這件事太復(fù)雜了，涉及到社會安全，涉及到駕駛員、乘客、路人，以及涉及交通部門、汽車公司甚至保險(xiǎn)公司等利益相關(guān)方。一旦車輛發(fā)生事故，我們卻無法向涉事相關(guān)方解釋緣由，也無法界定責(zé)任，進(jìn)而很難讓自動駕駛贏得社會信任。

　　在自動駕駛汽車，很可能成為人類第一個(gè)要考慮如何與其安全相處的智能機(jī)器之際。Mobileye試圖在統(tǒng)計(jì)學(xué)之上，增加一些人類可以理解的規(guī)則，發(fā)布了它RSS—— Responsibility Sensitive Safety模型，中文翻譯為責(zé)任敏感安全模型。RSS中所制定的各種規(guī)則，正如同阿西莫夫的“機(jī)器人三定律”，其核心目的也是安全。

　　RSS，機(jī)器可以讀懂的數(shù)學(xué)安全“定律”

　　在之前發(fā)表的由沙書亞教授參與撰寫的論文“On a Formal Model of Safe and Scalable Self-driving Cars”中，和后續(xù)來自Mobileye公司的演講說明中，我們得知RSS模型為實(shí)現(xiàn)這樣的 “目標(biāo)”而設(shè)定：

　　1. 自動駕駛汽車本身不能導(dǎo)致事故(它可以是事故中的一方，但不是導(dǎo)致事故的一方);

　　2. 自動駕駛汽車應(yīng)該在其它車輛發(fā)生錯(cuò)誤時(shí)(導(dǎo)致事故)，做出正確反應(yīng)，避免發(fā)生更嚴(yán)重的事故。如果用一句話來總結(jié)，就是自動駕駛汽車永遠(yuǎn)不應(yīng)為一場事故負(fù)責(zé)。

　　之所設(shè)立這個(gè)目標(biāo)，可以理解為是要解決自動駕駛的可行性。不導(dǎo)致事故，就意味著自動架設(shè)汽車不會為事故承擔(dān)責(zé)任，這在基礎(chǔ)上卸下了監(jiān)管部門、汽車公司的壓力。

　　但如果沒有合理的方式，僅靠這句文字符號，無從保證自動駕駛汽車可以沿著這個(gè)目標(biāo)邁進(jìn)。所以自動駕駛汽車就需要能回答這樣幾個(gè)問題：1，什么是可能發(fā)生事故的危險(xiǎn)情況;2，遇到問題時(shí)，什么是正確的反應(yīng);3，以及最后，也是非常重要的，既然自動駕駛汽車要避免成為導(dǎo)致事故的一方，那么如何認(rèn)定事故中的責(zé)任方?(即如何避免成為責(zé)任方)

　　為實(shí)現(xiàn)這些目的，在這篇論文中，RSS規(guī)定了這樣五條基本常識性原則：

　　1. 別追尾(追尾前車無責(zé))。

　　2. 別突然并道，導(dǎo)致后車追尾(這是前車責(zé)任)。

　　3. 擁有“路權(quán)”，但別刻意爭取路權(quán)。(英文是：right-of-way is given，not taken)。如果舉例來說明，前車加塞，或許“可以不讓路，但是為了保證安全，可以讓速。

　　4. 小心視覺盲區(qū)。

　　5. 如果能避免事故又不會傷及他人，那一定要努力避免。

　　需要注意的是，RSS并非只是看似簡單的文字符號描述，而是由強(qiáng)大的數(shù)學(xué)邏輯來保證可實(shí)現(xiàn)，像下圖這樣的公式(關(guān)于安全車距)，在論文中處處可見。沙書亞也強(qiáng)調(diào)，必須遵守基于三方面的原則對這些常識進(jìn)行公式化，包括合理性、有效性和可驗(yàn)證性。而有了這些常識準(zhǔn)則，自動架設(shè)汽車的決策系統(tǒng)，就可以避開單純依靠統(tǒng)計(jì)學(xué)AI實(shí)現(xiàn)安全駕駛的低效性。

　　自動駕駛汽車的監(jiān)管、共識和價(jià)值

　　毫無疑問，由于涉及社會公共安全，自動駕駛是政府一定會介入監(jiān)管的領(lǐng)域。

　　在我們走訪Mobileye公司的過程中，發(fā)生了比較重要的新聞。Mobileye和大眾宣布共同合作首個(gè)自動駕駛網(wǎng)約車服務(wù)(也稱為出行即服務(wù)，MaaS)。沙書亞認(rèn)為這個(gè)項(xiàng)目的重點(diǎn)在于，這是全球第一個(gè)由政府參與的自動駕駛MaaS項(xiàng)目。以色列政府承諾將為此成立專門的委員會，討論監(jiān)管壁壘、監(jiān)管架構(gòu)支持MaaS發(fā)展。

　　對于自動駕駛汽車這樣的新生事物，沙書亞認(rèn)為監(jiān)管的松緊程度是非常重要的。如果為了安全，過于看重監(jiān)管，很可能一事無成。這方面來看，美國相對放松，歐洲則是重重監(jiān)管，過松或者過嚴(yán)都會保證一事無成(過松導(dǎo)致事故頻發(fā)讓公眾失去信心，過嚴(yán)則讓產(chǎn)業(yè)毫無創(chuàng)新機(jī)會)。而以色列做了制度上的創(chuàng)新，由政府介入來確保項(xiàng)目在安全性和可行性的平衡，“做到了創(chuàng)新型監(jiān)管(制度創(chuàng)新)”。

　　在沙書亞眼中，新的技術(shù)要求，讓政府法律的合理監(jiān)管體系，和技術(shù)上的嚴(yán)密數(shù)學(xué)邏輯，組成了一門重要的新學(xué)科——“法規(guī)科學(xué)”(regulatory science)，一門把法律和高等數(shù)學(xué)結(jié)合在一起的新學(xué)科，正如阿西莫夫催生了機(jī)械倫理學(xué)一樣。沙書亞希望RSS不是Mobileye一家之言，而是成為全球自動駕駛產(chǎn)業(yè)的共識，作為一項(xiàng)“常識規(guī)則”，認(rèn)同的人越多，安全性和可用性就越能得到保證。Mobileye現(xiàn)在正在同主機(jī)廠合作，同行業(yè)供應(yīng)商合作(百度4個(gè)月前宣布將采用Mobileye的RSS模型)，甚至同美國、中國等監(jiān)管機(jī)構(gòu)進(jìn)行合作，來開展這樣推動共識，協(xié)同創(chuàng)新的工作。

　　同樣發(fā)生在我們到達(dá)Mobileye之時(shí)，北京公交集團(tuán)、北太智能也同時(shí)到訪Mobileye，三方共同簽署了諒解備忘錄，建立合作伙伴關(guān)系。用北太智能的運(yùn)營總監(jiān)李華的話來說，“建立一個(gè)基礎(chǔ)交通大數(shù)據(jù)的基礎(chǔ)設(shè)施”。

　　在以色列，我體會到了兩種駕駛體驗(yàn)。

　　第一次是自駕，以色列并非是一個(gè)司機(jī)開車循規(guī)蹈矩的國度，當(dāng)我們一行人在異國他鄉(xiāng)小心自駕時(shí)，時(shí)不時(shí)被后邊響起的鳴笛聲催促，甚至被逆行超車。所以當(dāng)我把這個(gè)自動駕駛網(wǎng)約車相關(guān)新聞發(fā)到朋友圈時(shí)，有位在以色列工作過的朋友說，在這里開發(fā)自動駕駛，絕對是好地方，有足夠豐富的路測場景。

　　第二次是乘上了Mobileye平臺支持的自動駕駛汽車。在沒有人類司機(jī)干預(yù)的情況下，我們乘坐的福特汽車在馬路上自由穿梭。甚至在一次變線時(shí)，其反應(yīng)速度遠(yuǎn)遠(yuǎn)超過人類。而事后復(fù)盤一想，這絲毫不值得奇怪，畢竟這輛汽車的攝像頭可以實(shí)時(shí)兼顧前后兩百米的路況，根本無需像人類一樣轉(zhuǎn)向之前，還要匆忙再看一眼后視鏡。

　　實(shí)際上，自動駕駛汽車完全可能已經(jīng)比人類司機(jī)更杰出了，只不過出于跨物種擔(dān)心的緣故，我們需要自動駕駛汽車，比人類駕駛汽車的安全水平高一百倍，才能認(rèn)可一個(gè)新司機(jī)的出現(xiàn)。就讓人類“老司機(jī)”再保持最多不會超過十年的自信吧。