深度丨人工智能倫理建制進(jìn)入新階段 如何實(shí)現(xiàn)“嵌入式”治理？

連續(xù)5年世界人工智能大會(huì)聚焦AI倫理治理，治理進(jìn)程如何？治理重點(diǎn)有何變化？

　　自2018年上海首次舉辦世界人工智能大會(huì)以來，“人工智能倫理治理”相關(guān)內(nèi)容已連續(xù)5年作為重點(diǎn)議題被提及。

　　在2022世界人工智能大會(huì)上，21世紀(jì)經(jīng)濟(jì)報(bào)道記者關(guān)注到，共有2022人工智能治理論壇、2022世界人工智能大會(huì)法治論壇、亞洲科技倫理治理與可持續(xù)發(fā)展論壇、智能社會(huì)論壇、數(shù)字時(shí)代的技術(shù)責(zé)任等至少5個(gè)論壇，聚焦人工智能倫理與法治問題。

　　人工智能產(chǎn)業(yè)經(jīng)過5年快速發(fā)展，治理進(jìn)程如何？下一階段的AI治理重點(diǎn)在哪些方面？

　　從關(guān)注倫理到落地治理

　　回顧5年前，人工智能技術(shù)的安全應(yīng)用話題進(jìn)入大眾視野。

　　在2018人工智能大會(huì)上，李彥宏提出“遵循AI倫理”，他認(rèn)為真正的AI公司不僅在技術(shù)層面與AI緊密結(jié)合，文化也必須“AI化”。他表示AI的四大原則，分別是安全可控、促進(jìn)人類平等獲得技術(shù)能力、教人學(xué)習(xí)讓人成長、為人類帶來更多的自由和可能，其中“安全可控”是AI的最高原則。

　　也是在這一年的人工智能大會(huì)上，《人工智能安全發(fā)展上海倡議》發(fā)布，提出面向未來、以人為本、責(zé)任明晰、透明監(jiān)管、隱私保護(hù)、算法公正、和平利用、國際合作等八大方面。

　　2019年5月，上海國家新一代人工智能創(chuàng)新發(fā)展試驗(yàn)區(qū)揭牌，明確了建立健全政策法規(guī)、倫理規(guī)范和治理體系的相關(guān)任務(wù)。6月，國家新一代人工智能治理專業(yè)委員會(huì)發(fā)布了《新一代人工智能治理原則》，突出了負(fù)責(zé)任和開放協(xié)作的主題。在2019世界人工智能大會(huì)治理主題論壇上，發(fā)布了《中國青年科學(xué)家2019人工智能創(chuàng)新治理上海宣言》，強(qiáng)調(diào)人工智能發(fā)展需要遵循的四大責(zé)任，包括倫理責(zé)任、安全責(zé)任、法律責(zé)任和社會(huì)責(zé)任等。

　　2020年，新一代人工智能技術(shù)從“感知智能”邁向“認(rèn)知智能”，讓機(jī)器實(shí)現(xiàn)理解、推理、決策、可解釋的認(rèn)知智能正在成為AI研究的熱點(diǎn)和趨勢。在機(jī)器智能進(jìn)一步升級的背景下，如何發(fā)展“負(fù)責(zé)任的人工智能”成為重要議題，在當(dāng)年的世界人工智能大會(huì)上，多個(gè)論壇對AI法治、安全、倫理問題進(jìn)行了集中討論。

　　2021年，人工智能治理監(jiān)管趨嚴(yán)、立法加速已成為大勢所趨。

　　一方面，我國對網(wǎng)絡(luò)安全、數(shù)據(jù)安全、個(gè)人隱私保護(hù)的立法逐步完善。2021年8月，國內(nèi)首個(gè)針對人臉識別的司法解釋《最高人民法院關(guān)于審理使用人臉識別技術(shù)處理個(gè)人信息相關(guān)民事案件適用法律若干問題的規(guī)定》正式實(shí)施；9月，《中華人民共和國數(shù)據(jù)安全法》實(shí)施；同年11月1日，《中華人民共和國個(gè)人信息保護(hù)法》正式實(shí)施；同月，《網(wǎng)絡(luò)數(shù)據(jù)安全管理?xiàng)l例(征求意見稿)》發(fā)布。全國各地也加快了數(shù)據(jù)立法、數(shù)據(jù)交易場所建設(shè)的進(jìn)程。

　　另一方面，我國進(jìn)一步推動(dòng)算法治理，印發(fā)《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》，《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》也在2022年3月正式實(shí)施。

　　同樣在這一年，科技倫理問題迎來集中治理。

　　2021年11月，聯(lián)合國教科文組織大會(huì)第41屆會(huì)議審議通過《人工智能倫理問題建議書》，這是全球首份人工智能倫理問題的全球性協(xié)議，呼吁各國政府加快能力建設(shè)，推動(dòng)科技發(fā)展，呼吁充分尊重人權(quán)與人的尊嚴(yán)，環(huán)境保護(hù)與可持續(xù)性并致力于創(chuàng)建一個(gè)公平、包容的社會(huì)，呼吁制定人工智能發(fā)展路徑，并關(guān)注人工智能的全生命周期等。

　　“目前人工智能帶來的主要風(fēng)險(xiǎn)不一定是技術(shù)的不成熟，而是AI技術(shù)的快速發(fā)展對倫理和社會(huì)文化上的影響已超越了我們的認(rèn)知。”在2022世界人工智能治理論壇上，聯(lián)合國教科文組織駐華代表處社會(huì)科學(xué)及人文科學(xué)項(xiàng)目專員洪智偉表示，要減少使用AI技術(shù)帶來的社會(huì)和倫理風(fēng)險(xiǎn)，如加劇不平等現(xiàn)象、隱私侵犯、造成偏見等問題，需要在社會(huì)和文化價(jià)值觀的嵌入治理，亟需進(jìn)行國際合作，形成多邊、靈活的AI治理政策，實(shí)現(xiàn)更有預(yù)見性的AI治理。

　　同時(shí)，我國科學(xué)倫理治理進(jìn)程也在加速。今年3月，《關(guān)于加強(qiáng)科技倫理治理的意見》正式出臺(tái)，進(jìn)一步強(qiáng)調(diào)要健全科技倫理體制，壓實(shí)創(chuàng)新主體科技倫理管理主體責(zé)任。

　　“《關(guān)于加強(qiáng)科技倫理治理的意見》推動(dòng)了我國科技倫理建制進(jìn)入了新階段?！痹趤喼蘅萍紓惱碇卫砼c可持續(xù)論壇上，上海現(xiàn)代服務(wù)業(yè)聯(lián)合會(huì)會(huì)長、原上海市人大常委會(huì)副主任鄭惠強(qiáng)指出，必須拋棄先發(fā)展后治理的模式，而應(yīng)堅(jiān)持在規(guī)范中發(fā)展、在發(fā)展中規(guī)范的模式，政產(chǎn)學(xué)研互通探尋可持續(xù)發(fā)展議題下的治理新模式。

　　為進(jìn)一步建設(shè)人工智能產(chǎn)業(yè)發(fā)展“上海高地”，上海在人工智能立法方面同樣充分考慮了AI倫理建制。今年8月30日，在2022世界人工智能大會(huì)開幕前，《上海市促進(jìn)人工智能產(chǎn)業(yè)發(fā)展條例(草案)》正式公開征求意見，其中提及設(shè)立人工智能倫理委員會(huì)，提倡創(chuàng)新分級治理，并對開發(fā)者倫理進(jìn)行規(guī)范，要求企業(yè)合理應(yīng)用人工智能技術(shù)，強(qiáng)化勞動(dòng)者保護(hù)和特殊群體關(guān)照。

　　在“2022世界人工智能大會(huì)法治論壇—數(shù)字法治：供給和適用”主題論壇上，上海有關(guān)部門領(lǐng)導(dǎo)介紹了關(guān)于上海人工智能立法考慮的三大重點(diǎn)因素，包括以良法善治引領(lǐng)產(chǎn)業(yè)創(chuàng)新與深化改革發(fā)展、將相關(guān)產(chǎn)業(yè)實(shí)踐經(jīng)驗(yàn)固化為法律制度條文，促進(jìn)人工智能技術(shù)創(chuàng)新與防范風(fēng)險(xiǎn)相統(tǒng)一等。尤其在立法保障產(chǎn)業(yè)安全，加強(qiáng)規(guī)范治理方面，上海條例前瞻預(yù)判，致力于平衡好產(chǎn)業(yè)發(fā)展與安全規(guī)范之間的關(guān)系，在規(guī)制的同時(shí)，為新賽道、新產(chǎn)業(yè)在可控范圍內(nèi)預(yù)留出發(fā)展空間。

　　共議“嵌入式”科技倫理治理模式

　　“隨著人工智能技術(shù)的創(chuàng)新突破和加快應(yīng)用，人工智能的治理出現(xiàn)了三大新特點(diǎn)。一是人工智能加速應(yīng)用，產(chǎn)生了更加復(fù)雜多元的治理問題，治理的維度和廣度不斷拓展。二是正在形成更加體系化的人工智能治理模式，治理的方法和手段日益豐富。三是人工智能治理的國際交流與合作更加活躍，積極推動(dòng)形成人工智能治理的國際共識和國際機(jī)制?！?科技部戰(zhàn)略規(guī)劃司副司長邢懷濱在2022世界人工智能大會(huì)治理論壇致辭中指出。

　　在政府與行業(yè)協(xié)會(huì)的引導(dǎo)下，企業(yè)的AI倫理治理提升到了新高度，建立“嵌入式”科技倫理治理體系或是一大方向。

　　所謂“嵌入式”的科技倫理治理，即在科技創(chuàng)新發(fā)生初期，科技倫理就應(yīng)當(dāng)有所介入，對新興科技的發(fā)展和風(fēng)險(xiǎn)進(jìn)行有效干預(yù)和管理。

　　“隨著AI產(chǎn)業(yè)的爆發(fā)式增長，AI領(lǐng)軍者們已經(jīng)開始意識到，在技術(shù)投入使用之前，必須把道德切實(shí)納入考量，需要把AI治理原則置于整個(gè)部署過程之中?！卑涅iAppen全球高級副總裁、大中國區(qū)及北亞區(qū)總經(jīng)理田小鵬指出，如果要部署負(fù)責(zé)任的AI，就必須要有負(fù)責(zé)任的數(shù)據(jù)。澳鵬Appen在全球提供AI訓(xùn)練數(shù)據(jù)服務(wù)已逾26年，田小鵬在接受21世紀(jì)經(jīng)濟(jì)報(bào)道記者專訪時(shí)提到，機(jī)器是對人工勞動(dòng)力的補(bǔ)充，但機(jī)器的訓(xùn)練依然需要大量人力尤其是專家能力的輔助，如何以高質(zhì)量數(shù)據(jù)正確地訓(xùn)練計(jì)算機(jī)，推動(dòng)計(jì)算機(jī)學(xué)習(xí)與發(fā)展，是AI治理的一大難點(diǎn)。

　　上海交通大學(xué)凱原法學(xué)院院長、特聘教授彭誠信在發(fā)言中表示：數(shù)字社會(huì)中倫理之治的根本還在于人，企業(yè)倫理、科技的可信向善，歸根結(jié)底還是人的可信向善，因此需要完善法律監(jiān)管、理清法律基本責(zé)任，確立人們的行為規(guī)范。

　　為進(jìn)一步規(guī)范“人”在科技倫理治理中的作用，在今年3月發(fā)布的《關(guān)于加強(qiáng)科技倫理治理的意見》中要求，從事生命科學(xué)、醫(yī)學(xué)、人工智能等科技活動(dòng)的機(jī)構(gòu)，研究內(nèi)容涉及科技倫理敏感領(lǐng)域的，應(yīng)設(shè)立科技倫理(審查)委員會(huì)。

　　目前，國內(nèi)多家大型企業(yè)已深度開展人工智能倫理與治理工作。

　　在2022世界人工智能大會(huì)上，阿里巴巴集團(tuán)宣布成立科技倫理治理委員會(huì)，并引入7位外部顧問委員，強(qiáng)化三方監(jiān)督。委員會(huì)提出“以人為本、普惠正直、安全可靠、隱私保護(hù)、可信可控、開放共治”六大科技倫理準(zhǔn)則，重點(diǎn)推動(dòng)算法治理、隱私保護(hù)、倫理制度建設(shè)等工作，探索相關(guān)前沿技術(shù)，提升公司整體科技自省和自律的水平。

　　商湯科技則是在2020年1月統(tǒng)籌推進(jìn)人工智能倫理治理工作體系建設(shè)，在今年發(fā)布《“平衡發(fā)展”的人工智能治理白皮書——商湯人工智能倫理與治理年度報(bào)告(2022年)》。報(bào)告指出，當(dāng)前人工智能治理已進(jìn)入到以技術(shù)驗(yàn)證為主的落地實(shí)踐階段?；诖?，商湯科技在去年“平衡發(fā)展”的人工智能倫理觀的基礎(chǔ)上，進(jìn)一步提出了發(fā)展“負(fù)責(zé)任且可評估”的人工智能，并將其作為商湯開展人工智能治理的愿景目標(biāo)，打造倫理治理閉環(huán)。