警惕AI技術(shù)背后的隱蔽角落

換臉、變聲，移花接木，以假亂真……當(dāng)前，AI技術(shù)正在以勢(shì)不可擋的趨勢(shì)，創(chuàng)造數(shù)字技術(shù)生活，為社會(huì)帶來(lái)深刻影響和變革。

然而，在AI技術(shù)被廣泛應(yīng)用于各領(lǐng)域的背后，存在著隱蔽的黑暗角落。不法分子利用AI技術(shù)進(jìn)行違法犯罪，對(duì)社會(huì)安全構(gòu)成威脅。公安機(jī)關(guān)在對(duì)此類犯罪給予高度關(guān)注的同時(shí)也向公眾發(fā)出預(yù)警。

從眼下已經(jīng)出現(xiàn)的利用AI技術(shù)實(shí)施電信網(wǎng)絡(luò)詐騙犯罪活動(dòng)來(lái)看，其主要表現(xiàn)為下面幾種形式：一是騙子用AI換臉技術(shù)，偽裝成受害人的熟人、朋友，通過(guò)視頻通話，進(jìn)行信息確認(rèn)，騙取受害人的信任；二是騙子通過(guò)騷擾電話錄音等來(lái)提取聲音，獲取素材后，利用AI技術(shù)進(jìn)行聲音合成，然后用偽造的聲音欺騙受害人；三是騙子利用AI技術(shù)分析公眾發(fā)布在網(wǎng)絡(luò)上的各類信息，根據(jù)所要實(shí)施的騙術(shù)對(duì)人群進(jìn)行目標(biāo)篩選，個(gè)性化定制詐騙腳本，從而實(shí)施精準(zhǔn)詐騙。

但也有業(yè)內(nèi)人士指出，目前的AI換臉技術(shù)若做到融進(jìn)視頻通話中，并達(dá)到不卡頓、肉眼難以識(shí)別的真實(shí)質(zhì)感，在技術(shù)上并非易事。同時(shí)，AI換臉換聲技術(shù)如果被用于詐騙，騙子還必須對(duì)被換臉人的外貌、聲音、行為習(xí)慣、思維方式以及和受害人之間的關(guān)系等非常熟悉，否則很容易露出馬腳。

當(dāng)然，技術(shù)本身無(wú)好壞，關(guān)鍵在于如何利用。AI技術(shù)的應(yīng)用必須符合國(guó)家的法律法規(guī)以及社會(huì)倫理規(guī)范。為規(guī)范AI技術(shù)的合法合規(guī)使用，今年1月開(kāi)始施行的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，對(duì)人臉生成、替換、操控，合成人聲、仿聲等都有明確約束；今年4月，國(guó)家互聯(lián)網(wǎng)信息辦公室發(fā)布《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》，對(duì)AI偽造進(jìn)行了全面規(guī)定。

我國(guó)各地公安機(jī)關(guān)出重拳、全鏈條嚴(yán)厲打擊利用AI技術(shù)實(shí)施違法犯罪行為。同時(shí)，對(duì)社會(huì)公眾來(lái)說(shuō)，針對(duì)“變臉”“變聲”詐騙，一定要提高防范意識(shí)，不輕易向他人提供人臉、指紋等個(gè)人生物信息，不在社交平臺(tái)過(guò)度分享個(gè)人的動(dòng)圖、視頻，一旦發(fā)現(xiàn)自己有被騙風(fēng)險(xiǎn)，及時(shí)報(bào)警求助。

歸根結(jié)底，在使用AI技術(shù)時(shí)，要因勢(shì)利導(dǎo)、趨利避害，堅(jiān)守法律和道德的底線，使其更利于人類社會(huì)的進(jìn)步發(fā)展。