Meta將在旗下社交平臺(tái)標(biāo)記AI生成圖像，方便用戶(hù)識(shí)別

2月7日消息，美國(guó)時(shí)間周二，F(xiàn)acebook母公司Meta的全球事務(wù)總裁尼克·克萊格（Nick Clegg）宣布，未來(lái)幾個(gè)月將推出一項(xiàng)新技術(shù)，利用文件內(nèi)的隱形標(biāo)記來(lái)檢測(cè)和標(biāo)記其他公司人工智能（AI）服務(wù)生成的圖像。

克萊格在一篇博客文章中詳細(xì)介紹了這項(xiàng)計(jì)劃。他表示，Meta將在其旗下的Facebook、Instagram和Threads等服務(wù)平臺(tái)上，對(duì)所有帶有標(biāo)記的內(nèi)容應(yīng)用這些新標(biāo)簽。這將幫助用戶(hù)識(shí)別那些看似真實(shí)照片，實(shí)則是由人工智能創(chuàng)作的圖像。

值得一提的是，Meta已率先對(duì)其自家人工智能工具生成的所有內(nèi)容進(jìn)行了標(biāo)簽處理?？巳R格透露，一旦新系統(tǒng)啟動(dòng)并運(yùn)行順利，Meta將對(duì)OpenAI、微軟、Adobe、Midjourney、Shutterstock和谷歌等公司所運(yùn)行服務(wù)上創(chuàng)建的圖像采取同樣的處理方式。

這一舉措標(biāo)志著科技公司正在積極開(kāi)發(fā)一個(gè)新興的標(biāo)準(zhǔn)體系，旨在減輕與生成式人工智能技術(shù)相關(guān)的潛在風(fēng)險(xiǎn)。生成式人工智能技術(shù)可以根據(jù)簡(jiǎn)單提示生成看似真實(shí)但實(shí)際上虛假的內(nèi)容。

克萊格在接受采訪(fǎng)時(shí)表達(dá)了對(duì)目前技術(shù)能力的信心，他認(rèn)為這些公司現(xiàn)在可以可靠地標(biāo)記人工智能生成的圖像。不過(guò)，他也坦言，標(biāo)記音頻和視頻內(nèi)容的工具更為復(fù)雜，目前仍在緊張開(kāi)發(fā)中。

這一新計(jì)劃顯然借鑒了過(guò)去十年間一些公司建立的協(xié)調(diào)跨平臺(tái)刪除被禁內(nèi)容的模板。

克萊格強(qiáng)調(diào)：“盡管這項(xiàng)技術(shù)，特別是在音頻和視頻領(lǐng)域，還有待完善，但我們希望能夠借此創(chuàng)造一種動(dòng)力和激勵(lì)，促使其他行業(yè)效仿?！?/p>

在談到內(nèi)容管理時(shí)，克萊格透露，Meta將開(kāi)始要求用戶(hù)對(duì)自己修改過(guò)的音頻和視頻內(nèi)容貼上標(biāo)簽。如果用戶(hù)未能遵守這一規(guī)定，將會(huì)面臨處罰。但克萊格沒(méi)有詳細(xì)說(shuō)明處罰措施。

然而，克萊格也承認(rèn)，目前在標(biāo)記由ChatGPT等人工智能工具生成的書(shū)面文本方面，尚缺乏有效的機(jī)制。

當(dāng)被問(wèn)及Meta是否會(huì)對(duì)其加密消息服務(wù)WhatsApp上分享的生成式人工智能內(nèi)容貼上標(biāo)簽時(shí)，Meta發(fā)言人并未給出明確答復(fù)。

周一，Meta的獨(dú)立監(jiān)督委員會(huì)對(duì)該公司處理誤導(dǎo)性篡改視頻的政策提出了批評(píng)，認(rèn)為該政策過(guò)于狹隘，應(yīng)該采取標(biāo)記內(nèi)容的方式而非直接刪除?？巳R格表示大體上同意這些批評(píng)，并承認(rèn)現(xiàn)有政策在應(yīng)對(duì)合成內(nèi)容和混合內(nèi)容日益增多的環(huán)境下顯得捉襟見(jiàn)肘。

克萊格以Meta正在推動(dòng)的新標(biāo)簽合作關(guān)系為例，證明公司已經(jīng)在朝著監(jiān)督委員會(huì)提議的方向努力邁進(jìn)。