Meta將在旗下社交平臺標記AI生成圖像，方便用戶識別

2月7日消息，美國時間周二，F(xiàn)acebook母公司Meta的全球事務總裁尼克·克萊格（Nick Clegg）宣布，未來幾個月將推出一項新技術(shù)，利用文件內(nèi)的隱形標記來檢測和標記其他公司人工智能（AI）服務生成的圖像。

克萊格在一篇博客文章中詳細介紹了這項計劃。他表示，Meta將在其旗下的Facebook、Instagram和Threads等服務平臺上，對所有帶有標記的內(nèi)容應用這些新標簽。這將幫助用戶識別那些看似真實照片，實則是由人工智能創(chuàng)作的圖像。

值得一提的是，Meta已率先對其自家人工智能工具生成的所有內(nèi)容進行了標簽處理。克萊格透露，一旦新系統(tǒng)啟動并運行順利，Meta將對OpenAI、微軟、Adobe、Midjourney、Shutterstock和谷歌等公司所運行服務上創(chuàng)建的圖像采取同樣的處理方式。

這一舉措標志著科技公司正在積極開發(fā)一個新興的標準體系，旨在減輕與生成式人工智能技術(shù)相關的潛在風險。生成式人工智能技術(shù)可以根據(jù)簡單提示生成看似真實但實際上虛假的內(nèi)容。

克萊格在接受采訪時表達了對目前技術(shù)能力的信心，他認為這些公司現(xiàn)在可以可靠地標記人工智能生成的圖像。不過，他也坦言，標記音頻和視頻內(nèi)容的工具更為復雜，目前仍在緊張開發(fā)中。

這一新計劃顯然借鑒了過去十年間一些公司建立的協(xié)調(diào)跨平臺刪除被禁內(nèi)容的模板。

克萊格強調(diào)：“盡管這項技術(shù)，特別是在音頻和視頻領域，還有待完善，但我們希望能夠借此創(chuàng)造一種動力和激勵，促使其他行業(yè)效仿?！?/p>

在談到內(nèi)容管理時，克萊格透露，Meta將開始要求用戶對自己修改過的音頻和視頻內(nèi)容貼上標簽。如果用戶未能遵守這一規(guī)定，將會面臨處罰。但克萊格沒有詳細說明處罰措施。

然而，克萊格也承認，目前在標記由ChatGPT等人工智能工具生成的書面文本方面，尚缺乏有效的機制。

當被問及Meta是否會對其加密消息服務WhatsApp上分享的生成式人工智能內(nèi)容貼上標簽時，Meta發(fā)言人并未給出明確答復。

周一，Meta的獨立監(jiān)督委員會對該公司處理誤導性篡改視頻的政策提出了批評，認為該政策過于狹隘，應該采取標記內(nèi)容的方式而非直接刪除。克萊格表示大體上同意這些批評，并承認現(xiàn)有政策在應對合成內(nèi)容和混合內(nèi)容日益增多的環(huán)境下顯得捉襟見肘。

克萊格以Meta正在推動的新標簽合作關系為例，證明公司已經(jīng)在朝著監(jiān)督委員會提議的方向努力邁進。