《紐約時報》聯(lián)合谷歌開發(fā)的 AI 算法

　　網(wǎng)絡(luò)媒體的的一大特色就是有評論區(qū)，供讀者直接對文章、視頻發(fā)表自己的看法，但灌水、罵戰(zhàn)、惡毒言論也讓媒體頭疼不已，于是有些媒體選擇將評論區(qū)關(guān)閉。例如紐約時報的網(wǎng)站就只有 10% 的文章開放評論，但這種做法也讓很多理性的讀者失去了發(fā)表看法的平臺，于是《時報》和谷歌合作，利用后者的算法開發(fā)了評論區(qū)惡毒言論過濾器，借此希望未來能夠?qū)?80% 的文章開放給讀者評論。

　　Bassey Etim 是《紐約時報》網(wǎng)站的社區(qū)編輯。在他看來，新聞通訊社與讀者間的關(guān)系相當(dāng)簡單，讀者付款訂閱或者看廣告免費(fèi)讀新聞，而通訊社們將掙來的錢投入后續(xù)的新聞報道中去。

　　不過，網(wǎng)站社區(qū)的出現(xiàn)卻讓事情變得越來越復(fù)雜。通訊社們想與讀者進(jìn)行深入交流，而讀者也想找個渠道來發(fā)表自己的看法，于是讀者們開始在評論區(qū)交流起來。當(dāng)然，如果大家都本著友好交流的心態(tài)，評論區(qū)可能會出現(xiàn)許多金句，但事實(shí)上評論區(qū)卻總是會出現(xiàn)各種不相干的內(nèi)容，同時這里也成了網(wǎng)絡(luò)暴力和謠言的溫床。

　　為了凈化評論區(qū)風(fēng)氣，《紐約時報》會人工對評論區(qū)的讀者評論進(jìn)行審核。不過，每天平均 1.2 萬條以上的評論卻讓審核人員怨聲載道。有時由于缺乏人手，他們還會直接關(guān)閉某些新聞的評論區(qū)。雷鋒網(wǎng)發(fā)現(xiàn)，《紐約時報》許多爭議性較強(qiáng)的頭條新聞在發(fā)布時就直接禁止評論。

　　不過，這樣的情況馬上就要發(fā)生改變了。

　　今天，《紐約時報》上線了名為 Moderator(意為版主)的新系統(tǒng)，未來頭條新聞的評論區(qū)在工作日每天都會開放 8 小時。此外，新聞和觀點(diǎn)板塊的評論區(qū)則會 24 小時開放。

　　Moderator 的誕生還要感謝 Jigsaw，它是谷歌旗下的技術(shù)孵化器，該公司利用機(jī)器學(xué)習(xí)技術(shù)優(yōu)先審核“言論不太出格”的溫和評論，有時還會自動給它們放行。Moderator 有這樣的能耐是因?yàn)樗殚喠?2007 年以來評論區(qū)里超過 1600 萬條溫和評論。

　　在《紐約時報》看來，讀者的評論也是內(nèi)容，但它們更重視質(zhì)量而非數(shù)量。調(diào)查結(jié)果也顯示，《紐約時報》的讀者們非常喜歡評論區(qū)不時出現(xiàn)的神評論。

　　去年夏天，Jigsaw 也發(fā)覺自己需要處理類似的問題：到底怎樣提升網(wǎng)絡(luò)會話的質(zhì)量呢?

　　于是，兩家公司一拍即合，拿到《紐約時報》的匿名評論數(shù)據(jù)后，Jigsaw 打造了一款機(jī)器學(xué)習(xí)算法，它能掌握社區(qū)編輯對待評論的尺度。除此之外，這兩家公司還拉上了名為 Instrument 的數(shù)字產(chǎn)品合作伙伴一起打造 Moderator。如今，這款算法還成了 Perspective 計(jì)劃的一部分，該項(xiàng)目的目標(biāo)是揪出網(wǎng)上的騷擾和各種語言暴力。

　　“出版商靠廣告生存，而廣告商投放廣告時看的是讀者的參與度?！盝igsaw 董事長 Jared Cohen 寫道。Jigsaw 將“幫助各大新聞平臺開辟供讀者進(jìn)行兩性討論的空間?！?/p>

　　《紐約時報》將如何利用 Moderator

　　Moderator 的加入讓社區(qū)管理用戶貢獻(xiàn)內(nèi)容的方式發(fā)生了改變，傳統(tǒng)上優(yōu)先考慮每一條評論的方法被摒棄了。在 Moderator 的管理下，每條評論都會被打分，如果不符合要求就不會出現(xiàn)在評論區(qū)。

　　對《紐約時報》的社區(qū)編輯來說，每條評論都像是直方圖上的一個小點(diǎn)(如下圖)。

　　在直方圖上的位置可能就會決定一條評論是否會被刪掉。除此之外，Moderator 還會試著預(yù)測為何一些評論會被刪掉。

　　有了新工具，《紐約時報》的社區(qū)編輯們輕松多了，它們能直接參考機(jī)器學(xué)習(xí)模型，閱讀那些有 15%-20% 被刪除可能性的評論，如果這些評論足夠溫和，他們可能就會對 0%-20% 區(qū)間的所有評論放行。回想從前，社區(qū)編輯們需要對每條評論進(jìn)行逐個閱讀。

　　被優(yōu)先推薦的評論總是“綜合評分”較高，新系統(tǒng)加入后，能否得高分則主要看三個方面：評論是否包含淫穢色情內(nèi)容、毒害性言論和被刪除的概率。

　　隨著綜合評分系統(tǒng)的逐漸成熟，《紐約時報》決定進(jìn)一步降低社區(qū)編輯們的工作強(qiáng)度，那些絕對人畜無害的評論會被自動放行。

　　Cohen 先生表示：“機(jī)器學(xué)習(xí)的優(yōu)勢就在于它會隨著學(xué)習(xí)的深入變得越來越聰明?！?/p>

　　未來，網(wǎng)絡(luò)評論的好日子可能會重新到來?！都~約時報》就正在搭建一個能讓讀者隨心討論的安全環(huán)境，這里沒有臟話、騷擾和網(wǎng)絡(luò)暴力，每個人都能平心靜氣的抒發(fā)自己的觀點(diǎn)。