Facebook必須時(shí)刻保持警惕，防止其平臺(tái)被“為非作歹之徒”所攻占，但他們究竟如何做到這一點(diǎn)，只有自己知道。然而在今天，該公司為我們提供了一些數(shù)據(jù)，說明他們正在使用何種工具以及正在取得什么成果，例如，今年到目前為止，已經(jīng)刪除了1400多萬(wàn)條“恐怖內(nèi)容”。

在1400萬(wàn)內(nèi)容中，半數(shù)以上是在2018年之前發(fā)布的舊帖子，其中一些內(nèi)容已經(jīng)上線好幾年了。但正如Facebook所指出的，那些內(nèi)容很有可能從來(lái)未被閱讀過。很難想象一個(gè)招募恐怖分子的帖子在970天內(nèi)被人看過，卻未被管理系統(tǒng)識(shí)別出來(lái)。

也許更重要的是，新帖子被刪除的數(shù)量似乎在穩(wěn)步增長(zhǎng)。在今年第一季度，120萬(wàn)條帖子被去除;在第二季度中，這一數(shù)字變?yōu)?20萬(wàn);在第三季度，為230萬(wàn)。用戶報(bào)告內(nèi)容的移除數(shù)量也在增長(zhǎng)，盡管在數(shù)量上要小得多——在第三季度大約有16000條。事實(shí)上，F(xiàn)acebook自豪地報(bào)告說，其中99%的內(nèi)容是該公司“主動(dòng)”刪除的。

值得注意的是，F(xiàn)acebook在談到這種內(nèi)容時(shí)總是言語(yǔ)謹(jǐn)慎、小心措辭，例如，他們不會(huì)說“恐怖分子發(fā)布了230萬(wàn)條內(nèi)容”，而是說“被劫持”或“浮出水面”的內(nèi)容數(shù)量。這樣做更保守，在技術(shù)上也更正確，因?yàn)樗麄冎荒軐?duì)自己的行動(dòng)心中有數(shù)，但這種做法也淡化了恐怖分子每月發(fā)布數(shù)十萬(wàn)帖子的事實(shí)。

人們無(wú)法判斷1400萬(wàn)條恐怖內(nèi)容是多?還是少?不過，令人印象深刻的是，據(jù)說Facebook已經(jīng)大大擴(kuò)展了自動(dòng)化檢測(cè)工具的范圍。該公司稱：

“我們利用算法識(shí)別違規(guī)文本帖子(我們稱之為“語(yǔ)言理解”)的實(shí)驗(yàn)，現(xiàn)在已涵蓋19種語(yǔ)言。”

同時(shí)，降低內(nèi)容刪除速度的bug已被修復(fù)：

“2018年第二季度，使用我們的標(biāo)準(zhǔn)工具，將新內(nèi)容上傳到平臺(tái)上的平均時(shí)間約為14小時(shí)，比2018年第一季度有顯著增加。這種增長(zhǎng)是由多種因素推動(dòng)的，包括修復(fù)了一個(gè)阻止我們刪除一些違反政策內(nèi)容的bug，以及推出新的檢測(cè)和執(zhí)行系統(tǒng)。”

第三季度的數(shù)字還會(huì)有所提高，因?yàn)楦倪M(jìn)工作正在進(jìn)行中。

“毫無(wú)疑問，我們都希望公司的內(nèi)容管理早點(diǎn)達(dá)到嚴(yán)謹(jǐn)?shù)乃?。值得注意的是，這種機(jī)制最大的好處是不僅僅專注于刪除內(nèi)容，還會(huì)促進(jìn)內(nèi)容管理團(tuán)隊(duì)的不斷成長(zhǎng)。”

關(guān)鍵詞：