文字內容過濾方式-關鍵字

02-12

任何產品都會因為廣告推廣、辱罵他人等站方不歡迎內容而苦惱，在產品初期，內容產生量少時，可搭建後台，拉取所有內容一條一條查看即可。當產品逐漸發展，新增內容逐漸增多，人工逐一查看這種低效的方法變得投入產出比極低。需要增加產品機制來輔助內容審查。

目前文字類內容都基於關鍵字系統，如果內容包含關鍵字，則觸發產品機制：

比如設置關鍵字為「你媽」，那麼「你媽的，你怎麼這麼蠢。」、「你媽和我媽都去上海玩了」都會觸發產品機制。

觸發產品機制後，過濾方式有這麼幾種：內容審核、文字轉化、拒絕提交。

內容審核：當內容命中關鍵字，進入審核列表，運營人員對內容進行單獨查看和操作，而沒有命中關鍵字的內容，不會進入審核列表。

審核方式有兩種，一種是「先發後審」，一種是「先審後發」。

先發後審的意思是用戶可以先發布內容，內容正常的流通，命中關鍵字的內容系統進行抓取，運營人員查看後操作。

先審後發的意思是用戶的內容發布後，不進行流通，僅個人可見。運營人員查看後，認為沒有問題後放出，進行流通。

文字轉化：當內容命中關鍵字，對關鍵字進行轉變，常用方式是將內容變味亂碼，如??。

比如設置關鍵字為「你媽」，那麼用戶發布內容為：「你媽的，你怎麼這麼蠢。」那麼發布出來之後會變成「??的，你怎麼這麼蠢。」。

也有產品將文字轉變為其他內容，比如用戶打出「你媽的，你怎麼這麼蠢。」那麼發布出來會變成「我媽的，你怎麼這麼蠢。」或者打出「草泥馬」會變成「萌萌噠」。

拒絕提交：當內容命中關鍵字，無法提交，顯示提示文案，刪除關鍵字後可以提交。

拒絕提交在場景上適合與用戶個人信息的設置。內容上適合與比較嚴格的關鍵字，比如「嫖娼找我」，「賣槍械找我」高危切命中率極高的詞語。

文字轉化適合於文字存留時間較短的對話場景。比如遊戲中的對話，直播中的彈幕，開放的聊天室。各大不歡迎內容中，辱罵內容被文字轉化是最多的。

內容審核適用於文字永久存留的場景，比如論壇，視頻的彈幕、留言，貼吧的帖子。