標籤:

2018-3-23 站務處理簡報:演算法應用再升級,瓦力解鎖新技能

他曾在跨國公司做風控,工資很高卻只夠勉強開銷

他曾赴敘利亞採訪戰地,在炮彈中慶祝三十歲生日

他在接警中心處理過民事糾紛和惡作劇電話

也在酒泉衛星發射中心辛苦維護各種設施

他以蘋果直營店員工的身份告誡你產品買新不買舊

並用前諜報精英的視角對你進行掏心掏肺的職場指導

他從事軟體開發

還兼職電費催繳

在東北擁有一家燒烤大排檔

也和朋友創業熬過 C 輪不倒

他說 1999 年在機場,帥氣的梁朝偉很有禮貌和他交談並有些靦腆

還說 2008 年在北京,用教人打拳的工資買了 iPod 逗前女友一笑

有的人只會假裝寫詩

有的人硬要活得像詩

不過重要的是

他 已被封禁,不能再編故事

——《知乎小管家詩選 第三卷 第五首》


*社區站務數讀*

本周的社區氛圍相比上周有所改觀,舉報總量 168681 條,環比減少 0.89%,違規總量 39849 條,環比減少 7.01%,降幅明顯。

舉報方面,垃圾廣告、違法違規、惡意編輯相關的舉報量有所減少,而不友善、問題需要修改、不規範轉載、誘導投票和侵權相關的舉報量有所上升。

實際違規方面,不友善違規量仍然在上漲,目前已經達到 16521 條;問題違規環比增加較多,漲幅 11.41%;侵權違規量 747 條,增長 8.26%,回升至 1 月末水平。而其他類型的違規量則均出現較大幅度的減少,特別是不規範轉載,違規量僅有 39 條,降幅高達 82.35%。

整體來看,對不友善內容的治理,仍是近段時期的工作重點,接下來我們也會依靠演算法,採用人工+機器的方式對不友善內容進行更快更准更廣的識別和處理。


*小管家有話說*

1. 惡意模仿編故事,刪除內容封帳號

本周,接到知友舉報,我們發現了一例偽造身份的惡意行為,該 用戶 在多個回答下偽造多種身份,編造經歷,企圖以此博取關注。雖然該用戶編造的經歷過於虛假,以至於沒人相信,甚至有的回答一個贊同都沒有騙到,但對於這種帶有模仿意味的惡意行為,我們還是要堅決打擊的。目前該用戶的違規內容都已被刪除,帳號也被停用。

一直以來,實事求是和認真專業都是知友們所推崇的社區精神,知乎倡導大家分享自己真實的經驗和經歷,以此給更多知友帶來幫助和參考。對於編造虛假經歷謀求曝光的惡意行為,我們會根據社區管理規定嚴肅處理,歡迎大家發現可疑情況後向我們舉報反饋,也希望大家不要模仿。

2. 瓦力解鎖新技能,快速識別和處理

近期,我們對演算法機器人瓦力進行了再次集中優化和調整。經過大量反覆訓練,瓦力目前已經可以實時篩查並處理社區內新產生的不友善內容。對於知友們舉報上來的不友善內容也可以做到在 0.3 秒內識別,加上管理員人工核查,大大提升了處理效率和準確率。同時,更聰明的瓦力也可以幫助我們更快更准地識別「答非所問」和「占坑不答」等內容,減少低質和無關內容對大家瀏覽問題的干擾。

前段時間,有近 5 萬名知友參與了「有理由反對」功能的內測。大家在選擇相應「反對」理由後,瓦力會學習大家的每一次選擇,並根據不同知友的信用值權重,動態調整知友對該內容的影響力。簡單來說,「反對」不僅會影響回答的排序,還可能會直接摺疊該回答,或生成相應的提醒標記。知友們的專業度與判斷力,在瓦力的作用下得到了極大限度的延伸和擴展。

知乎小管家:瓦力解鎖新技能:實時識別處理多種違規行為?

zhuanlan.zhihu.com圖標

3. 演算法應用再升級,識別導流和垃圾

為了維護良好的社區氛圍,提升社區管理的效率,我們在工程師的幫助下依靠演算法進行了多項嘗試。除了對不友善、答非所問、事實錯誤等內容的識別和處理外,我們還開始訓練瓦力掌握和識別垃圾廣告及導流信息的能力。

通過大量的調整優化,當瓦力識別此類內容的準確度達到一定水平後,就可以用機器處理替代相當一部分人工處理,並可以在更短的時間內主動篩查,最大程度降低此類違規內容對大家使用知乎的干擾。

關於瓦力是怎麼學習的, @知一聲 也專門發布了文章來說明,感興趣的知友可以看一看,也非常歡迎大家提出意見和建議,幫助瓦力快快進步。


這是知乎小管家的第 48 篇站務處理簡報,祝你擁有精神煥發的周五晚上和輕鬆愉快的周末時光。


推薦閱讀:

被人關注很難嗎?
如果某天知乎被攻擊,匿名都變成實名,這會造成多大的危害?該如何防止?
用 Python 分析你的關注者情況(上)
基於知乎,quora等問題型網站,會有什麼樣的邊際產品誕生?
你覺得知乎里的贊同、關注、取消關注、沒有幫助等操作是否應該再次確認以避免誤操作?

TAG:知乎 | 演算法 |