鑒黃、認臉、看字，小程序內容審核的新「幫手」來了！

08-13

飛帆達科技 2018年7月5日

小程序因為內容違規被下線？想審核識別違規內容卻不知如何入手？

上周，我們上線了內容安全介面，用這個「神器」幫助大家解決困擾。

今天，我們來詳細了解一下這個「神器」，幫助大家更好地解決上述的各種問題。這個幫手幫你做內容審核用戶通過小程序發布的內容，數量大、種類多，逐個校驗幾無可能。

小程序內容安全介面能夠輔助開發者精準快速地校驗小程序的文本、圖片內容是否含有淫穢色情、涉違法犯罪、涉政有害等內容，抵禦不良信息混入，維護小程序內容健康。

溫馨提醒，開發者就算有了內容安全介面這個稱心的「好幫手」，也不能對違規內容掉以輕心。三大能力，快速發現並處理違規內容能成為「好幫手」，當然是有「超能力」。小程序內容安全介面提供三大能力，從圖片到文本，精準識別違規內容。圖片智能鑒黃無論是用戶通過拍照上傳的內容、自定義頭像，還是文章評論的圖片，圖片智能鑒黃介面都能夠進行主動識別及獲取色情量化程度信息，實現精準快速的色情傾向判斷。智能人臉識別絕不「眼盲」的面部識別能力能夠提取圖中的人臉信息，進行相似度判斷，包括重要政治人物、公眾人物等圖片人臉識別，幫助開發者避免業務的違規和侵權風險。惡意文本檢測文本包含著很多潛在違法元素，內容安全介面提供了更高級智能的惡意文本檢測能力，能夠精準識別文本內容中的違規文字信息，輔助發現違規和惡意內容。這些場景已經能實際使用了目前，內容安全介面已經能夠運用在小程序的文本、圖片等內容校驗中。

用戶的個人資料、媒體類用戶發表的文章及評論、遊戲類用戶編輯上傳的素材等，開發者都能藉助內容安全介面進行文字檢測。

此外，內容安全介面還能對用戶拍照上傳、電商類商品上架圖片、用戶頭像、媒體類用戶文章配圖、社交類用戶上傳的圖片進行檢測。更多你關注的Q&A

了解完小程序內容安全介面的基礎信息，也許你還會有一些疑問：這個介面到底適合誰？有什麼效果？Q&A了解一下——

Q1：開放內容安全介面能為開發者帶來什麼好處？A：我們注意到，近年來，由於產品中存在違規內容而被處罰，甚至關停下架的事情時有發生，開發者的內容審核工作刻不容緩。因此，我們推出了內容安全介面，希望幫助開發者及時發現並處理圖片、文本內容里的違規信息，讓開發者能夠將精力更集中於高質量的小程序開發當中。Q2：哪些小程序可以使用內容安全介面，有使用要求嗎？A：目前，內容安全介面面向所有的小程序開發者，免費提供一定額度的介面調用量，主要為小程序內容審核工作提供幫助，平台不會留存小程序開發者提交的檢測數據。如果調用量需求超出上限，開發者可以通過業務邏輯優化、自行開發內容審核手段、調用其他第三方內容審核介面等方式開展內容審核。Q3：有了內容安全介面，開發者是不是就能省略內容審核工作？A：目前，內容安全介面只提供內容審核的基礎能力，輔助開發者發現有害內容，但對於內容的檢測結果，以及其他違法違規內容（如暴力、恐怖、血腥），開發者仍然需要履行好管理職責，自行開展審核並對有害內容進行刪除等處理，並不能忽視內容審核工作。

同時，開發者可以通過《文本內容安全介面》和《圖片內容安全介面》詳細了解小程序內容安全介面的更多信息，共同打造更加綠色健康的小程序生態。