知乎舉辦「陰陽怪氣」展 用 AI 技術凈化網路語言暴力

來自專欄重慶3C生活1 人贊了文章

上游新聞·都市報傳媒記者 顧立

現代社會節奏快速，工作、生活壓力大，網路成了不少人「戴著面具」肆意發泄負面情緒的地方。在社交平台上跟他人交流時。如何治理「網路語言暴力」和「陰陽怪氣」，成為眾多社交網路平檯面臨的嚴峻課題。

9 月 20 日，知識內容平台知乎在成都武侯區大悅城舉辦了一場「陰陽怪氣」展。現場通過來自知乎用戶的書法、漫畫作品，「瓦力實驗室」，「陰陽怪氣粉碎機」等有趣互動展示，讓大眾看到網路語言暴力帶來的傷害，同時展示了AI技術在凈化網路語言暴力方面的應用。知乎社區治理運營總監孫達雲，內容質量管理團隊技術負責人劉兆來分別從運營、技術角度，介紹了知乎對於 AI 技術的探索應用，也闡釋了知乎面對「陰陽怪氣」這一業界前沿難題最新解答。

一場反「陰陽怪氣」的書畫展

網路討論中的「陰陽怪氣」也可以用「杠精」行為指代。以「通常是不針對發言內容，而是批評對方的語氣」以及「通常是提出反對觀點，但不給或給出極少數論據支持」這兩類言論為代表，此類內容極大的傷害創作者們的體驗，也成為想要通過互聯網好好交流的人們的一大困擾。

知乎選取了網路上各類常見的「陰陽怪氣」式評論內容，邀請專業用戶進行了漫畫、書法創作並帶到現場。通過傳統藝術與現代語言的結合，帶動人們對於「隱形的網路言語暴力」的思考，傳達「陰陽怪氣」的說話方式對人際交流的影響。

此外，現場的「陰陽怪氣粉碎機」也引發了眾多參觀者的興趣。現場觀眾們可以在紙上寫下自己最不想聽到、看到的網路暴力語言，如：「你是在逗我嗎？」，「好好回到小學重造吧」；然後丟入代表「粉碎機」的碎紙機，親手將這一不文明行為「徹底粉碎」。

「瓦力」進化保障良性討論空間

這場展覽的背後，是知乎自主研發，名為「瓦力」的演算法機器人。雖然看不見也摸不著，但它不僅陪伴了數千萬知乎用戶每天的討論交流，還肩負著代替人工，用更高效率維護知乎討論氛圍的重任。

解決「陰陽怪氣」問題的核心難點在於網路語言的複雜性。例如經典的「呵呵」，由於雙方不同關係、說話的不同場景和時間都會帶來迥然不同的表意。即便是人工判定都存在標準化難度，演算法模型的訓練挑戰就更為艱辛。

「我們基於對用戶切實體驗的累積觀察，與演算法團隊一起，從情感傾向性、親密關係、文本特徵三方面入手，建立了內容情感模型、用戶親密度模型和文本識別模型，並通過訓練不斷迭代完善。三大模型的結合，不僅擺脫單一演算法模型的局限性，也讓「瓦力」的「陰陽怪氣」識別準確率超過了大多數人工判斷。」孫達雲在現場介紹中表示。

近期，知乎還對機器人「瓦力」進行了產品升級，推出「瓦力保鏢」新功能，保護在知乎進行內容創作的用戶不受「陰陽怪氣」的困擾，從而更好地分享知識。它能夠主動對網友評論的「陰陽怪氣」類內容進行智能識別，同時進行毫秒級地識別和摺疊處理。瓦力的探索，為建立互聯網公共討論秩序提供了行業範本。

記者獲悉，目前除社區內容治理方面的應用之外，知乎已經將 AI 演算法全面應用於知乎的內容生產、消費、連接等環節。在內容生產場景中，知乎通過 AI 幫助問題生成，推出「問題路由」產品，實現了從問題生成到問題匹配的智能化和精準化，提升傳統問答的效率。在內容消費場景中，知乎也通過 AI 演算法進行精細化的流量分配，從而幫助用戶快速精準地獲得既感興趣又有幫助的內容。

推薦閱讀：