斗魚(DOYU.US)加強低俗庸俗內容整治 用AI構建內容防火墻

本文來自“TechWeb”。

在“人人都是主播，萬物皆可直播”的時代，為了嚴防低俗內容出現，國內領先游戲直播平臺斗魚(DOYU.US)不斷投入技術研發(fā)，優(yōu)化完善平臺規(guī)則，嚴打低俗庸俗內容，用AI構建內容防火墻。

今年3月起，斗魚對直播內容進行了分類巡查和整治，針對色情三俗、造謠傳謠、侵權假冒、標題黨等六大類惡意營銷賬號進行了全面深度排查，對問題賬號進行了從重、從快處理。今年6月份，斗魚累計清理問題賬號4099個，其中低級庸俗類3200個、標題黨類861個、造謠傳謠類20個、侵權假冒類18個。截至目前，斗魚內容整治措施已取得了實際到位的效果。

在斗魚內容監(jiān)管體系下，平臺所有開播主播均需要通過“實名驗證+人臉識別+人工審核”三道防火墻，既能夠從源頭防止劣跡主播直播，也能杜絕未成年人進行直播，并能在主播違規(guī)后第一時間追蹤到個人，預防后續(xù)惡性事件的發(fā)生。

主播開啟直播間后，其所產出的直播視頻內容就在AI系統(tǒng)里不停運轉，每個畫面都會通過程序做實施對應識別，一旦機器自動識別到低俗、惡搞、謾罵等不良內容，攔截違規(guī)的圖像視頻，平臺可以對這些不良內容做到“秒關”。在顏值、戶外等泛娛樂版塊，系統(tǒng)還會同步采取捕捉交傳聲信息進行分段切片，并通過數據模型進行分析、通過語音、語義、彈幕文字等關鍵點進行智能判斷識別，過濾問題內容推送至人工審核。

據了解，斗魚的AI審核技術已經發(fā)展的相當成熟，目前在直播領域里，斗魚對圖片、視頻、音頻的鑒黃準確度都非常高，已經可以對外輸出該項技術能力。對比其他平臺，斗魚擁有更加龐大的、獨特的用戶數據和行為數據，并且能夠基于海量用戶數據進行分析運算。對比早期斗魚只能應用第三方數據進行圖片識別，目前平臺均已實現自主建模。相對于第三方數據，斗魚風險識別系統(tǒng)經過長期數據篩選、培育和自學習后，積累了大量的違規(guī)特征數據，構建了強大計算能力，使得自身的風險識別模型更加精準。

除了自動化監(jiān)管外，斗魚采取機器審核和人工審核相結合的方式，通過后臺監(jiān)控、人員巡查、機器識別以及舉報處理等各種途徑對所有直播頻道進行全天24小時監(jiān)控。為進一步防止出現“漏網之魚”，斗魚還設立了電話舉報、網頁和APP一鍵舉報等功能，更特別集結招募熱心觀眾對全平臺直播相關內容進行監(jiān)督與巡查。截止目前，斗魚巡管團隊共計參與報名人數為17萬余人，已有2000余名斗魚熱心觀眾加入。

除此之外，斗魚還特別制定了完善的應急處置制度，涵蓋“突發(fā)公共安全事件的應急處置制度、應急響應預案、互聯(lián)網突發(fā)事件應急處置預案”等各項內容，提高重大安全事件、突發(fā)敏感事件的應急處理能力，從根源將事件的影響降到最低，所造成的破壞和損失減到最小。

在斗魚的嚴格審核和封禁措施下，“清朗”行動頗具成效。斗魚表示，未來平臺將持續(xù)完善內容審核機制，充實內容審核團隊，嚴格落實24小時監(jiān)測的要求，不斷推進網絡直播行業(yè)的生態(tài)趨向健康。

(編輯：李國堅)