斗魚不斷投入技術研發加強嚴打低俗庸俗內容用AI構建內容防火墻

2020-07-20 11:45:00來源：IT之家

在 “人人都是主播，萬物皆可直播”的時代，為了嚴防低俗內容出現，國內領先游戲直播平臺斗魚不斷投入技術研發，優化完善平臺規則，嚴打低俗庸俗內容，用 AI 構建內容防火墻。

今年 3 月起，斗魚對直播內容進行了分類巡查和整治，針對色情三俗、造謠傳謠、侵權假冒、標題黨等六大類惡意營銷賬號進行了全面深度排查，對問題賬號進行了從重、從快處理。今年 6 月份，斗魚累計清理問題賬號 4099 個，其中低級庸俗類 3200 個、標題黨類 861 個、造謠傳謠類 20 個、侵權假冒類 18 個。截至目前，斗魚內容整治措施已取得了實際到位的效果。

在斗魚內容監管體系下，平臺所有開播主播均需要通過 “實名驗證 + 人臉識別 + 人工審核”三道防火墻，既能夠從源頭防止劣跡主播直播，也能杜絕未成年人進行直播，并能在主播違規后第一時間追蹤到個人，預防后續惡性事件的發生。

主播開啟直播間后，其所產出的直播視頻內容就在 AI 系統里不停運轉，每個畫面都會通過程序做實施對應識別，一旦機器自動識別到低俗、惡搞、謾罵等不良內容，攔截違規的圖像視頻，平臺可以對這些不良內容做到 “秒關”。在顏值、戶外等泛娛樂版塊，系統還會同步采取捕捉交傳聲信息進行分段切片，并通過數據模型進行分析、通過語音、語義、彈幕文字等關鍵點進行智能判斷識別，過濾問題內容推送至人工審核。

據了解，斗魚的 AI 審核技術已經發展的相當成熟，目前在直播領域里，斗魚對圖片、視頻、音頻的鑒黃準確度都非常高，已經可以對外輸出該項技術能力。對比其他平臺，斗魚擁有更加龐大的、獨特的用戶數據和行為數據，并且能夠基于海量用戶數據進行分析運算。對比早期斗魚只能應用第三方數據進行圖片識別，目前平臺均已實現自主建模。相對于第三方數據，斗魚風險識別系統經過長期數據篩選、培育和自學習后，積累了大量的違規特征數據，構建了強大計算能力，使得自身的風險識別模型更加精準。

除了自動化監管外，斗魚采取機器審核和人工審核相結合的方式，通過后臺監控、人員巡查、機器識別以及舉報處理等各種途徑對所有直播頻道進行全天 24 小時監控。為進一步防止出現 “漏網之魚”，斗魚還設立了電話舉報、網頁和 APP 一鍵舉報等功能，更特別集結招募熱心觀眾對全平臺直播相關內容進行監督與巡查。截止目前，斗魚巡管團隊共計參與報名人數為 17 萬余人，已有 2000 余名斗魚熱心觀眾加入。

除此之外，斗魚還特別制定了完善的應急處置制度，涵蓋 “突發公共安全事件的應急處置制度、應急響應預案、互聯網突發事件應急處置預案”等各項內容，提高重大安全事件、突發敏感事件的應急處理能力，從根源將事件的影響降到最低，所造成的破壞和損失減到最小。

在斗魚的嚴格審核和封禁措施下，“清朗”行動頗具成效。斗魚表示，未來平臺將持續完善內容審核機制，充實內容審核團隊，嚴格落實 24 小時監測的要求，不斷推進網絡直播行業的生態趨向健康。

標簽：斗魚用AI構建內容防火墻