內(nèi)容巡查的特點(diǎn)
考勤聯(lián)動(dòng)
可關(guān)聯(lián)巡查人員考勤數(shù)據(jù)，若巡查人員請(qǐng)假未考勤，則默認(rèn)不推送巡查計(jì)劃（需具備考勤管功能）
個(gè)性化語(yǔ)音推送
“您有一條新工單待處理，請(qǐng)及時(shí)處理”，巡查計(jì)劃開始前會(huì)自動(dòng)推送語(yǔ)音信息，消息不會(huì)被手機(jī)系統(tǒng)屏敲
巡查指引
巡查前可點(diǎn)擊查看巡查標(biāo)準(zhǔn)項(xiàng)和方法指引，同時(shí)支持文字和圖片形式
無(wú)網(wǎng)巡查
支持無(wú)網(wǎng)絡(luò)狀態(tài)下進(jìn)行巡查（地下室、停車場(chǎng)、信號(hào)較弱地區(qū)
一鍵報(bào)單
巡查過程中發(fā)現(xiàn)的問題可一鍵報(bào)單轉(zhuǎn)成工單跟進(jìn)（需具備工單功能）
智能app內(nèi)容檢測(cè)的能力
內(nèi)容更新檢測(cè)
網(wǎng)站、公眾號(hào)、微博每日更新文章數(shù)量是否存在應(yīng)更新未更新的情況
內(nèi)容表述錯(cuò)誤檢測(cè)
發(fā)布的內(nèi)容中是否存錯(cuò)別字、意識(shí)形態(tài)問題、敏感信息和自定義檢測(cè)內(nèi)容
錯(cuò)鏈暗鏈檢測(cè)
發(fā)布的內(nèi)容中是否存在鏈接無(wú)法訪問、內(nèi)容空白、配圖無(wú)法打開等問題以及被植入不可見的引流第三方鏈接
通過內(nèi)容自動(dòng)比對(duì)、智能內(nèi)容審核以及智能文本糾錯(cuò)方式，定期進(jìn)行內(nèi)容巡查，有效規(guī)避內(nèi)容表述不當(dāng)及違規(guī)風(fēng)險(xiǎn)
不斷擴(kuò)招的后顧之慮
綜合各路媒體報(bào)道來(lái)看，字節(jié)跳動(dòng)內(nèi)容審核員已擴(kuò)招超2萬(wàn)人，快手、B站、騰訊等各平臺(tái)也分別有數(shù)千人。整體不到十萬(wàn)數(shù)量級(jí)的內(nèi)容審核員，在面對(duì)數(shù)億人民產(chǎn)生的倍量?jī)?nèi)容時(shí)，互聯(lián)網(wǎng)秩序的維護(hù)者們也顯得有些力不從心。
內(nèi)容審核員就如“互聯(lián)網(wǎng)保安”，24小時(shí)在文本、圖片、音頻、視頻的不間斷“巡邏”，攔截那些黃色、低俗、涉政、廣告等違規(guī)內(nèi)容，如果攔截不及時(shí)，隨時(shí)就可能上演“全民知曉”的內(nèi)容安全事故。而長(zhǎng)期熬夜、身體紊亂、長(zhǎng)期面對(duì)黃色、低俗等內(nèi)容，對(duì)審核員的精神，心理，造成非常大的損傷。
國(guó)內(nèi)外已有不少?gòu)臉I(yè)者受到類似困擾，輕則“惡心到吃不下飯”，“晚上做噩夢(mèng)”，嚴(yán)重的心理創(chuàng)傷，甚至可以讓人變得麻木和暴躁，越來(lái)越具有攻擊性，甚至有審核員猝死。
可以說(shuō)，當(dāng)前依靠人工審核來(lái)控制內(nèi)容合規(guī)安全，已達(dá)到較高負(fù)荷的狀態(tài)。
那不斷擴(kuò)大審核團(tuán)隊(duì)規(guī)模，就可以“后顧無(wú)憂”嗎？顯然這已不再是較優(yōu)解。眼下還是平臺(tái)可以增加人力成本，擴(kuò)招人工、“少賺一點(diǎn)”的階段，但作為企業(yè)，都會(huì)在成本和收益之間想達(dá)到一個(gè)平衡。
如果單純把內(nèi)容風(fēng)險(xiǎn)控制當(dāng)成一件純技術(shù)性的事情，或者說(shuō)只認(rèn)為是企業(yè)的成本負(fù)擔(dān)，不能創(chuàng)造收益。那企業(yè)只需要準(zhǔn)備大量訓(xùn)練數(shù)據(jù)，一些判斷模型就可以直接拿來(lái)用，甚至還可以拿出去做成生意。但真正經(jīng)歷過內(nèi)容安全痛苦的企業(yè)就會(huì)知道，內(nèi)容風(fēng)險(xiǎn)控制掌握著企業(yè)發(fā)展的命門。
海量的內(nèi)容，在人工之外如何做好內(nèi)容的合規(guī)和安全？現(xiàn)已成了所有內(nèi)容相關(guān)企業(yè)繞不開的話題，而內(nèi)容風(fēng)險(xiǎn)控制細(xì)分領(lǐng)域頭部玩家們，也瞄準(zhǔn)了貼近人類思維的AI內(nèi)容審核機(jī)制的算法研究。